1860年12月9日，日本兵库县的一个地主家庭，迎来了这个家族的第三个孩子，父亲给他起名叫嘉纳治五郎。嘉纳家是当地小有名气的一个小“土豪”，生意涉足酿酒和船运行业，有些金融资本。日本清酒老牌子——白鹤的创始人嘉纳治兵卫，就是嘉纳治五郎的远房亲戚。
嘉纳治五郎出生8年之后，日本开始了明治维新，之后一路高歌猛进，完成了从一个落后封闭的农业国家向资本主义豪强的转变，而嘉纳治五郎日后以一种意想不到的方式，同日本文明开化的进程融合在了一起。
1873年，嘉纳治五郎13岁，因为父亲被明治政府聘请到东京工作，嘉纳治五郎也随着家人移居东京。在东京这个日本文明开化的中心，嘉纳治五郎一边接受书法和古文等传统教育，一边也接触了英语等外国文化。嘉纳治五郎天资聪颖，在17岁的时候顺利进入东京大学的前身——官立东京开成学校学习。不过，嘉纳头脑虽然聪慧，但是从小体弱多病，这让他在学校里没少受同学欺负。终于，嘉纳忍无可忍，决定自立自强。他想通过习武来强身健体，于是不顾父母的反对，开始拜师学艺。嘉纳根据自己身体并不强壮的特点，选择了一种从古代流传下来的武术——柔术。从“柔术”这个名字我们就可以知道，这种武术并不强调绝对的力量刚健，而是讲究以柔克刚，就是中国人常说的“四两拨千斤”，是个技术活儿。
同很多日本的传统技艺一样，柔术最早也是从中国传入日本的。日本战国时代的武士们都身着铠甲，柔术这种徒手搏击术渐渐适应了时代，放弃了对受盔甲保护的躯干部分的拳打脚踢，演变成了以投技（把对方摔倒）、关节技（攻击对方关节和脖子）和当身技（攻击眼睛和裆部等不受盔甲保护的薄弱部位）为主的武术。嘉纳治五郎先后投在不同的柔术门派门下，接受了“柳生心眼流”的大岛一学、“天神真杨流”的福田八之助、“起倒流”的饭久保恒年等人的训练。
1881年，嘉纳治五郎经过4年的学习，顺利从东京大学文学部哲学政治学理财学科毕业。同年，嘉纳综合各个柔术派别之所长，对柔术的理论和训练方法进行了系统的总结，去除了很多落后、危险、不适合训练的动作，创造了以破坏对方重心（日语叫“崩し”）为核心理念的运动，这就是柔道。“柔道”这个名字，在嘉纳之前就有人用过，因此不算是嘉纳的独创。不过现在说起“柔道”二字，大部分日本人都会默认，这说的就是嘉纳治五郎所创造的现代柔道。