中医药向日本传播最早的“使者”应当是方士徐福。据传公元前219年，秦始皇派徐福率领童男、童女数千人，过海寻不死之药，而东渡扶桑(今认为就是日本)，但一去而不返。
南北朝时《明堂图》等医书传入日本，针灸术在日本逐渐为人传习。
日本向我国派遣留学生始于隋朝。隋炀帝大业年间，日本推古朝曾派小野妹子出使中国，随行的药师惠日等留下学习中医。惠日在我国学习了15年才回国，其后又两度赴唐，并将《诸病源候论》等医书带回日本。唐代日本政府多次派遣大批医师、僧侣随使者来中国深造，并广泛搜罗各种医学书籍带回。公元701年，日本颁布“大宝令”，其中的医事制度、医官、医学教育设置均仿照唐制，并规定教授医学以《素问》、《黄帝针经》、《明堂脉诀》、《新修本草》、《伤寒论》、《千金要方》等中医典籍为教材。公元8世纪，日本来中国聘请高僧传戒，扬州大明寺高僧鉴真大师接受邀请。鉴真历时10多年，多次东渡，几经沧桑，双目失明仍不动摇，终于第六次渡海获得成功。随船带去药材千余斤，有些至今还珍藏在奈良东大寺正仓院。鉴真在日本除弘扬佛教外，为传授中医药知识做了大量工作，他把自己鉴别药材，治疗疾病的经验，毫无保留地传授给日本医僧，并撰写了《鉴上人秘方》一书，惜已失传，仅在《医心方》中收载数首经验方。日本医家尊他为“医祖”，直至德川时期，日本药袋上还印有鉴真图像，说明鉴真在中日医学交流过程中起到了重要作用。
鉴真
公元808年，日本平成天皇诏令安培真直、出云广真等征集全国验方，并参考《素问》、《黄帝针经》、《小品方》、《新修本草》等中医经典医籍，编纂了《大同类聚方》100卷。以后类似医著不断出现，其中最有影响的是丹波康赖的《医心方》。这部著作收载了隋唐以前百余种医籍的部分内容，对我们研究现已佚失的或残缺的古代医籍极有价值。明代时，日本田代三喜来中国学习医学，专门研究李杲、朱震亨的医学论著达12年，成为日本研究李、朱学术思想的创始人。明末，《本草纲目》传入日本。
在中日两国医学界均很有影响的医学世家丹波氏，原是我国汉宗室刘氏后裔。丹波家族定居日本900多年，繁衍数十代，对日本的“汉方医学”做出了卓越的贡献，也维系了长期的中日医学交流。江户时代(公元1600—1876年)，丹波氏35至37代传人元德、元简、元胤、元坚等以毕生精力从事汉医方考据工作，是日本很有影响的考据学派代表。他们的著述诸如《素问识》、《灵枢识》、《伤寒论辑义》、《金匮述义》、《医籍考》等达数十种之多，在我国医界也因其有重要的学术价值而受到重视。
清光绪、宣统年间，我国三次派人去日本考察，带回不少中医古籍和汉方医籍，这对活跃我国中医学术活动是有很大意义的，另一方面也对日本汉方医的发展有所了解。
日本在明治维新以后，研究西洋医学的学者大增，西方医学成为日本医学研究的主流，研究中医的相对减少了。