1868年，日本明治维新推翻了德川幕府政权，建立起以明治天皇为首的新政权。明治政府一方面在国内进行资产阶级改革，同时也试图与中国建立外交关系。1871年9月，中日双方全权大臣李鸿章与伊达宗成经过会谈后，签订了《中日修好条规》。决定正式建交，互开口岸，通商贸易，并互派外交官，设立使领馆。这就为中日文化交流创造了有利的条件，从此，中日人员交往频繁，两国的官员、文人来往不绝，留下了不少动人的佳话。
1871年中日建交后，日本不断派遣使节和外交官来华，清政府直到1877年1月才正式任命翰林院侍讲何如璋为首任驻日公使。11月27日何如璋率第一届驻日使团乘海安轮从上海出发，30日抵达长崎，长崎烟台鸣礼炮21响并升起龙旗致敬。使团在长崎、神户等地都受到华侨和日本群众的盛大欢迎。12月28日正式向明治天皇递交国书。不久即选择环境幽静秀美的东京芝山月界僧院作为中国公使馆临时馆址，开展各种外交和文化交流活动。
在第一届中国驻日使团中，对中日文化、交流贡献最多、影响最大的人物，并非公使何如璋，而是首任参赞官黄遵宪，他不仅是中国近代一位杰出的外交家，也是一位著名的爱国诗人和维新思想家、政治家。
黄遵宪(公元1848—1905年)字公度，广东嘉应州人(今广东梅县)。他在少年时代就有远大志向，不满封建科举制度，而希望到广阔天地去干一番轰轰烈烈的事业。他到过广州、香港、天津、烟台等商埠，见识较广，眼界开阔。黄遵宪满怀爱国热情，留心时务，主张改革，探求救国救民道路。1876年他考中举人，次年由何如璋推荐为首届驻日使团参赞官。黄遵宪不顾亲友们的阻拦和惋惜，毅然抛弃了科举仕途，选择了到海外从事外交工作的职业。他是首届驻日使团中最活跃的核心人物，不仅负责与日本外务省及各界人士的联系，而且使团与日本方面的交涉照会及向清政府的报告，也常常由他起草。
作为一个外交官，黄遵宪主张中日两国平等相待，友好相处，互相学习，各求富强，共御外侮。同时他又坚决反对日本统治集团种种破坏中日友好、侵犯中国主权的行为，始终据理力争。他在一首诗中指出中日两国：
同在亚细亚，自昔邻封辑。
譬若辅车依，譬若倚角立。
所恃各富强，乃能相辅弼。
同类争奋兴，外侮日潜匿。
作为一个友好的使者和杰出的诗人，黄遵宪风尘仆仆漫游日本各地，参加各种集会，结交各方面人士。他还常常与日本诗人唱和诗篇，通过口说笔谈吟诗题字宣传中日友好，弘扬中国文化，进行文化交流。并和许多日本人士结下深厚的友谊，仅仅在他的诗文中提到的日本朋友就有数十人之多。
黄遵宪在驻日期间最大的成就则是创作《日本杂事诗》和编写《日本国志》。黄遵宪到日本后细致考察日本的历史地理，认真研究维新制度，游览名山大川，熟悉民俗风习，了解工艺物产，比较中日文化，陆续创作了一百多首“杂事诗”。每首都是七言绝句，内容广泛，短小生动，活泼有趣。每首诗后还附有长短不等的白注，以解释或补充诗意之不足。他的《日本杂事诗》1877年由清朝总理衙门出版初刊本，收诗154首。以后又有各种版本，至1890年他在伦敦任驻英参赞期间，又把它增订成定本，共200首，1898年由长沙富文堂刊印。《日本杂事诗》上卷主要写日本历史、地理、政治、文学等方面，下卷则着重写风俗、服饰、技艺、物产等等。如第一首诗生动地概括了日本史地：
立国扶桑近日边，外称帝国内称天。
纵横八十三州地，上下二千五百年。
有一首诗形容日本的名胜富士山也极为形象：
拔地摩天独立高，莲峰涌出海东涛。
二千五百年前雪，一白茫茫积未消。
另一首描写日本人观赏樱花的景象，也十分动人：
朝曦看到夕阳斜，流水游龙斗宝车。
宴罢红云歌绛雪，东皇第一爱樱花。
除了《日本杂事诗》外，黄遵宪还写了咏颂日本国花的长诗《樱花歌》，记录京都传统风俗的《都踊歌》和歌颂维新志士的《近世爱国志士歌》等许多有关日本的诗歌，收录在《人境庐诗草》之中。黄遵宪通过他的诗歌沟通中日两国人民的心灵，加深互相理解和友谊，也深深博得中日人民的喜爱，以至“新诗脱口每争传”。
黄遵宪在驻日期间还深入调查日本历史和现状，大量收集有关明治维新后日本政治、经济、文化等方面的资料，尤其是日本政府各机关发布的各种公报、法令、统计表等第一手材料。他从1879年开始，花了八年多功夫，直至1887年完成了《日本国志》这部巨著。全书共40卷，50万字。分为国统志、邻交志、天文志、地理志、职官志、食货志、兵志、刑法志、学术志、礼俗志、物产志、工艺志等12类。这是近代中国人研究日本的集大成代表作，它大大加深了中国人对日本的了解和认识，在中日文化交流史上占有重要的地位。同时它又鼓吹学习西方，效法日本，主张以日本明治维新为榜样，在中国实行变法，成为戊戌维新的启蒙读物，在中国近代思想史上闪耀着异彩。
在明治初年，中国传统文化与中国文人学者在日本尚享有很高声誉。中国驻日公使馆建立后，日本各界人士纷纷前来拜访，竞相与中国使团人员笔谈交欢，或以诗酒翰墨共乐。源辉声就是常来的日本人之一。源辉声(公元1848—1882年)，号桂阁，祖居大河内，故又称大河内辉声或源桂阁。他原是日本世袭高崎藩主，明治维新后废藩置县，任高崎知事，因不赞成新政而辞官归乡，以后长期闲居东京墨江畔。源辉声精通汉诗、汉学，嗜爱翰墨，广交文士，尤其喜欢与旅居日本的中国人、朝鲜人，特别是中国公使馆的官员用汉文笔谈，并以此为乐。他对中国人十分尊重，而且不分长幼贵贱，一视同仁。从公使、参赞一直到仆役、孩子，都与之笔谈。甚至遇到使团会讲日语的翻译，也自称不善言谈，宁肯“以一枝笔换千万语言”。因为笔谈可以留下墨迹作为纪念，所以他每次去中国公使馆都准备好笔谈用纸，一问一答都写在上面，当天晚上就把这些纸裱好，精心保存起来，然后按顺序编排装订成册。这些珍贵的笔谈手稿一直保存至今，统称为《大河内文书》，共计有数百次笔谈，达96卷之多。
《大河内文书》中的这些中日文人的笔谈内容涉及中日两国的政治、学术、文化、风俗以及日常生活等各方面，几乎是无所不谈。由于是私下随便交谈，故毫无拘束，畅所欲言，并无一点掩饰与做作，颇能反映笔谈者们真实的思想与生活。源辉声在许多笔谈上还注明了时间、地点、在场人物，有时甚至还记下他们动作、表情，读起来犹如一部演出用的剧本，观笔谈如见其人，声音笑貌，栩栩如生。例如有一次关于文学艺术的笔谈，黄遵宪称赞《红楼梦》是“开天辟地从古到今第一部好小说”，可惜日本人不通汉语，“不能尽得其妙也”。源辉声则介绍日本的《源氏物语》用意相似，你写荣国府、宁国府，我则写宫廷之情，而且作者紫式部是一位才女，此事可能会使曹雪芹吃惊。黄遵宪说遗憾自己不通日语，没有读过《源氏物语》。但看到日本民间几乎人手一册，我想其中“必有妙处”。在笔谈中还常常可以看到日本人士向黄遵宪请教写诗、作文及书法、读书。同时黄遵宪等也经常向日本人士了解日本历史、制度、风俗、典籍，有时还请他们帮助翻译日文资料。
黄遵宪的《日本杂事诗》受到日本人士的推崇喜爱，因此源辉声请求黄遵宪把一部分诗稿赠他收藏，黄遵宪答应把部分手稿埋在他家的院子里，以为“稿冢”。于是在1880年正式树碑立冢，碑面刻着黄遵宪亲笔书写的“日本杂事诗最初稿冢”九个大字。背面刻有源辉声所撰写的《葬诗冢碑阴志》记述了自己与黄遵宪的交往、友谊以及葬诗树碑立冢的经过。其中记载石碑刻成之日，源辉声设宴畅饮，黄遵宪亲自把诗稿藏在袋里埋入土中，并洒酒吟诗：
一卷诗兮一抔土，诗与土兮共千古。
乞神佛兮护持之，葬诗魂兮墨江浒。
源辉声接着和诗道：
咏琐事兮着意新，记旧闻兮事事真。
诗有灵兮土亦香，我愿与丽句兮永为邻。
诗冢原在东京墨江畔源氏旧宅，后来源辉声去世后，其子迁于其父墓葬地琦玉县平林寺。
中国诗人的手稿，埋葬在日本的国土上，这真是中日文化交流史上的一段佳话，表现了中日两国人民之间多么真挚感人的情谊啊！