日本传统乐器大多来自亚欧大陆的东端。日本地处“海上丝绸之路”的最东边，并不是国际贸易的中心区域，在文化交流上拥有天然弱势。日本又是岛国，从很久以前开始，日本人就对海上漂来的珍奇玩意儿格外珍惜。这造就了日本人对外来文化的巨大包容力。但另一方面，日本人几乎从不把漂洋过海而来的东西直接拿来用，而是将其改造成符合日本人审美的版本，在乐器方面也不例外。
日本传统乐器大致上可分为弦乐器、管乐器和打击乐器三种。
弦乐器中的琴、筝、琵琶不用多说，都是源自中国的。鼎鼎大名的三味线源于中国的三弦，先是传到了琉球王国（今冲绳），诞生了早期的冲绳三线，之后才传至日本本土。
三味线在日本普及后，日本老百姓平常兴致来了，想跳舞唱歌时，身边只要有把三味线就可以进行伴奏。后来三味线又在歌舞伎表演中频繁出现，很多盲人歌手使用三味线创作出了许多流传至今的经典歌曲，三味线很快成为日本最流行的传统乐器。
接下来说说管乐器。日本最具代表性的管乐器无疑就是笙、筚篥和尺八了。笙和筚篥同样源于中国，都是在奈良时代从中国传到日本的，其中筚篥是一种类似于唢呐的乐器。这两种乐器在日本雅乐中扮演着非常重要的角色，人们常以“笙筚篥”合称。不过，筚篥只有在雅乐中才会被使用，在其他日本传统音乐中几乎从来听不到筚篥的声音。为什么呢？
据说筚篥的声音跟日本人的审美不太搭调。清少纳言在《枕草子》里说，筚篥的声音听起来太过吵闹，总像是一堆虫子在叫。
最后是打击乐器。打击乐器种类繁多，光是鼓就有好几十种，其中能称得上代表的应该是太鼓。太鼓在日本的历史非常悠久，早在绳文时代人们就利用太鼓传递信息，后来日本战国时代大名们利用太鼓来鼓舞士气。现在在日本各地的民俗祭典中还经常能看到太鼓登场。除此之外，太鼓还是雅乐、歌舞伎、宗教音乐等的标准配置之一。
演奏太鼓时有固定的行头，包括特定的头巾、衣服、腰带、鞋子等。日本许多中学也有太鼓社团，学生们在社团里学了太鼓之后，就能到祭典上露两手了。