1853年美国以炮舰威逼日本打开国门，从此日本迎来崭新的篇章，这就是日本历史上著名的“黑船来航”事件。西洋音乐在同一时期随着黑船一起登陆日本。
美国海军准将马休·佩里率领炮舰来到江户湾的浦贺及神奈川时一连放了好几台礼炮，轰隆隆的炮声震慑住了当时的日本人，可以说是一种压倒性的军事示威。在那之后，新成立的明治政府开始紧急实施军事的近代化，“黑船来航”时给日本人留下深刻印象的军乐队也作为一种军需品被输入了日本。
当时日本政府命令能乐表演者学习西洋音乐，而后者原本对西洋乐器一窍不通，便向驻守横滨的英国陆军军乐队长求教技术，逐步掌握了军鼓、军号的演奏方式。之后明治政府便以他们为核心建立了日本首支西洋军乐队，从此军乐开始在明治政府的各大外交活动中登场，和雅乐一起成了官方音乐的象征。
为了跟上西方化的进程，明治天皇剪掉了长发，开始学习西方的就餐礼仪。随着西洋宴会的增加，军乐演奏的机会也多了起来。宴会和典礼一类的活动毕竟有所不同，一边进餐一边听人打鼓吹号实在太煞风景，于是乐师们又开始学习西洋的管弦乐器。直到现在，每逢宫内厅举行盛大晚宴时，西洋音乐和雅乐必定会一道上场。
日本国歌《君之代》的歌词原本是10世纪编纂而成的《古今集》里的一首短歌，在19世纪被谱上曲之后才作为日本国歌被传唱至今。实际上，在现在流传的《君之代》之前还有一个外国人谱曲的版本。19世纪驻守日本的一名英国军乐团教师约翰·芬顿为《君之代》谱上西洋音乐的曲调，并由当时萨摩藩的军乐队演奏。然而对于那时的日本人而言，西洋音乐还是过于陌生了，很多人根本听不惯这个版本。直到后来日本海军乐队指挥中村雄助等三人亲自将西洋曲调的《君之代》改良成和式旋律和节奏，才有了现在日本人传唱的雅乐风格的《君之代》。
改良后的《君之代》在明治十三年（1880年）天皇生日当天首次披露，而且大受好评。那个时候日本人对音乐的审美还是与西方截然不同的。可谁也没有料想到，仅仅一个世纪之后，这一切都会发生天翻地覆的改变，原先自成一派的日本音乐迎来了崭新的格局。