挥别黄金十年的日本乐坛在新世纪之初便遭遇了滑铁卢。除了前文提到的原因，更重要的原因是互联网时代的到来。互联网的兴起直接导致CD销量锐减，日本乐坛也开始步入难逢百万单曲的尴尬年代。
在新千年的头几年，这一趋势还不十分明显。借着黄金十年的余晖，2000年的唱片市场甚至交出了14张百万单曲的好成绩。但这一数据在次年就跌落至4张，2002年更是只有滨崎步的《H》这一张百万单曲。这三年最大的特征是由滨崎步、宇多田光等人主宰的歌姬风潮，女性偶像和实力派歌手佳作频出。由于滨崎步、宇多田光、仓木麻衣这三位在同一年出道的年轻女歌手占有绝对优势地位，她们也被世人合称“平成三大歌姬”。此外，以椎名林檎、aiko（柳井爱子）为首的个性派女歌手在当年也大受欢迎。
“歌姬时代”最具代表性的一个事件就是留名日本唱片史的“3·28歌姬大战”。在2001年3月28日这一天，几乎各自拥有当年乐坛半壁江山的滨崎步和宇多田光同时发行了新专辑。滨崎步在当时已经是红极一时的流行天后，这是她的第一张精选专辑，而宇多田光带来的则是继736万销量奇迹的首张专辑之后的第二张原创专辑。这一巅峰对决带来的话题效应无法估量。当时涩谷的街头几乎全是这两位歌姬新专辑的封面照，媒体上随处可见双方轰炸般投放的广告和MV（音乐录影带），众多歌迷甚至连夜在唱片店门外排队抢购唱片，大众关注度空前火爆，这一切都引向了3月28日当天唱片销量的大爆发。
在专辑发售前的“世论调查”中，有将近65%的歌迷认为滨崎步将击败宇多田光，因为这张精选专辑无论是内容还是宣传都太过强大。而首日销量结果公布后，很多人大跌眼镜，宇多田光以微弱优势战胜了滨崎步。这一微弱优势在接下来的几天里一直保持着，直到当周的最后一天滨崎步才扳回了一局，但已无力回天。最终，宇多田光和滨崎步的新专辑分别以300万和287万的成绩刷新了世界音乐史上首周最高与次高销量。这两张专辑也占了那一周所有CD销售量的1/4。
这一成功企划自然让双方的东家赚得盆丰钵满，然而后遗症也数之不尽。当乐坛仅靠几个歌手引起关注时，这个市场就已经岌岌可危了。虽然除了歌姬之外还有桑田佳佑、平井坚等几位男歌手以及杰尼斯的男子偶像团体苦撑，但整体颓势已经无法挽回。与此同时，2000年顶级偶像组合SPEED解散以及早安少女组重要成员毕业宣告了日本乐坛长达10年的女子偶像界冰河期的开始。在接下来的10年中，女子偶像团体在乐坛中举步维艰，这一局面直到AKB48的横空出世才被彻底打破。
在歌姬时代尾声的2003年，滨崎步和宇多田光的势头已经大不如前，而这一年唯一的一张百万单曲、如今依然在日本传唱的国民级歌曲，就是SMAP的《世界上唯一的花》，它以258万的超高销量夺得年度冠军，这一年可以说是当之无愧的“SMAP年”。在日本，销量高的单曲有很多，但能称之为“国民级”的屈指可数。这首歌在当年能够大热，不仅因为它是热播日剧的主题曲，一个更重要的原因在于它的人文意义。
2003年，以英美军队为主的联合部队对伊拉克发动战争，日本政府宣布支持战争，但国内的反战情绪一直高涨。《世界上唯一的花》中唱道“世界上每一朵花都是独一无二的”，这种人文关怀被不少人视为反战诉求，同时也给了经济不景气的环境中个性逐渐被磨灭的日本国民重树个人价值的信心。当然，老少皆宜的旋律与SMAP的国民好感度也是促成这一成功的重要因素。如今，这首歌已经被公认为日本的第二国歌了。
在随后的几年里，日本乐坛在百万单曲方面颗粒无收，乐坛走向也越来越多样化。平井坚、Mr.Children以及以岚为首的杰尼斯男子偶像团体开始接手歌姬时代退潮后的市场。2005年年末，一支将在日后揭开日本乐坛新篇章的怪物级女子团体AKB48出道了。但之后的几年里，日本唱片市场中最庞大的势力还是以岚、KAT-TUN、NEWS领军的杰尼斯男子偶像军团。偶像战国的序幕要等到2010年才正式揭开。
2009年日本的经济增长率几乎为零，一片惨淡的乐坛已经鲜少有百万销量的单曲，30万的销量就可以进入当年年度榜单的Top10（前10位）。不管是靠音乐性还是靠日剧帮衬，都难以刺激日渐疲软的唱片市场。由网络普及带动的正版音乐下载业务虽然略有起色，但还远远不足以引起唱片市场的回暖。
在这萧条的年代，杰尼斯旗下的男子偶像团体汇聚成一股强大的力量，几乎垄断了唱片销量前几位。2009年的年度Top10中有8个席位都被杰尼斯旗下的偶像团体占据，这在以前是不可想象的。
在日本，歌手和偶像是两个单独的职业。歌手以音乐活动为主，而偶像是唱歌、跳舞、演戏、综艺全都有所涉猎的综合型艺人。在20世纪，歌手销售音乐作品，偶像则多是以各种荧幕形象来吸引粉丝，发行唱片只是其中的一个手段。反映到演唱会上，专业的歌手必须以真嗓亮相，如今的偶像却只需要对对嘴型就可以了。在日本娱乐圈中，偶像的地位一直比演员和歌手低。然而，在即将到来的偶像战国时期，偶像却成了日本唱片市场的救世主和领军人，以音乐为主要活动的歌手们反而只有观战的份儿。
这里要重点介绍一下杰尼斯这个事务所。杰尼斯一直以严格彪悍的作风著称。进入杰尼斯的全部都是8～10岁的男孩子，他们在经历唱歌、演戏、跳舞、主持等方面漫长而严苛的训练之后，仅有一部分能够最终接受全方位包装并以偶像身份出道。这种严苛作风为杰尼斯事务所带来了不少好苗子。早在20世纪80年代，“光GENJI”和少年队就风靡一时。随后号称“日本第一天团”的SMAP出道，5位成员在影视、音乐、综艺各领域全面开花。90年代还有以音乐闻名的近畿小子、以长濑智也为首的东京小子和以冈田准一为首的V6出道，每个团体都至少有一名成员在业界取得了突破性的成就。进入新千年后，岚、KAT-TUN、NEWS、“关杰尼∞”等新团体先后诞生而且都在娱乐圈占据了一席之地。这样稳扎稳打、步步为营的经营策略使杰尼斯事务所在日渐式微的日本唱片市场中成为当仁不让的中流砥柱。
然而，到了2010年，一直由杰尼斯事务所一家独大的局面发生了巨大转变，另一股势力以出乎所有人意料的速度迅速崛起，并很快成长为能与杰尼斯抗衡的力量，这就是业已沉寂10年之久的女子偶像团体。
AKB48在2005年出道之后，一开始的发展并不顺利，一连发行了9张单曲却只取得了不到3万的惨淡成绩。但2008年年底发售第10张《大声钻石》时销量突然猛增至近10万，接下来便是几何级数的暴涨，第14张《River》达到了26万，第15张《樱花印记》涨至40万，第16张《马尾和发圈》增至74万，第17张《 Heavy Rotation》稳升至88万，终于在第18张《Beginner》发售之后顺势突破百万，随后便是大量百万单曲的接连诞生。2013年AKB48的《再见自由式》甚至突破200万大关。如今的日本唱片市场中，几乎就只有AKB48能够产生百万单曲了。
2008年年底到底发生了什么？AKB48的崛起有什么推动因素吗？总结起来，大致有以下几个原因。
首先，AKB48本身是不同于以往的任何女子偶像团体的新型偶像。20世纪的偶像如松田圣子、中森明菜都是和粉丝保持距离的“女神”，给人一种不食人间烟火的感觉。而AKB48的经营理念是“可以见面的偶像”，推崇的是偶像与粉丝零距离，团内成员也多是长相略普通的年轻女孩子。AKB48成立以来，其制作人秋元康便通过各种活动拉近偶像和粉丝的距离，而真正将AKB48与销量直接绑在一起则是从AKB48的第10张单曲《大声钻石》开始的。简单来说，从这时开始，AKB48开始举办可以和偶像面对面握手的“握手会”，参加券就附在CD中。一张握手券可以换来与偶像10秒钟的交流时间，多张还可以叠加使用。这一方法的采用使《大声钻石》的销量相比以往有了显著的提升。
当然，这并不足以令AKB48起死回生，另一个让AKB48在公众视野内迅速打开知名度的是2009年举办的第一届AKB48单曲选拔总选举。当时AKB48的成员已经超过了48名，而每次发行单曲时只能从中选择12名左右的所谓选拔组成员参与单曲的制作和媒体宣传。在那之前，选拔组的人选都是由秋元康一手指定的，由此遭到了其他很多成员粉丝的非议，于是秋元康顺势策划出了这样一个由粉丝来决定单曲选拔成员的活动。总选举的规则是，粉丝可以为自己支持的成员投任意票数，最终得票数排名靠前的成员将成为下一张单曲的选拔组成员。如何投票呢？买CD。
由于投票券附在CD中，众多粉丝为了保证自己喜爱的成员的选拔组位置而疯狂购入附有投票券的新单曲。之前提到的突破200万大关的《再见自由式》这张单曲就附有2013年AKB48单曲选拔总选举投票券。但总选举的意义还不仅于此。前无古人的第一届总选举造成了惊人的社会效应，AKB48的知名度猛然蹿升。到了2011年，AKB48的单曲选拔总选举已经成为民众津津乐道的盛会了。
在短短几年间，秋元康又先后建立了SKE48、SDN48、NMB48、HKT48、乃木坂46等姐妹团体，并在印度尼西亚雅加达和中国上海发展了JKT48和SNH48。48系团体已成为足以撼动乐坛的偶像大军，目前仅日本国内的48系团体就有300多名成员。
2009年杰尼斯事务所的岚独霸了年度榜单的前几位，2010年AKB48开始与其平分秋色，到了2011年已经是杰尼斯团体与48系团体的男女偶像团体大混战了。其中AKB48更是以张张单曲破百万的稳定成绩刷新了日本唱片史上的连续百万纪录，这个纪录直到现在还无人能破。
时至今日，偶像战国已经初现疲态，但多亏了杰尼斯和48系团体的奋战，目前日本已经超越美国，成为世界上最大的唱片市场。