石勒在冀南攻刘琨手下大将刘演的时候，刘聪也策反了雁门的少数民族。雁门关是刘琨防守太原的重要隘关，此关一失，太原向北的门户大开。亏得北边是鲜卑族盟友拓跋猗卢，才不至于有大患。刘琨派大将郝诜、张乔把守太原晋阳，亲率一军去雁门平叛。刘聪早就等着刘琨带兵北去。刘琨刚走不久，刘聪便派刘曜带八万大军来攻，郝诜、张乔兵少抵挡不住，二人先后战败。刘曜入城后，先杀刘琨父母，再以刘丰为并州刺史，镇守晋阳，然后浩浩荡荡向北杀去。
刘琨这时已经在雁门平定了叛乱，听说晋阳被围，急忙调兵南援，刚走了一天，又传来消息，晋阳城破，父母皆被刘曜杀死。刘琨大哭一声，率兵日夜南奔，要报杀害父母之仇。一个南下，一个北上，两军很快在野外对垒。刘琨因父母皆丧，气晕了，也顾不上整什么队形，带队就是一顿猛杀。刘曜则分兵数路从三面围攻刘琨。他的兵士又比刘琨多出许多。刘琨虽勇，但战无章法，四面受敌，很快被打得大败。刘琨只好带着几百残兵，向北逃到盟兄猗卢的地盘，向拓跋猗卢求援。
拓跋猗卢没有参与过中原争战，似乎默默无闻，其实他的势力已经相当大了。拓跋猗卢先派他的儿子拓跋六修为先锋，率三万精兵与刘琨收容的败兵一万联军南攻。自己又亲率二十万大军，带着侄子拓跋普根、大将卫雄、范班、箕澹等人随后出发。
两军在汾河东岸相遇。
刘琨所有的士兵都身着素衣，下骑白马，戴孝而战，与拓跋六修的三万精兵一齐向汉军冲杀过去。两军好一场大战，直杀得天昏地暗，杀了几个时辰不分胜负。这时拓跋猗卢率大队军马赶到，二十万大兵立刻将汉军围住，从四面八方向汉军杀来。汉军支持不住，很快溃不成军。刘曜拼命杀出重围，但也身受重伤。直亏大将傅虎拼命保护刘曜渡过汾河，力挡汉兵，战死于乱军之中，才救了刘曜一命。
刘曜逃回到晋阳，知道晋阳也不能守住，便在晋阳城中大抢一番，连夜出城，日夜不敢停歇，一路南逃。拓跋猗卢和刘琨则在其后猛追，还亏刘曜上次在长安逃过一回，已经有充足的逃跑经验，总算是顺利逃回了平阳，但也只剩下数千骑兵。其余数万兵士，不是战死，就是逃散。
刘琨欲和拓跋猗卢乘胜南下，一鼓作气灭了刘聪的汉国。拓跋猗卢看得比较远，他说刘聪虽然打了败仗，但实力仍然很强，不是轻易能灭得了的，灭刘聪将是一场长期战争。我带这些军队只是来收复晋阳的，并没有做好与刘聪打长期战争的准备，以后再说吧。拓跋猗卢又送给刘琨数千匹骏马，以及牛羊无数，还有大量的粮草。又将箕澹、段繁两名勇将留下帮助刘琨守太原。这时晋阳已经被刘曜烧光抢光，已成一片废墟。刘琨便在晋阳之北的阳曲重建城池，重新发展势力。
刘聪被刘琨打得大败，十分恼恨，又无力北攻，只能生闷气。他突然想到，晋朝的皇帝不是在自己手里么？你的臣子打败了我，我可以拿你们的皇帝解气逗乐啊。于是他在光极殿大宴群臣，命少帝穿上奴仆的衣服为汉国的君臣倒酒布菜。少帝哪儿敢不从，只好穿青衣小帽在席间穿梭来去，强作欢颜。刘聪手下的大臣们见了晋朝皇帝这个样子，形似小丑一般，一个个乐得直不起腰来。少帝满面通红，欲在人群中躲避一会儿，却受到刘聪的呵斥，不得不含泪在人们的哄笑中继续为汉国君臣服务。
在这群人中喝酒的还有几十名晋国旧臣，这些人担任汉国一些不重要的官职，所以有资格来赴宴。他们见了这种情形，一齐放声大哭，那哭声和汉国大臣的笑声交织在一起，更显凄惨。刘聪本来心情已经转好，听了这哭声，不由怒上心头，当即命士兵将这些晋臣赶出大殿。大宴结束后，刘聪想这帮人敢在殿上号哭，看来都有二心。少帝虽然无能，却仍然有一定的号召力。留着这帮人也是后患，不如赶紧除去。于是第二天命人把所有的晋臣抓起来杀死，少帝也被赐一杯毒酒，毒死在异国他乡。这时为永嘉七年（313）正月，少帝死时，年仅三十岁。
少帝的死讯传到长安，十四岁的皇太子司马邺便正式登基做了皇帝。一方面为少帝举哀，一方面号令天下，命江东的琅琊王司马睿为左丞相、大都督，命关内的南阳王司马保为右丞相、大都督；命凉州的张轧为太尉、凉州牧、西平郡公；命幽州的王浚为大司马；命并州刘琨为大将军。诏命这些人各自起兵，共同进攻汉国，夺回少帝的棺椁，恢复中原。
刘聪听说司马邺命四方晋军来攻自己，便命刘曜率军五万来攻长安。他认为只要攻下长安，其他地方的晋军必然失去统一的领导，不战自退。不过这回刘聪仍然派的是“先胜后败”将军刘曜，结果可想而知。刘曜绕过晋军驻在黄白城主力，直扑长安城，一鼓作气攻破长安外城，但仍然是逃脱不了先胜后败的宿命，最后晋军的麹允、索、麹鉴三支人马赶来，刘曜战败，不得不逃回平阳。
晋军的其他几路兵马其实并没有按司马邺的诏命去联攻汉国。凉州的张轧因为和长安相邻参与了长安保卫战；江东的司马睿并无北进之心，同时他的地盘也在打仗，下一节咱们详细再说；刘琨元气尚未恢复，无兵可派；幽州王浚则很快就被石勒给消灭了。
幽州王浚的实力并不弱，但他后来欲称帝自立，这就遭到手下一批晋朝旧臣的强烈反对。王浚十分不爽，于是进行了清洗，前渤海太守刘亮、北海太守王抟、前司空高柔、从事韩咸等人都被杀死。结果一大批大将和重臣逃走，投奔了东北的慕容鲜卑部落的慕容廆。这时候东北除了幽州王浚的势力之外，还有三支重要的鲜卑势力，分别是前文提过的辽西段氏鲜卑、辽东宇文鲜卑（这支后来创立了北周）、辽北慕容鲜卑（这支后来分成几支，南下大闹中原）。慕容鲜卑是四支势力中最弱的一支，但慕容廆比较尊重汉文化，效习汉法，发展农业，建立学校，设置百官，因此许多来到东北的汉人都选择投奔到那里。这一回从王浚那里逃出来的人都跑到慕容那边，慕容的实力开始渐渐增强。
王浚众叛亲离之后，石勒正好也平定了冀南准备北攻，于是上表假意拥立王浚为帝。王浚当然不傻，他疑道：“石勒乃当世英杰也，又兵强马壮，刚刚击败刘琨，正在势头上，怎么会向我称藩，拥我为帝？”
石勒派的这个叫做王子春的使者真是一个人才，当时当当当几句话就把王浚说得心服口服，眉开眼笑。王子春说：“您说得很对啊。石将军是要才能有才能，要实力有实力。但您的血统纯正啊。你查查历史，自夏朝开立帝国以来，若说是有胡人辅佐君王成为名臣的不少，若说是胡人做帝王的一个都没有。石将军并不是不想当皇帝，只是因为帝王自有天道气数，不是仅靠着聪明和实力就能取得的。如果要强行取得帝位，恐怕反会招来祸事。当年项羽强大不强大？但天下最终却是归了刘邦。现在石将军与您相比，那就是拿月亮和太阳比，拿江河和大海比，那哪儿能比得了您啊。所以石将军才愿意向您称臣。这并不是石将军无能的表现，却正是他远见卓识，远胜他人之处。殿下您又有什么可奇怪的呢？”
这一番话说出来，你说做梦都想当皇帝的王浚能不乐么？当即封王子春为“列侯”，这就封了侯了，然后派外交大使回访石勒。石勒听说王浚的使者即将到来，便把精兵强将都藏起来，派了老弱残兵来守城池，又把仓库搬空，办公场所弄得乱七八糟的。等使者到了，便领他参观。使者一看，原来石勒也是徒有虚名啊，吃饱了喝足了，拿了石勒送的红包，回去向王浚说道：“石勒对您那是忠心不二。而且石勒手下都是老弱残兵，国库也很空虚，绝不敢和您对抗，一定是真心想跟着您混江湖。”王浚更加相信，于是便开始准备称帝了，而疏忽防备。
石勒一顿马屁把王浚拍晕之后，便整兵十万直向幽州杀去。兵到易水，被幽州督护孙纬阻住，石勒并不派兵攻击，而是安营扎寨，静等王浚迎他。果然，王浚下令道：“石勒是来投奔我，拥我为帝的，不要惊慌，放他进来。”
周围有明白人劝他道：“国与国之间的事，您还是小心为妙。要是让石勒给偷袭了，您到时候可没后悔药吃。不如把他赶回去算了。”
王浚听了大怒：“人家诚心诚意地来，你们反倒要赶人家回去，真是不识好歹。是不是看我要当皇帝了，你们很不爽？谁再敢跟我提赶走石勒的事，我就砍下他的脑袋。”这回没人再敢说话了，你爱怎么折腾就怎么折腾吧。
王浚传下命令一路放行，又命在城中准备宴席，就等石勒来了。
石勒也不客气，日夜兼程，一路畅通无阻，全是绿灯，那个爽啊。三月壬申日，还是凌晨的时候，石勒的大军来到了蓟城（大致在现在的北京）城下。石勒叫醒看城门的城门官，那城门官黑夜中看不清来人多少兵马，要看清非得吓死，有十万哪，只听说是石勒来了，因为早有王浚命令，所以看完官凭文书就放石勒进城了。
等石勒一进城，城门官就明白要出事了。十万大军浩浩荡荡如潮水一般涌进蓟城，那是一件多么恐怖的事。很快，当这座城市刚刚苏醒的时候，就已经完全被石勒的大军控制了。王浚的军队全部跑得干干净净，除了王浚。王浚还等着石勒来拥他为帝呢。
石勒让人去王浚的府上“请”他出来，王浚这才明白自己真的是上当了，皇帝当不成了，就连一方诸侯也没戏了。石勒高坐在王浚坐过的位置上，斜眼瞧着这个被自己玩得团团转的家伙，心想这种弱智怎么当年也曾经叱咤江湖，和自己争夺天下？答案只有一个：利令智昏啊。
王浚大骂石勒是小人，石勒反驳道：“你身为晋朝的臣子，据险而守，手握重兵，为什么汉国侵凌晋室，你不救援？为什么还想当皇帝？你不是大逆不道的乱臣贼子么？我和你比起来，谁更小人呢？”骂完之后，不容王浚再辩，命人推出去斩了。
刘琨本想等石勒去取幽州时抄石勒的后路，哪知道石勒仅十日便取了幽州带兵而回，只好罢兵。这时，长安传来诏书，长安危急，命他速去增援。这一年是西晋建兴二年，刘聪再一次派兵去攻长安。这一次不再派刘曜了，而是派赵染为将，率军五万西去。赵染就是当年欲当冯翊太守，却被司马模拒绝，于是叛晋降汉的那员大将。赵染此次攻晋，并不顺利，被索阻在新丰城下，一连数日无法前进。不久，刘琨带一千精骑前来驰援，麹允也率军增援。赵染大败，北逃的时候又遇到麹昌带兵赶到，被麹允的弓弩手射得如刺猬一般，五万兵马，全军覆没。
刘聪闻讯，不由长叹：“看来晋朝仍然很强大啊，要灭晋室太难了。”
汉国这边的愁苦不说，长安那里却是信心倍增。索、麹允见汉国一败再败，认为收复失地的机会来了，便欲请司马邺再次下诏联军攻汉。上次诏令四方起兵，刘琨因无兵可出，王浚欲自立为帝，所以没能出兵；不过江东的司马睿一直没有消息，连个不出兵的理由都不给。难道司马睿也有不臣之心？所以这回索、麹允奏请司马邺再催促一下司马睿。晋愍帝于是又下诏，加封琅琊王司马睿为丞相、大都督、都督中外诸军事，南阳王司马保为相国。派殿中都尉刘蜀为使臣，赶赴江东，催促司马睿北伐。此年为建兴二年（313）。