司马炎如愿以偿，于咸熙二年（266）十二月，继帝位，建晋朝。魏帝曹奂跪于坛下，接受了司马炎的封号陈留王，于司马炎称帝的当日便起程离开洛阳，以后非宣诏不许入京。这一天，北风呼啸，大雪纷飞，天地肃杀一片。曹奂走出洛阳的城门之后，回首凝望，泪眼蒙蒙。
晋武帝司马炎即位后心情很好，和所有的开国皇帝一样，他开始考虑如何才能让晋朝尽可能长久地存在下去。我们在电视剧中经常可以看到有白发苍苍的老臣情绪激动地对皇帝大喊：“祖制不可违。”皇帝听到后便深深感到改革的压力，总是要使出千般计谋方能施行改革。可见开国皇帝制定的“祖制”对这个朝代的发展影响极其深远，的确对国家的兴衰有着重要的作用。
司马炎在定“祖制”的时候认为曹魏之所以国强民富却被自己轻而易举地夺得政权，原因就是当年曹丕建国时立下的“刻薄宗亲”的规矩。曹丕为了确保嫡脉子孙皇权的稳固，对所有皇室宗亲都进行了打压。皇室宗亲虽封王却无统兵权，只带有一百多个老兵，而且活动区域不得超出三十里，无诏不得进京，宗王之间不得互相往来。又害怕宗王久居一地，勾结地方，对抗中央，便频频改换宗王的封地。宗王徒有王侯之号，却没有任何力量抵挡权臣司马氏在京都的篡位步伐，眼睁睁看着大好的江山被司马氏夺去。
有鉴于此，司马炎便效仿当年的刘邦，大封宗王。他一口气封了二十七个司马氏宗王。此后的几年中他仍不断封王，到他死时一共封了57个同姓王，此数字后来一直保持着中国历史封王的最高纪录，包括他的叔祖、叔父、兄弟、堂兄弟、子侄等都被封王，每个宗王少则有数千兵马，多则上万，并且在自己的封郡里有极大的权力，以郡为国，自成一个组织严密的小国家。司马炎没有料到的是，他的大封诸王，竟使得晋国的强盛仅维持到自己这一代。司马炎死后，便祸起萧墙，骨肉相残，诸王争位，群雄纷起，五胡乱华，晋朝在乱哄哄的厮杀、仇恨和分裂中度过了两百年的历史。
司马炎封完了诸王，第二件事就是统一全国，结束全国的分裂局面。
早在三国鼎立之时，魏国的实力已经在各方面超过了蜀、吴的总和。以人口计，魏国人口约占全国人口4/7，蜀、吴合占3/7。公元263年，灭蜀之后，魏国的力量更加强大。
为了发展经济，司马炎想了很多办法，并有力地实施了下去。当时土地兼并很严重，所有的农民都没有土地，甚至小一点的地主也失掉了土地。有土地的都是豪门世族，这些人中最少的也拥有上万亩良田。有些大地主拥有的土地多到可怕的程度，就是骑上快马，跑一天一夜也未必能跑出他们的土地范围。土地过于集中严重影响了经济的发展，司马炎制定了“户调式”的经济制度：规定必须按年龄按人口占田。比如，十六到六十岁的男子必须要缴给国家五十亩的税，当然，他也有权利拥有五十亩的田地。如果没有呢，可以去垦荒，也可以从国家那里领取土地，任何豪强都不得以任何理由去夺取这些田地，即使土地拥有者欠着这些豪强的钱，或曾经是这些豪强的家奴。任何农民也都有权利取得田地来种。
同时司马炎规定按官阶的大小来占田。第一品占五十顷，第二品四十五顷，第三品四十顷，每低一品，地少五顷。豪强拥有的家奴和佃户也按品级来限制，六品以上可以拥有三名家奴，第七和第八品二名，第九品一名。第一品第二品最多只能拥有十五户佃户，第三品为十户，第四品为七户，第五品为五户，第六品三户，第七品二户，第八品第九品一户。
这样大量土地就被国家征用，然后发给没有土地的农民，大量的佃户和家奴被解放，参与到生产建设中来。晋国的经济很快发展起来，远远超过了吴国。
晋武帝司马炎还在全国的官吏队伍中推广勤俭节约的作风。有一次，太医院的医官程据献给司马炎一件色彩夺目、满饰野雉头毛的“雉头裘”，这是一件极为罕见的华贵服饰，价值连城。晋武帝得到这件礼物后立刻把它带到朝堂，请满朝文武官员欣赏。
朝臣见了这件稀世珍宝，个个惊叹不已，连声叫绝。程据自然是得意扬扬，认为自己很有面子。等群臣欣赏完之后，司马炎却表演了一个让他们大吃一惊的行为艺术，他点了一个火把这件可值千金的“雉头裘”烧成了灰烬。在群臣惊讶的目光中，司马炎严肃地告诉大家：程据献上来的这个东西叫做“奇装异服”，而他早就下过禁令，要求所有的政府公务员都不准奢侈浪费，要以勤俭节约为美德。今天只是当众焚毁了这件“奇装异服”，以后谁如敢再违犯这个规定，那就要承担刑事责任。
司马炎带领着西晋全国欣欣向荣地蓬勃发展，吴国却是在走下坡路。吴国的皇帝孙皓命令所有大臣的女儿在出嫁前要先经过他的挑选，漂亮的入后宫供他一人享受，剩下的才能谈婚论嫁。结果是孙皓后宫的宫女迅速增加到数万名，另一个结果是大多数大臣几乎都有女儿被孙皓糟蹋，想不恨孙皓都难。
孙皓还很喜欢一种残忍的娱乐方式，那就是杀人。他杀人的方式已经上升到了行为艺术的高度，使用挖眼、剥脸皮、砍掉双脚等方式来慢慢地置人于死地。中书令贺邵说现在咱们的国家很穷，和皇上有关。孙皓便怀恨在心，派人暗中调查他，想要诬陷他谋反。巧的是贺邵正好得了中风，口不能言。孙皓说贺邵一定是装的，于是亲自用大锯在贺邵的头上锯，看他喊不喊疼。中了风的贺邵至死也没能说一个字。这个贤臣死得比当年商纣王手下的比干还要惨。
孙皓的残暴和荒淫使他的国家如同朽木支撑的大厦，稍稍推一把就会垮塌。晋国镇守南疆的大将羊怙看到了这个情况，便请求司马炎伸出手来去推一把。
但这时有三个人站出来强烈地反对，暂时挽救了孙皓，推迟了东吴的灭亡。
这三个分别是贾充、荀勖和冯。他们说：吴国有长江天险，而且善水战，一时难以取胜，而北边的秃发鲜卑正在作乱，一直难以平灭，此时若两线作战，将给晋国带来巨大的负担，取胜的可能性很小。
常年驻守南部边境，与吴国打过多年交道的大将羊怙则认为此时取东吴是“上天与之”，发兵南下，可“不战而克”。如果等孙皓死了，换一个明君上来，吴国上下一心，那时再取东吴就难了。
司马炎想了很久，还是决定先平秃发鲜卑再伐东吴。东吴的灭亡因此被推后了四年。羊怙叹着气回到了荆州防地，这位本可再建功业的一代名将，终其一生也没能够看到国家统一的那一天。