住在远离市中心的香山双清别墅，毕竟诸多不便，毛泽东于1949年7月迁入中南海丰泽园的菊香书屋。胡乔木也随着毛泽东，搬进中南海，住在静谷，胡乔木一家住在近北面的三间西厢房内院，与田家英为邻。那里离毛泽东住处不太远。毛泽东来一个电话，胡乔木随叫随到。
胡乔木的女儿胡木英是这样回忆笫一次住进中南海的情形：
具体怎么搬的我不知道，但是只是到那个星期六下午接我们回去的时候呢，就不去香山了，就去了中南海，这才知道他们已经搬到中南海了。刚进中南海我们是住在那个静谷，就挨着主席的那个旁边，在他西边，静谷的后边呢，北边呢就是春耦斋，那个地方挺漂亮的，有树，有假山，而且还都是些老树，特别是那个院里头有两棵树是连根树，两个根，但是长到，后来长到一起成一棵树，所以印象特别深。
房子都比较破旧，漆脱落了，但是起码房间都有了，我父母的卧室，办公的地方，然后我们的住房和带我们的阿姨住的地方，反正一人都有那么一小间吧，房间也不是很大，但是足够，足够我们住了。
静谷、来福堂、喜福堂、颐园，我们家在中南海搬了几个地方。
那时，在胡乔木起草的种种文件之中，最费精力的莫过于参与起草《共同纲领》了。
《共同纲领》的全称是《中国人民政治协商会议共同纲领》。刘少奇在1949年9月21日的讲话中，称《共同纲领》“是总结了中国人民在近一百多年来特别是近二十多年来反对帝国主义、封建主义和官僚资本主义的革命战争的经验，而制订出来的一部人民革命建国纲领。”
这样的“建国纲领”，起草工作自然费时费力。
“政协”，有所谓“旧政协”与“新政协”之分。
“旧政协”的全称是“中国政治协商会议”，1946年1月在重庆举行，国民党、中共、民主同盟、青年党和无党派人士参加，以“协商政治问题”。当时，蒋介石发动内战的准备工作尚未就绪，也就被迫同意举行这样的会议来“协商政治问题”。自然，当蒋介石军队向中共发动大举进攻，“政治”也就没有“协商”的余地了。
1948年4月30日，中共中央发出的《纪念‘五一’节口号》第五条这样写道：
“各民主党派、各人民团体、各社会贤达迅速召开政治协商会议，讨论并实现召集人民代表大会，成立民主联合政府。”
这样，也就提出了召开“新政协”的倡议。中共的这一倡议，得到了民主党派和无党派人士的响应。于是，1948年10月初，由周恩来主持起草《共同纲领》，当时叫《中国人民民主革命纲领》。1949年初，写出了第二次初稿。后来形势起了很大变化，初稿要另起炉灶。
1949年6月15日，新政协筹备会在北平成立，决定由周恩来担任《共同纲领》起草小组组长，许德珩为副组长。会议又决定，委托中共负责《共同纲领》草拟工作。
胡乔木参与了草拟工作。经过五易其稿，在8月22日才算写出《新民主主义的共同总纲领》（当时的名称），送毛泽东审阅。
毛泽东亲自作了修改。如今，尚可从毛泽东写给胡乔木的五封便函，看到当年修改时的繁忙景象：
其一
乔木：
纲领共印三十份，全部交我，希望（今晚十点）左右交来。题应是《共同纲领》。
毛泽东
9月3日
你应注意睡眠。
其二
乔木：
今（引者注：指9月3日）晚付印的纲领，请先送清样给我校对一次，然后付印。
毛泽东
即
其三
即刻付印（引者注：指9月5日），一小时内交我。
毛泽东
其四
照此改正，印成小册子一千本。
毛泽东
9月6日
其五
乔木：
即刻印一百份，于下午八时左右交周副主席（引者注：指周恩来）。但不要拆版，候起草小组修正后，再印一千份。
毛泽东
9月11日下午四时半
内中，从9月10日晚九时起，周恩来、胡乔木等在毛泽东处一起讨论《共同纲领》的修改，直至翌晨七时，一口气讨论了十个小时！
从毛泽东关照胡乔木“你应注意睡眠”一句，也可看出当时胡乔木工作的紧张之状。
《共同纲领》，其实不光是“建国纲领”，而且还可以说是当时的一部“临时宪法”。
周恩来先后召开了七次会议，征求各方意见。
1949年9月29日，《共同纲领》经新政协大会正式通过，正式定名为《中国人民政治协商会议共同纲领》，载入了史册。
胡乔木还为新政协的召开，写了《旧中国灭亡了，新中国诞生了》一文，作为新华社社论发表。胡乔木写道：
“中国人民政治协商会议的开幕，是中国光辉灿烂的人民的新世纪的开端。这是全中国人民空前大团结的会议。这个会议宣告了旧中国的永远灭亡和新中国的伟大诞生……”
新政协决定，自1949年9月27日起，北平改用原名北京——北京是在1928年6月20日被南京国民政府改名为北平的。北京定为新中国首都。新政协选举毛泽东为中央人民政府主席。