在渡江南进的百万解放大军攻击之下，国民党军和国民党政府，先是欲作困兽斗，接着即作鸟兽散。4月21日，李宗仁召集何应钦、白崇禧、顾祝同等高级将领商讨今后战略。与会诸人倾向白崇禧的计划，即放弃南京、上海，把汤恩伯的主力移至浙赣线和南浔线，与华中40万国民党军成为掎角，以固守湘、赣，防止解放军进入西南。22日，蒋介石在杭州邀约李宗仁、何应钦、白崇禧、张群人等商谈对策。众人怀着紧张不安的心情，齐集笕桥空军学校会议室内。
不一会儿，蒋介石拖着病弱的身体，手持拐杖缓步而来，蒋经国、陶希圣左右侍候。双方一番寒暄，两旁坐下，蒋介石朝众人苦笑一声，强打精神说道：“现在，这个，这个局势，大家都看到的了。我以为没有关系，我们还有大西南大后方做基地，还有几百万人，还有海空精兵，比共军当年在延安时好得多，而且我们还有美国援助，大家，大家不必灰心。”
众人闻言，齐在心头叹气。接着讨论南京，上海要不要守？结果讨论纷纭，最后蒋介石说：“这样吧，守南京似乎不易，上海非守不可，我们在上海的准备，共产党有300万人马也攻不进，我认为应该守住上海，以及沪杭路一带。”他吃力地说：“长江，给他们过了；钱塘江无论如何要守住！浙赣路，是我们今天的主要防线，大家有什么意见？”
何应钦叫嚷道：“我们要抵抗到底！”
蒋介石说：“对于共军不是抵抗到底，而是戡乱到底。”
李宗仁说：“我认为今日之下，过去我们苦守据点的战略该检查检查，是否合适。守据点本来不错，无奈一个个据点都给对方吃掉，这就说明了这个战略毛病百出！我主张从今以后要同共产党从事机动作战，再也不能打阵地战了。”何应钦对此也表示赞同，主张今后以打运动战为宜。
蒋介石对李宗仁的意见却不以为然，反问道：“那么南京非放弃不可了？”
李宗仁硬着头皮反问：“如果不放弃，汤司令有妙计可以挽回劣势吗？”
“今天不是个人问题了，”蒋介石知道李宗仁同汤恩伯之间的摩擦，冷冷地说，“李代总统都不能想个办法守住长江，汤司令怕更没用！”
会议正在进行期间，前方又打来电话报告说：“沪宁线已被共军切断，在西起湖口，东至江阴的千里战线上，国军不是被围，就是在后撤，南京危在旦夕。”蒋介石随即命令：将南京的火车站、码头，水电厂都炸掉，把所有的部队都撤到沪杭一带。
下午2时，国民党军仓促部署江防总撤退，刘汝明集团退向浙赣路之上饶，1绥区、7绥区和南京卫戍总部沿京杭国道退向杭州，1绥区一部退向上海，7绥区一部退向金华，至22日23时京镇一线之敌全部撤完，23日晨芜湖地区之敌亦向南撤。国民党军企图在浙赣铁路和上海地区组织新的防御。
与此同时，南京国民党政府重要官员也慌张地携家眷四散逃命。22日，国民党政府各院、部、会已撤往广州；其总统府亦于同日撤往上海；23日晨，行政院长何应钦逃离南京飞往上海，代总统李宗仁放弃原定飞广州的计划而临时决定改飞桂林，静观局势变化，再作抉择。
23日上午，国民党军撤离南京时，放火焚烧了城内的许多房屋，在浓烟烈火弥漫中逃出了这座统治22年的“首都”。下午，解放军前哨部队第35军进抵南京东部，由和平门入城。23日夜12时起至24日上午，解放军大部队由下关经挹江门，源源开入市区，雄壮的军列，携带新式轻重武器的解放军指战员，受到南京成千上万学生和市民的热烈欢迎，男女学生们纷纷向解放军献花致敬。在人民解放军发起渡江作战仅3天时间，便攻占了国民党政府首都——南京。
当年参加解放南京战斗的35军105师政治委员宋献璋在回忆文章《红旗插上南京城》中是这样描写蒋家王朝末日的：“踏进这个大门，满目是朱红油漆的柱子和华丽的长廊。‘总统府’俨然是一个封建王朝的皇宫。地上、走廊里碎纸乱飞，一片狼藉。走进最里头一幢房子，便看见了蒋介石的‘宝座’。写字台的日历，翻开到‘4月22日’。它好像摊开双手，对我们说，请看，这是反动王朝的末日！”（《星火燎原》选编之十，第335～336页）