金柱关、东西梁山均为通往长江下游的要隘，其中东西梁山隔江对峙，形成门户，古时称为天门山，诗仙李白有诗赞叹：“天门中断楚江开，碧水东流至此回。”1862年5月中旬，曾国荃率部自北岸的西梁山渡江，会同彭玉麟的水师、曾国葆的陆师，先后攻克了金柱关、东梁山和芜湖。至此，天京屏障尽失。
曾国藩向来主张不图速效，稳扎稳打，其时曾国荃等水陆军加在一起尚不满两万人，又是孤军深入，所以他感到担心，让曾国荃缓进，以便等候多隆阿进兵九洑洲，两军会攻天京。曾国荃不同意，认为所部士气正旺，如果一下子停顿下来，官兵的斗志也会随之松懈，而且“金陵为贼（太平军）根本，拔其根本则枝叶不披而萎”，如此大的战机绝不能轻易错失。曾国藩拗不过胞弟，只得同意他继续进兵。
5月底，湘军三部合力，对天京形成了围攻之势：曾国荃连夺天京城外秣陵关、大胜关两处重镇，进逼天京城下扎营，距天京城仅隔四里之遥；彭玉麟攻占江心洲，进泊于天京的护城河口；曾国葆在秦淮河入江口的三汊河一带傍水驻垒，以确保湘军的西路粮道。
湘军突然兵临城下，使得自击破江南大营后，已度过两年平静期的天京人心大震，天王洪秀全更是惊惧交加，忙命李秀成、李世贤回援天京。
李秀成于一天之内，连续三次接到天王派人送来的诏书，但此时上海战事正处于关键阶段，所以他并没有马上应命赴援天京。
在淮军出战后，李秀成已经意识到，这支尚隶属湘军的新建之师实力不容小觑，必须全力以赴，首先予以击破。6月17日，他暂时放松对松江的围困，亲率慕王谭绍光、听王陈炳文、纳王郜永宽等部，将程学启部重重围困于新桥。
程学启除了依然组织洋枪小队进行阻击外，还用上了火炮。彼时淮军没有洋炮，他们的火炮是由湘军创制并且也是湘军独有的劈山炮。双方在激战中均死伤枕藉，仅仅一天之内，开字营就伤亡了两百余人，太平军的尸体则已经把淮军所挖的壕沟都填平了，但依旧攻势不减，他们踏着同伴尸体继续越壕猛冲。
此时，“洋人拥兵数千，坐守洋泾滨……作壁上观”，常胜军自顾不暇。只能独立作战的淮军遇到了自组建以来的第一次重大考验，胜负与否，决定了他们能否在上海滩立住脚。程学启使出浑身解数，不仅亲自操作劈山炮进行射击，而且率队实施了多达八九次反冲锋，最后自己也在战斗中负了伤。
关键时刻，李鸿章也拿出置之死地而后生的勇气，决意全力出击，率淮军主力分路进援。1862年6月18日，正在苦战的程学启通过望远镜看到援军赶来，连忙跃出阵地，对太平军进行夹攻。淮军和太平军在虹桥、徐家汇、新桥一带展开搏杀，史称虹桥之战。
淮军到沪两个月，未曾痛快地打过一仗，可谓是养精蓄锐，待势而发。相比之下，太平军连战疲乏且扎营未定，在猝不及防的情况下显得非常被动。更重要的是李秀成所部数量虽多，但除核心主力外，其余各部多以江苏、浙江、江西人为主，打仗并不特别勇悍，在阵亡千余人后，即大败溃退。次日，程学启乘胜进克泗泾，李秀成被迫解除对松江的围困，退兵苏州。
虹桥之战是淮军在没有洋兵协助下所取得的第一场大胜仗。战前李鸿章并没有十足的把握取胜，只是因为军情危急才不得不“跃马独出”，他本人也“不作生还之想”，准备随时战死沙场。最终的结果令李鸿章喜出望外，在写给曾国藩的报捷信中，他显得踌躇满志：“有此胜仗，我军可以自立，洋人可以慑威，吾师可稍放心，鸿章亦敢于学战。”
李鸿章在信中并没有过分夸大其词。当初淮军刚到上海时，因衣帽粗陋，外表土里土气而曾遭到洋人的讥笑。李鸿章激励部属道：“兵贵能战，岂在华美？等他们亲眼看到我们打胜仗，看法自然会改变。”虹桥之战后，洋人的态度果然大变，洋兵见到淮军士兵时无不礼敬有加，何伯更是亲自到淮军营中拜访李鸿章，并且再无任何居高临下的言辞和神色。
接到李鸿章的报捷信，曾国藩的欣喜之情可想而知。他在回信中用半开玩笑的语气对李鸿章说：“以前我看你写字，就认为你命中必贵。胡文忠（胡林翼）擅长相人之术，他也说你‘君必贵’。现在一看，果不其然！”
一般认为，李秀成在松江的不战而退，乃是因为天王洪秀全催逼之故，但值得注意的是，他真正退兵其实是在虹桥一战之后，换句话说，如果太平军在这场战役中取胜，他很可能不顾天王的命令，继续坚持进攻松江和上海。
李秀成虽然暂时放弃了对上海的进攻，但在虹桥之战后的很长一段时间内，他的战略方针和主要兵力依旧集中于东部，上海战区的太平军实力也没有被完全削弱。
李秀成对东部的重视可以理解。他的基地是苏福省（苏南），如果苏福省的安全得不到保障，他将失去立身之本，一如皖北丧失，陈玉成亦无立足之地一样。
不能说在李秀成的心目中，苏福省的重要性胜过天京，但起码对他来说生死攸关，不到万不得已，绝不肯予以放弃。李世贤同样如此，当他接到天王洪秀全要求回援的命令时，也没有第一时间赶回南京，而是强调必须把左宗棠击退或击垮才能动身启程。