聂荣臻率领部队于9月中旬到达太原。次日离开时，太原各界代表、人民群众和东北流亡学生自动聚集在车站，含着热泪高唱抗日歌曲，赠送各种慰问品，热烈欢送他们开赴战场。此情此景，自然令聂荣臻和他的将士们为之动情、振奋。
然而，国民党军队此时却垮得一塌糊涂，一批批溃兵，用步枪挑着子弹、手榴弹和抢来的包裹、母鸡等东西，像潮水般地涌下来。对于这一场景，爱国民主人士李公朴先生曾这样说，国民党军队的溃兵是“展开长途竞逃的奇观”。
当国民党溃军看到八路军要往前线去，感到很奇怪，说上去不过是送死，日军如何如何厉害。115师有的战士就跟他们争辩起来。
溃兵说：“你们别吹牛皮，上去试试吧！”
八路军战士问：“你们为什么退下来？”
溃兵说：“日本人有飞机坦克，炮弹比我们机关枪的子弹还多。”
八路军战士问：“你们打死了多少敌人？”
回答说：“我们还没见到日本鬼子的面呢！”
又问：“为什么不和鬼子拼拼？”
回答说：“找不到长官，没人指挥，打不了哇！”
这番生动的对话，真实地反映出当时国民党军队的情况，说明抗日救国的希望，只能寄托在共产党八路军的身上。
“真是兵败如山倒啊！”聂荣臻果断而又愤然地说道，“不能让他们影响我们的行军速度和士气，部队立即改变原定经代县沿大路向平型关的行军路线，绕向五台的山间小路前进！”
通往五台的山间小道上，铺满苍黄的落叶。聂荣臻率领他的人马踏入这秋色凝重、草木萧瑟的世界，无疑给山野带来了活力。山道上，一丛丛绚丽的红叶，像是战士们热情的火焰。
聂荣臻的部队是在中秋节时到达五台的。五台山送给他们的见面礼，却是一场带有寒意的大雨。看着足蹬草鞋、身穿单军衣的战士们在大雨里坚持行军，爱兵如子的聂荣臻怎能不为之心疼呢？但军情紧急，只有冒雨赶路。告别五台，穿过龙泉关，于9月23日到达平型关东南的下关、上寨一线。