然而，指挥守城的司令却是被视为“杂牌”的湘军系将领唐生智，他为防止不属于自己系统的部队不听命令北渡逃跑，采取了让江南船只都开到江北的破釜沉舟式措施。这种“背水阵”其实并未增强斗志，还使守城部队事先没有撤退准备而加剧了弃城时的混乱。
12月7日外围战开始，三天后日军便扑到城下，又以一部进占芜湖，想迂回包围南京。蒋介石见德国调停无结果，又怕嫡系精锐被围歼，于12月11日致电唐生智，指示“如情势不能久持时，可相机撤退”。此时，南京城垣边的部队还正与日军激战，高级将领就率先动摇。
12日下午，唐生智开会传达撤退令，要求各军向南突围直奔苏皖边地区，他本人随即乘专门留下的船渡江撤到浦口。结果只有被视为“杂牌”的广东部队2万余人向南突围，其余中央军各部都不肯突围而涌向下关想渡江，却因船少只有少数人逃脱。
古语曾说“时穷节乃见”，危急关头最能检验军人的气节和部队的素质。在面对组织撤退这一难题时，中央军一批平时腐化透顶的高官竟然弃军先逃。号称“党国铁卫军”的教导总队队长桂永清开完会只用电话通知参谋长组织撤退，自己就抢先渡江。
有“逃跑将军”之称的第72军军长孙元良开完会不回部队而直奔妓院，拜老鸨为干娘隐蔽起来，其部属失去指挥后见友邻撤退也跟着乱跑，12日下午还在坚守抵抗的守军，到傍晚时分就突然陷入崩溃。
“十四万人同解甲，更无一个是男儿”。五代时后蜀的花蕊夫人，曾在成都被宋朝军队轻易占领时写下一首《述亡国诗》，其中描绘的场景，对照南京保卫战倒有几分相似。按当年西方军事观察员的评论，绝大多数出身农家的中国士兵有朴实、吃苦耐劳的特点和宗法社会中养成的服从习惯，完全可以造就为良好的军人，其关键在于领导。时人称“守南京的十多万大军，就这样像尘土一般一阵风吹散了”，就是高官们带头逃跑导致士气瓦解的恶果。
