儿率领二十万大军，正在赶来支援荥阳的路上——一旦这二十万大军抵达，白袍军就会陷入“前后夹击”的困境。
陈庆之得知这个消息后，立刻召开军事会议。将领们都很担心：“将军，北魏二十万援军即将抵达，荥阳守军又有五万，我军只有七千，恐难抵挡。”
陈庆之摇了摇头，说：“我们从建康出发，至今已连下两城，若此时撤退，之前的努力就会付诸东流。况且，北魏援军虽多，但长途奔袭，必定疲惫；荥阳守军虽众，但得知援军即将抵达，必然轻敌。我们若能在援军抵达前，攻克荥阳，就能占据有利地形，以逸待劳，迎接援军。”
随后，陈庆之对士兵们说：“将士们！北魏二十万援军即将抵达，荥阳城内有五万守军，我们现在面临的，是前所未有的困境。但我等是白袍军，是梁朝的精锐！我要告诉你们，只有攻破荥阳，我们才能回家，才能活着见到家人！今日一战，要么胜，要么死！若我战死，你们就拿着我的头颅，献给陛下，求陛下善待你们的家人！”士兵们被陈庆之的话感动得热泪盈眶，齐声喊道：“愿随将军死战！”
当天下午，陈庆之率领白袍军，向荥阳发起猛攻。杨昱以为白袍军“自不量力”，根本没放在心上，只派了一万士兵防守城墙。可他没想到，白袍军士兵个个如猛虎下山，拼命冲锋。
白袍军士兵用云梯爬上城墙，与北魏守军展开激烈的巷战。杨昱见状，急忙派更多的士兵去支援，可白袍军士兵越打越勇，北魏守军根本抵挡不住。陈庆之亲自率军冲进荥阳城内，斩杀了北魏守军的将领，北魏守军顿时溃逃。
傍晚时分，白袍军攻克荥阳，俘虏了杨昱。
就在白袍军攻克荥阳的当天晚上，元天穆、尔朱吐没儿率领的二十万北魏援军抵达了荥阳城外。
将领们急忙来找陈庆之：“将军，北魏二十万援军已到，我军疲惫，恐难抵挡，不如趁夜撤出荥阳，再做打算。”
陈庆之却异常冷静，他说：“北魏援军虽多，但刚到城下，立足未稳，而且他们不知道荥阳已被我军攻克，必然轻敌。我们若趁此时机，主动出击，必能击溃敌军。”
将领们都很惊讶：“将军，我军只有七千，敌军有二十万，主动出击，会不会太冒险？”
陈庆之说：“兵不在多，在精；将不在勇，在谋。北魏援军长途奔袭，士兵们早已疲惫，而且他们以为我军会坚守荥阳，不会主动出击，这正是我们的机会。”
随后，陈庆之挑选了三千精锐白袍军士兵，组成“敢死队”，自己亲自率领，打开荥阳城门，主动向北魏援军发起进攻。
元天穆、尔朱吐没儿见只有三千白袍军出城，顿时哈哈大笑：“陈庆之真是疯了，三千人也敢来进攻我二十万大军！”他们立刻下令：“全军出击，活捉陈庆之！”
北魏援军士兵们蜂拥而上，可他们没想到，白袍军士兵个个英勇善战，尤其是陈庆之，手持宝剑，在乱军中指挥调度，白袍军士兵们在他的指挥下，组成了一个“锥形阵”，如一把尖刀，直插北魏援军的中军。
北魏援军士兵们根本抵挡不住白袍军的进攻，纷纷溃逃。元天穆、尔朱吐没儿见势不妙，只好率领残部，狼狈逃窜。
这一战，白袍军斩杀北魏援军一万余人，缴获了大量的粮草、兵器和马匹，彻底击溃了北魏的二十万援军。
击溃元天穆的援军后，陈庆之率领白袍军，回头攻打虎牢关。尔朱世隆得知元天穆的二十万援军被击溃，吓得魂飞魄散，根本不敢抵抗，连夜放弃虎牢关，逃往洛阳。
白袍军不费一兵一卒，占领了虎牢关。
随后，陈庆之率领白袍军，继续北上，向洛阳进发。一路上，北魏的城池守军听说“白袍军来了”，纷纷打开城门，投降陈庆之。公元529年五月，陈庆之率领七千