在接到手下一连串的败阵报告之后，尔朱荣他倾北魏自己控制之下的几乎全国之兵，号称百万，从北边南下攻打洛阳。
洛阳附近的小城在尔朱荣重压之下，又纷纷反叛。
陈庆之在元颢看来虽然功劳盖世，但一开始就没想把答应南梁的条件当回事情的元颢是不可能重用他的。
陈庆之自己也清楚得很，主动要求到黄河以北去防守洛阳的门户北中郎城。
尔朱荣也执意要和陈庆之分个高下，于是一股劲地攻打陈庆之，三天打了十一仗，七千人的陈庆之部队把上百万的尔朱荣部队打得死伤惨重，尔朱荣简直都绝望了，下令退兵。
这时有个随军的星相学家刘助劝尔朱荣不要退兵。
尔朱荣也想通了，他拿陈庆之没办法，就去抄元颢的老窝。
尔很快洛阳被攻陷，元颢也被杀。陈庆之在北方完全失去了根据地，只得东撤准备回建康。
尔朱荣亲自率领大军随后追赶，但这追也追得过于搞笑：追远了等于没追，追近了他又不敢，两支军队就这么拖着一直走到大概是河南边界一带，陈庆之准备指挥军队过河，但突如其来的山洪无情地冲走了他百战百胜的部队。
这是陈庆之一辈子唯一一次有可能死在战场上的机会，但陈庆之装成和尚秘密潜回建康。陈庆之南归后，特尊重北人，朱异觉得奇怪，便问他，陈庆之说：“吾始以为大江以北皆戎狄之乡，比至洛阳，乃知衣冠人物尽在中原，非江东所及也，奈何轻之”
梁武帝以陈庆之为持节、都督缘淮诸军事、奋武将军、北兖州刺史。
时有妖僧自称天子，当地豪强蔡伯龙也起兵与之相应，众至三万人，攻陷北徐州。
济阴太守杨起文弃城而逃，钟离太守单希宝被害。
梁武帝诏令陈庆之前去征讨，并亲自临白下城为其饯行。
陈庆之受命而行，未到十二天，便斩蔡伯龙、僧强，传首建康。
陈庆之自此之后天下杨名，梁武帝以陈庆之为都督南、北司、西豫、豫四州诸军事、南、北司二州刺史，其余如故。
陈庆之到任后，遂围悬瓠，破魏颍州刺史娄起、扬州刺史是云宝于溱水，又破行台孙腾、大都督侯进、豫州刺史尧雄、梁州刺史司马恭于楚城。
陈庆之随即减免了义阳镇的兵役，停止水运补给，使江湘诸州得以休养生息。并开田六千顷，两年之后，粮食充实。梁武帝为此经常嘉奖陈庆之。同时又陈庆之又表请精简南司州为安陆郡，置上明郡。
陈庆之攻东魏，与东魏豫州刺史尧雄交战，因不利而还。
东魏定州刺史侯景率7万人寇楚州，俘楚州刺史桓和，侯景乘胜进军淮上，并写了信劝陈庆之投降。梁武帝遣侯退、侯夔等前去增援，军至黎浆，陈庆之已击破侯景。
时值大寒雪，侯景弃辎重而逃，陈庆之则收其辎重而还。同年，豫州闹饥荒，陈庆之开仓放粮济灾民，使大部分灾民得以度过饥荒。
以李升为首的800多名豫州百姓请求为陈庆之树碑颂德，梁武帝下诏批准。
虽然陈庆之平定了北魏，但李渊之子与胡人成亲，现在两人同流合污，冉闵战败逃到大梁，高长恭拼死抵抗。
“唉！”高长恭看了看镜子失落的叹了一口气：“赶快下令，说我高长恭向大梁称臣，祈求陈庆之发来救兵，北魏大唐皆以胡人扶持，再这样下去我华夏就要灭绝了。”
梁王得到消息下令陈庆之抵御唐寇。
其实陈庆之为这么个昏君拼死拼活为的不是别的，是太子，因为三年前的一个夜晚。
大雪封天，诸将无心应战：“敌人听说将军您亲自到来，等到我们上岸他们就会逃走。”
陈庆之不以为然的摇了摇头：“并非如此。敌人调集境内兵力，带了许昌、洛阳的全部兵力大举前来，一定定下了明确的目标，怎能无获而返？我们不应指望敌人不战而退，做好充分的准备才能战胜敌人。”
唐军顺着黄河上岸，陈庆之觉得行军速度太慢：“现在各部队行军太慢，如果敌人占领了有利地形，我们就难以与他们抗争了。”
于是陈庆之离开大部队的行军路线，独自带领手下三千人前进。
当时正刮北风，梁军乘船两天就到达前线，占据了河内。当时天气寒冷下了大雪，唐军将领饮酒高谈，陈庆之见敌人先头部队人少，就对手下说：“立功领赏的时候到了！”
令士兵脱去铠甲头盔，都拿着短兵器。
唐将发现后都取笑他们，并不做防备。
陈庆之率领部队奋起砍杀唐军，大破唐军先头部队的营寨，正好此时吕据等人的部队到来，一起击溃了唐军。战后，梁帝封其上大将军，兼职丞相。
唐军连遭惨败心生怨恨，李渊以秦叔宝为主帅，程咬金为副帅，罗成为先锋准备进攻陈庆之。
为了防止几个粗人失败李世民亲自参战，并令李靖牵扯陈庆之。
李靖与陈庆之在黄河流域交锋，互有胜负。
但李世民没有指着李靖打败陈庆之，他效仿邓艾从海上进攻，在奇袭建康。
李世民登上岸边，看见陈庆之在建康修建的城墙无计可施，连有三月，来一个叫苏琼的文人。
“将军何人，来我梁国，有何贵干？”苏琼舌头治好了，恭恭敬敬的向李世民施礼。
李世民眼珠一转扯了个蛋：“我是罗生门，此番迷路，不知怎么才能进城。”
苏琼指着远处一个门口，然后就走了。
李世民也没多问，他朝着门口疯狂进军，结果被梁军杀得大败，知道中计的李世民自然不服，他打听这里有个小路，他准备效仿邓艾。
李世民趁陈庆之被李靖牵制在剑阁，率军自都江沿景谷道东向南转进，南出庐江两百多里，李靖也派部将田章等跟进。
李世民率军攀登小道，凿山开路，修栈架桥，鱼贯而进，越过七百余里无人烟的险域。山高谷深，至为艰险。途中，粮运不继，曾多次陷入困境。
部队走到马阁山，道路断绝，一时进退不得，李世民身先士卒，用毛毡裹身滚下山坡。邓艾率军出其不意地直抵江油，迫降守将马邈。