正在朱元璋与陈友谅在江南决一雌雄之际，江北的军事形势却发生了逆转，红巾军连连失利，形势非常危险。面对这突如其来的变化，朱元璋不得不停止与陈友谅的战事，将精力投向了江北，北方的顶梁柱是刘富通。刘富通意志坚强，胆识超群，他令三路大军同时北伐，取得了显赫成绩，但也暴露了他的失误和弱点：三路北伐军不能很好协调，各自为战，很容易为元军分割包围各个击破；而中路军和西路军长年流动作战，缺乏后援，孤军深人，很难坚持长久，再者，农民阶级自身不可避免的散漫性、保守性和狭隘性导致他们没有远大志向，纪律涣散，有令不行；甚至互相攻击，投降变节，这些均削弱了起义军的力量。元朝政府正是利用起义军的这些弱点和失误，调来察罕帖木儿等数支地主武装，向起义军进行疯狂的反扑。
在三路北伐军中，毛贵领导的东路军是最有作为的一支，1355年（龙风四年），东路军挺进河北，然后进入山东等地，毛贵在占领区采取了一系列政治、军事和经济措施，稳定了山东的局势，他还随时注意发展壮大自己的队伍，并且选用元朝的官吏分守各地，实行田制，解决军队的粮食供应问题。后因与赵均用意见不和，被其暗害杀死，使大宋农民军蒙受了巨大的损失，察罕帖木儿乘机围攻大宋都城汴梁。刘福通率领红巾军奋力拼杀，也没能冲散敌人的包围。
没过多久，起义军内部开始互相仇杀，山东大乱，察罕帖木儿抓住这一时机，率领士兵猛攻汴梁，结果，破城而入，汴梁失陷。刘福通保护小明王，退守安丰。此后，义军又失多处郡县，一些胆小之辈也倒弋投降了元军。只有陈猱头坚持不降、力守益都，与安丰相呼应。
朱元璋对江北军事形势这种急转直下的变化，深感焦虑，汴梁失守，山东大部分失陷；这使得朱元璋北方的屏障全线崩溃。朱元璋很清楚，这几年来，全靠大宋红巾军在北方为他做掩护，他才得以在江南地区从容发展，如今局势急变，安庆万一失守，朱元璋就会受到元军的直接进攻，他思考再三，认为，和元军主力直接交锋，他的实力还不够，时机不成熟，于是，他两次派使臣去见察罕帖木儿，并给他送去重礼和亲笔信，要求通好“结援”，希望能够先稳住对方。
元顺帝得知朱元璋有和察罕帖木儿通好的意思，还真有招降朱元璋的意思。并决定授予朱元璋荣禄大夫、江西等处行中书省平章政事。他派户部尚书张昶、郎中马合谋等带着御酒、八宝顶帽和宣命诏书走海路到了方国珍处，方国珍两次派人告诉朱元璋说明元朝使臣已经到来的情况。因为北方的战局还未明朗，朱元璋便假装不知此事，没有理睬。后来，察罕帖木儿被田丰等刺死，其外甥扩廓帖木儿继为统帅后与元朝另一大将军孛罗帖木儿争夺地盘，打得不可开交，双方没有一方有让步的意思，这样看来，元军暂时还不会南下，而且张昶一行已经到达应天，元朝先前扣留的朱元璋使臣现也被送回应天，于是，朱元璋改变了当初想和元朝通好“结援”的想法。张昶是元朝的一位老臣，做官多年，官位甚高，对元朝的朝章典故、名物制度都非常的熟悉，朱元璋爱他是个人才，白天，下令将他和其他人一起捆绑起来，夜里，将张昶一人留下，用一死囚作替身，将他们斩首于聚宝门外。几天后，任命张昶为侍中书省都事，并对刘基、宋濂讲：“元朝送一大贤人与我，尔等可与之议论。”当初张昶带着元朝的官诰到应天招降的时候，叶兑上书劝朱元璋不要接受元朝的册封，应该自创局面，立基业，并且还为朱元璋拟定了平定东南和两广的策略和步骤。他指出，在北面与察罕帖木儿断绝；在南面兼并张士诚；招降温、台；夺取闽、越。定都建康，进一步可以越过两淮北征，退一步也可划长江自守。叶兑的这一奏折深得朱元璋的重视，朱元璋觉得，叶兑的这一攻取战略很有见地，他是个难得的人才，就想把他留在身边，但叶兑执意不肯，朱元璋只好作罢，但他决心采用叶兑的建议，立足江东逐步实现叶兑的战略步骤。最后，朱元璋拒绝了元朝的招降，但他这种欲叛未遂的行为却害死了身边众多忠诚并立有汗马功劳的战将。这给应天带来了重大损失。扩廓帖木儿继任主帅后，加紧围攻益都，刘福通见形势紧迫，便亲率大军前去援救，不料却大败而归。1362年（龙凤八年）十月，益都失陷。大宋政权在山东的据点全部丧失。益都失陷，安丰孤立。第二年二月，张士诚派兵十万帮助元朝进攻安丰，刘福通率军拼死保卫，弹尽粮绝，不得已，向朱元璋请求支援，朱元璋了解到安丰已危在旦夕，随时可能失陷，因此决定出兵救援，但刘基等人极力反对。刘基讲：如果大军出救安丰，张士诚、陈友谅势必乘虚来攻，就会进退无路陷于被动。即便救出小明王，又如何安置。放在应天，就得听他调遣，自找没趣；不放在应天又放到何处？朱元璋力排众议，他认为安丰失守，应天就失去屏障，救安丰就是保应天，这才是关键，是大局，其他均好解决。于是，他不顾众人的阻拦，亲自出征，命徐达、常遇春率军急赴安丰。没想到等他们到达安丰时，刘福通已经阵亡，朱元璋率军激战，击败元军，安丰解围。朱元璋将小明王迎至滁州。并为他建造宫殿，厚加供养，并用自己的心腹替换掉了原来的侍从，这样，实际上大宋政权已名存实亡了。刘福通领导的北方红巾军宣告失败，但他曾率领义军主力，适时的组织了三路大军北伐，吸引并消灭了大批元朝主力部队，从根本上动摇了元朝的统治，刘福通作为元末农民战争的领导者，他的功德是不能抹杀掉的，也可以这样说，没有刘福通领导的北方红巾军的英勇奋战，就没有江南根据地的建设和发展，更不会有朱元璋代元建明的这一结局，因此，刘福通是元末农民起义的杰出领袖，功在后代。1363年（龙风九年），三月十四日，小明王在滁州下谕：封赠朱元璋三代：曾祖父朱九四为资德大夫、江西等处行中书省右丞、上护军、司空、吴国公；曾祖母侯氏为吴国夫人；其父朱五四为开府仪同三司、上柱国、录军国重事、中书右丞相、太尉、吴国公；母亲陈氏为吴国夫人。从小明王的封赠中，我们不难看出，此时的朱元璋应是大宋政权中书右丞相了，权力之大，恐无人能及，真所谓是：一人之下，万人之上。