黄河故道，本是自西向东流去，但从宋仁宗嘉祐年间起，黄河多次决口，河水北流入海。对此，朝臣内部分为两派意见：一派主张顺应地势，让河水继续北流；一派则主张“回河”，在澶渊一带堵塞决口，使黄河水回归东流。从此“回河”之争持续了数十年。黄河水时而北流，时而东归，而水患依然：宋神宗元丰五年（1082），黄河再次决口北流。至哲宗元祐元年（1086），屡次泛滥成灾，朝廷又重视黄河问题。秘书监张问“请于南乐大名埽（sào）开直河并签河，分引水势入孙村口，以解北京向下水患。”于是第三次回河之争又起。
当时大臣文彦博、安焘、吕大防和都水王令图、王孝先、吴安持、李伟等竭力主张河水东流；而右相范纯仁和苏辙、曾肇、王存等则主张维持河水北流，反对回河。元祐三年六月，皇帝降诏：“黄河未复故道，终为河北之患。王孝先等所议，已尝兴役（已经开工），不可中罢。宜接续工料，向去决要回复故道。三省、枢密院速与商议施行。”皇帝主张回河，且已降诏要求施行，面对回河加速之势，苏辙向哲宗连上数疏，极力反对。苏辙认为：“议复故道，事之经岁。役兵二万，聚梢桩等物三十余万。方河朔灾伤困弊，而兴必不可成之功，吏民窃叹。”“今小吴决口，入地已深；而孙村所开，丈尺有限，不独不能回河，亦必不能分水。况黄河之性，急则通流，缓则淤淀，既无东西皆急之势，安有两河并行之理？纵使两河并行，未免各立堤防，其费又倍矣。”他又针对黄河北流会导致“御水湮灭失馈运之利”“恩、冀以北，涨水为害，公私损耗，”“河徙无常，万一自契丹界入海，边防失备”的论调进行反驳，力主停止回河的工程。
元祐四年正月，朝廷降诏停止回河及修减水河。七月，冀州南宫等五埽危急。都水监仍力主回河或“二股分行”。苏辙于八月再次上疏，认为夏秋之交雨水多，河水出岸乃每年之常事，“而李伟与河埽使臣因此张皇，以分水为名，欲发回河之议……河水一兴，求无不可，况大臣以其符合己说而乐闻乎？”他认为应“急命有司，徐观水势所向，依累年涨水旧例，因其东溢，引入故道，以纾北京朝夕之忧”“至于开河、进约等事，一切毋得兴功，俟河势稍定然后议。”元祐五年二月、九月、苏辙又两次进言谏阻回河，并要求“罢吴安持、李伟都水监差遣，正其欺罔之罪。”但由于宣仁太后始终倾向回河，所以工程虽时作时停，进展缓慢，但至元祐七年十月，河水已大部东流；到绍圣元年（1094），“尽闭北流，全河之水东还故道。”
但黄河回复东流仅仅五年，至元苻二年（1099），黄河又于内黄决口，东流断绝，主流又向北流，回河之举宣告失败。积极主张回河的吴安持、郑佑、李伟等人均被朝廷加罪，“投之远方”。第三次回河之争宣告结束。
在北宋第三次回河之争中，苏辙无疑是扮演了反回河的主要角色。他从当时黄河水流和为患的实际情况出发，考虑到回河工程给百姓带来的徭役和给国家带来的财政压力，冒着反对皇帝诏令的风险，坚决反对回河，表现了他的求实精神和政治勇气。事实证明，在当时的历史条件下，苏辙的主张是可行的。