这时，夏部落首领鲧被派去治水，传说中这是一个有着丰富治水经验的部落。然而，鲧失败了，于是，被舜“殛于羽山”。即发配而死之意。大禹走上历史舞台。
在太原地区，有很多关于大禹治水的民间传说。
太原市阳曲县县城东北20公里的小五台山，为汾河流域与滹沱河流域的分水岭，在史书上它还有另外一个名字——系舟山。据清初顾祖禹《读史方舆纪要》记载，传说大禹治水时曾在此系舟，故名系舟山，因为山上有崖若环轴，名系舟嵬，其形如环，多悬于崖顶。而太原晋中一带更有关于大禹治水“打开灵石口，空出晋阳湖”的美丽传说。
我国现存最古老的地理书《禹贡》记载道：“大禹……冀州：暨载壶口，治梁及歧，既修太原，至于岳阳”，意即：大禹先在冀州的壶口进行疏导，治理完黄河之后，又治梁山和岐山，即吕梁山和狐岐山等附近的河流。吕梁山和狐岐山就到了现在的离石附近。后来大禹发现只治理黄河是不行的，还要治理汾河。根据记载中涉及的5个地名，对照山西地图，大禹当年治水的路线清晰可见。
大禹治水13年后，全国洪波安澜，水患大治。舜对禹十分满意，将盟主之位禅让给他。而此时农业产量增加，人口增长，各部落交往更密切，新的社会环境和经济形式需要更高级的社会组织方式和管理办法。
大禹治水之后形成了九州，第一州就是冀州。而冀州主要的范畴以山西和河北为主。
相传大禹死后，“启与友党攻益而夺之天下”，建立了中国第一个奴隶制王国——夏朝，夏朝的建立标志着中国若干万年的原始社会基本结束，中国社会组织结构发生颠覆性变化，阶级社会出现在历史舞台。“天下为公”就此进入长达约四千年的“家天下”。一个朴素的时代从此和中国人永远地告别。
500年后，中国有文字和信史可考的商朝出现了。