肖洛霍夫出生在一个商店职员的家庭，中学毕业后参加过征粮队等。1922年到莫斯科学习，同时开始创作。1924年成为职业作家。
他的早期作品有中短篇小说集《顿河故事》、《浅蓝的原野》等，以顿河地区为背景，揭示了国内战争时期哥萨克内部阶级冲突的尖锐性和悲剧性。
1926 年，肖洛霍夫开始创作长篇巨著《静静的顿河》，期间还写了反映农业集体化运动的长篇小说《被开垦的处女地》等。卫国战争期间，他作为战地记者奔赴前线，写了很多充满爱国主义精神的短篇小说。
1956 年发表的短篇小说《一个人的遭遇》以卫国战争为背景，通过一个普通苏联人的遭遇，控诉了法西斯的侵略战争给苏联人民带来的深重灾难。小说对战争和人的关系的深刻思考，对苏联当代文学尤其是战争文学影响很大。1965 年，肖洛霍夫获诺贝尔文学奖。