这以后，对曹操威胁最大的军阀是西边占据南阳的张绣，东边占据徐州的吕布，南边占据淮南的袁术和北边占据冀州等地的袁绍。在这种四面临敌的情况下，曹操利用与袁绍旧有的联盟关系，采取了北和袁绍而向东、西、南用兵的策略。他委派侍中钟繇兼司隶校尉，督关中诸军，稳住占据关中的马腾、韩遂等人，自己于建安二年（197年）春季，亲率大军征讨张绣，张绣战败，举众投降。不久张绣反悔，率众袭击曹军，杀曹操长子曹昂，曹操也身中流箭，校尉典韦死守营门，受伤几十处，奋战而死。曹操退到舞阴，设计击破了追来的张绣。次年，曹操再次率军攻打张绣，包围张绣所在的穰城，还未攻克，听说袁绍想袭取许都，忙率众退兵，张绣和刘表紧追不舍，在安众遭到曹操伏击，惨败而归。第二年十一月，张绣在贾诩的劝说下，率众再次归降曹操。曹操大喜，拜张绣为扬武将军，贾诩为执金吾，解除了西南的威胁。南方的袁术在汉献帝定都许昌后，在寿春自立为帝，并拉吕布对付曹操。曹操利用其政治优势，分化了吕布与袁术的关系，挑起吕、袁之战。曹操又乘袁术败于吕布之机，发兵进攻袁术，将袁术生力军消灭殆尽。袁术从此衰落，再也无力与曹操抗争。建安三年（198年），曹操又进攻势力越来越大的吕布，先克袁城，后围吕布于下邳，围攻两个多月，攻破下邳，俘杀吕布，收降其将领张辽。这样，曹操便逐步消灭和收降了东、西、南三方的对手。建安五年（200年），曹操又打败了占据青、幽、并、冀四州的袁绍，后用几年时间，击败了袁绍之子袁谭、袁尚、袁熙和袁尚的外甥高干占领青、幽、并、冀四州。又远征辽东、辽西、右北平三郡乌桓，杀乌桓王蹋顿和三郡乌桓单于，翦灭了袁氏残余，基本统一北方。建安十三年（208年），曹操恢复丞相名称，自任丞相，总揽朝政。同年，他又兵锋南指，占据荆州，收编了刘琮的军队。在赤壁之战中，曹操被孙、刘联军击败，打消了短时间内统一全国的计划，开始致力于内部整顿，进一步招揽人才，巩固他在北方的统治。
建安十五年（210年）春，曹操下求贤令，令部下“唯才是举”，推荐人才。同年十二月，为安抚内部的拥汉势力，他又下了《让县自明本志令》。在令文中，曹操回顾了自己的起家过程，声明自己矢志忠于汉室，并退出封邑三县二万户，“以分损谤议”。同时又声称，决不图虚名而放弃军权。次年，汉献帝下诏以曹操世子曹丕为五官中郎将，允许他自置属官，实领副丞相之职，同年三月，曹操命司隶校尉钟繇和部将夏侯渊进军关西，马超、韩遂联络关中侯选、程银、杨秋、李堪、张横、梁兴、成宜、马玩等十部将领，集众十万，阻止曹军入关。曹操亲临潼关指挥，令主力与马超等军夹关对峙，密遣徐晃、朱灵率精兵四千，由蒲坂津渡过黄河，紧接着，大军也陆续过河，迫使马超等军放弃潼关，撤到渭南。曹军又巧渡渭水，向十部联军发起攻击，成宜、李堪等人被杀，马超、韩遂等人逃奔凉州。经过四年时间，赶走马超、氏王，杀掉韩遂，招降了河西诸羌，将关西割据势力一一消灭，完全统一了北方。
随着曹操统一战争的逐步胜利，曹操的政治地位也越来越高。建安十七年（212年）正月，汉献帝下诏，今后曹操赞拜皇帝不称名字，入朝不趋，可佩剑上殿，宛如汉初丞相萧何一样。这年十月，大臣董昭对曹操说：“自古以来，人臣匡世，未有您今日之功者；即使有您今日之功者，也未有久处人臣之位者。现在您虽愿保守名节，但是您在大臣之位，容易使人怀疑您，您不可不认真考虑。”曹操认为此话言之有理，乃与列侯诸将计议，以为丞相应当进爵为国公，配备九锡，以表彰殊勋。荀却从维护汉室出发，反对这样做，使曹操极不高兴。后曹操借故将荀扣押在军中，荀知他与曹操的矛盾不会消除，于是服毒药自杀。
建安十八年（213年）五月，汉献帝以冀州十郡封曹操为魏公，仍旧以丞相兼职冀州牧，加赐九锡等殊礼。不久，曹操开始建造魏社稷、宗庙。十一月，曹操又在自己的封国初置尚书、侍中和六卿等官职，以荀攸为尚书令，凉茂为仆射，毛、崔琰、常林、徐弈、何夔为尚书，王粲、杜袭、卫觊、和洽为侍中，钟繇为大理，王修为大司农，袁涣为郎中令，行御史大夫事，陈群为御史中丞，初步建立曹魏政权。次年，汉献帝又下诏：曹操位在诸侯王之上，改授金玺等物。又过了二年，汉献帝下诏，把曹操爵位由魏公升魏王。曹操成为魏王后第二年，汉献帝又下诏，魏王曹操设天子旌旗，出入称警跸。又以曹操世子五官中郎将曹丕为太子。至此，虽然曹操名为魏王，表面上低于汉帝一级，实际上已是真皇帝，汉献帝徒有虚名，早成为傀儡和曹操的政治工具，国家的政治、军事、经济等权力，全掌握在曹操父子手里。
从曹操迎汉献帝都许，控制了朝政时起，一些忠于汉室的大臣，曾几次想谋杀曹操，从他手中夺回实权。建安五年（200年），车骑将军董承等人就想谋杀曹操，不料事情泄露，董承等人全被曹操诛杀。建安十九年（214年），伏皇后也写信给父亲伏完，陈述曹操残忍威逼汉献帝，令伏完密杀曹操，结果伏完不敢下手，反被曹操得知。曹操令御史大夫郗虑收回伏皇后的玺绶，将伏皇后和她生的两个皇子，以及室宗一百多人杀戮。次年，曹操又逼汉献帝立他的女儿为皇后。建安二十三年（218年），太医令吉本与少府耿纪、司直韦晃等人谋反，火烧丞相长史王必的军营，欲抢走汉献帝投降刘备，最后也兵败被杀。建安二十四年（219年），魏相国西曹掾魏讽，勾结长乐卫尉陈密谋袭击邺城，陈恐惧告发，曹丕下令捕捉魏讽，这次牵连被杀者达数千人，魏相国钟繇也因此而被免官。通过一次次斗争，拥护刘氏宗室的势力全部被清除，曹氏取代刘氏为帝的条件已经完全具备，但曹操却不想由自己来取代刘氏。这年十二月，孙权袭杀关羽，曹操任命孙权为骠骑将军，封为南昌侯。孙权遣使者来致谢，并上书向曹操称臣，劝曹操顺应天命，早即帝位。曹操把来信传示诸将，说：“这小子是想把我架上火炉去烧烤我呵！”大臣陈群、大将夏侯等人也劝曹操不要犹豫，早正大位，曹操见部下都拥护他称帝，才吐露了真心话，说：“如果我真有天命，那我当周文王吧。”表示他愿极力为儿子当皇帝创造条件，他自己却不愿称帝。
魏黄初元年（220年）正月，曹操病死在洛阳，太子曹丕即魏王、丞相、冀州牧之位。这年七月，左中郎将李伏、太史丞许芝上表，奏称“魏当代汉，见于图纬，其事甚众。”群臣也纷纷上表，劝曹丕顺应天人之望，禅代刘氏。十月，汉献帝被迫遣御史大夫张者奉皇帝玺绶诏册，禅位于魏。曹丕假意推让一番，才下令在繁阳筑坛。坛建成后，曹丕登坛，由公卿、列侯、诸将、匈奴单于、四夷使者数万人陪同，接受皇帝玺绶，正式即皇帝位，是为魏文帝，改元黄初。十一月，魏文帝曹丕下诏，改汉献帝为山阳公，追尊父亲武王曹操为魏武皇帝，正式建立了曹魏政权，中国历史也随之进入三国时期。
蜀汉的建立
汉灵帝末年，大常刘焉建议，说刺史太守货赂为官，削剥百姓，以致使百姓离叛，因此应选派清廉重臣，任为州牧，镇安方夏。此时刚好益州刺史俭赋敛烦忧，谣言远闻；而并州杀刺史张益，梁州杀刺史耿鄙；刘焉见天下将乱，暗中寻找日后发展安身之地，就出为盟军使者，领益州牧。这时正是中平五年（188年）。当时凉州的马相、赵祗等在绵竹县自称黄巾军，杀绵竹县令，攻破雒县，攻益州杀俭。又到蜀郡、犍为，九月之间，破克三郡，马相自称天子，士众达十余万人，他们又派人破巴郡，杀郡守赵部。州从事贾龙只领兵数百人，在犍为东界，摄敛吏民，得千余人，攻杀马相等，不久即败走。州界平静下来。贾龙就选派吏卒迎接刘焉。刘焉徙治绵竹。抚纳离叛之人，务行宽惠，阴谋他图。刘焉任张鲁为督义司马，与别部司马张修攻击汉中太守苏固。张鲁却袭击张修并杀之，夺走张修的士众。刘焉上书称米贼断道，没法沟通。又以其他事情为借口，杀州中豪强十多人，以立威刑。犍为太守任岐及贾龙因此而反攻刘焉。刘焉击杀任岐、贾龙。刘焉的势力渐强，制作乘舆车具千余乘。这时刘焉的儿子刘范为左中郎将，刘诞为治书御史，刘璋为奉车都尉，皆跟献帝在长安，只有小儿子刘瑁一直跟随刘焉。献帝派刘璋晓谕刘焉，刘焉则留下刘璋不返。马腾与刘范谋诛李，刘焉派叟兵五千助之，战败，刘范被杀，刘诞被捕行刑。议郎庞羲与刘焉通家，就把刘焉的几个孙子护送入蜀。这时刘焉突遭火灾，车具烧尽，延及民家，刘焉徒治于成都。天灾人祸，使刘焉一蹶不振。兴平元年（194年），刘焉死。州大吏赵韪等以为刘璋温仁，共上书荐刘璋为益州刺史，诏任为监军使者，领益州牧，以赵韪为征东中良将。当初南阳、三铺流民数万户流入益州，刘焉全部收容，名曰东州兵。刘璋性柔仁宽，无威严，东州人侵扰以为民患，刘璋不能禁制，当地人颇有怨言。赵韪在巴中，甚得众心，刘璋又委以重权，赵韪因此阴谋交结州中大姓，于建安五年（200年）还击刘璋。蜀郡、广汉、犍为皆响应叛乱。东州人害怕刘璋失败而自己也遭诛灭，就同心协力为刘璋死战。遂大败反叛者，进攻赵韪于江州，斩赵韪。张鲁认为刘璋懦弱不能承顺，刘璋大怒，杀张鲁的母亲及弟弟，并派其将领庞羲进攻张鲁，但多次被张鲁打败。张鲁的部下多在巴土，原以庞羲为巴郡太守，张鲁因此袭取之，称雄于巴、汉。汉王室无力征讨，遂笼张鲁任其为镇民中郎将，领汉守太守，只向王室贡奉而已。建安十三年（208年），曹操领兵攻荆州，刘璋派人向曹操表示致敬。曹操封刘璋振为威将军，刘瑁为平寇将军。刘璋又派别驾张松见曹操。曹操当时已平定荆州，走先主，不复存录张松，张松由此而怨恨。后张松劝刘璋与曹操绝交而转投刘备。刘璋就派法正连好刘备，不久又令法正与孟达送兵数千，帮助刘备进行守御。后刘璋又迎刘备入境，刘备宾至如归。建安十六年（211年）刘璋前往会见刘备，资给刘备军需，让刘备征讨张鲁，然后分手。刘璋此举想借刘备之力抑制蜀中诸将，剿灭张鲁后以刘备屯汉中，而刘璋仍可得益州。刘璋自以为得计，不料却反被人利用。
四川成都刘备墓赤壁之战后，刘备刘表之子刘琦任荆州刺史，刘琦病死，众人便推刘备为荆州牧。孙权有些畏惧，就让其妹与刘备联姻。刘备到建业会见孙权。周瑜上书孙权说：“刘备以枭雄之姿，又有张飞、关羽熊虎之将，必非久屈人下。愚谓大计，应该让刘备留在东吴，多筑宫室，多选美女，多予奇器玩耍，以娱其耳目，懈其大志。把关羽、张飞二人各置一方，在我们统领之下，这样便可以挟二人展开攻战，大事即可定。现在猥割土地，以为其奠定物质基础；聚此三人俱在疆场，恐怕是蛟龙得云雨，终非池中之物。”孙权认为曹操在北方，应该广为招揽英雄，又担心刘备难以驾驭，所以没有采纳周瑜的建议。周瑜于是亲到建业见孙权，请求：“与奋威俱进取蜀，得蜀而并张鲁，然后留奋威固守其地，好与马超结援，周瑜则还与将军据襄阳以蹙曹操，这样可图北方。”孙权答应了这个请求。周瑜返江陵打点行装，但不料在进军途中病死。孙权便以鲁肃代替周瑜。
孙权后来派人要与刘备共同取蜀，荆州主簿殷观向刘备进言说：“如果作为吴的先驱，进不能去克蜀，退为吴所乘，这样我们也就彻底完了。现在我们可以赞成吴去攻蜀，然后又说新据诸郡，有待安抚，不能与他们一道发兵，这样吴也一定不敢越过荆州而单独攻蜀。那么进退之计由我，可以取吴、蜀之利。”刘备采纳了这个建议，孙权果然辍计。因为周瑜已死，没有人能奋身单独取蜀，所以就想利用刘备为前驱，胜败都于己有利，但刘备却不上这个圈套。