哈里曼力图指出美国与蒋介石的基本分歧所在：蒋介石“仅仅是雄心勃勃”，想利用台湾作为返回中国大陆的跳板；美国则打算通过联合国在台湾建立一个独立的政府。
麦克阿瑟对此提出了一项建议，就算用哈里曼在斯大林主义的俄国所耳闻目睹的标准来衡量，这个建议也是冷酷无情的。麦克阿瑟承认蒋介石不可能收复大陆，但他认为，“让他进攻大陆并就此把他除掉，这也许是个好主意”。哈里曼一言不发地倾听着他的建议。
哈里曼此行有一项微妙的任务，他并未将其写入他的书面报告。他动身去东京时，杜鲁门对他说，实际上是要他仔细地对麦克阿瑟察言观色，回来后向总统汇报他认为麦克阿瑟在智力上和体力上能否继续胜任其指挥职务。哈里曼欣然从命。尽管他的结论没有记录在案，但有一个小小的迹象表明，他已经提醒总统多加注意。哈里曼返回后不几天，杜鲁门就指派他所信赖的军医和朋友弗兰克·洛少将去东京，指示“就麦克阿瑟将军的身体状况以及应付其职权范围内重大事件的能力向他提出报告”。洛报告说，麦克阿瑟“精神矍铄”，白宫便就此罢休了。
杜鲁门“以为……麦克阿瑟将军会接受他的总司令所制定的对台政策了”。杜鲁门听完哈里曼的汇报以后，8月10日在一次记者招待会上说：“麦克阿瑟将军和我的意见完全一致，而且自从他担任目前的工作以来，我们俩始终如一。……我对他目前的工作表示满意。”此话虽与事实大相径庭，但是杜鲁门是向麦克阿瑟发出信号，他愿意摒弃前嫌。如果将军在政治上更为清醒的话，他就应该认识到，杜鲁门实际上已经对他留用察看了。但是，麦克阿瑟完全是从不同的角度看待形势的。他大胆地向杜鲁门和参谋长联席会发难，他们则节节退让。他知道，在让蒋介石放手骚扰中国大陆共产党的问题上，国防部长约翰逊是支持他的。麦克阿瑟可以暂时缄口不语，但他知道，他还会有机会就台湾问题公开发表意见的。参谋长联席会议的一份官方史料恰如其分地写道，他终于“将发丝般的裂缝扩大成……难以填补的鸿沟”。
内阁之乱
战争的头几天过后，杜鲁门总统就知道他必须面对一个不甚愉快的事情：罢免国防部长路易斯·约翰逊。这个任务很艰难，因为杜鲁门从第一次世界大战之后的年代起就跟约翰逊相识，当时两人都在退伍军人事务上颇为积极。约翰逊接着成为一名成功的律师，在家乡西弗吉尼亚和华盛顿两地都有事务所，他还是美国全国退伍军人总会会长。第二次世界大战期间，他在陆军部任文职高官，当时任参议员的杜鲁门发现约翰逊对工业动员的事务很有帮助。杜鲁门对约翰逊印象良好，他请约翰逊出掌他1948年竞选活动的财务工作。当时几乎没有人愿意为一个明显无望获胜的竞选活动捐助，约翰逊在极端困难的条件下表现很出色。
1949年，新设立的国防部第一任部长詹姆斯·福雷斯特的精神状态开始恶化，最后以自杀告终。杜鲁门希望对约翰逊在竞选中的效力给予褒奖，就选择他出任国防部长。此项任命使一些观察家感到忧虑，如《纽约时报》的军事记者汉森·鲍德温。他说：“我相信，我们之中了解他的人……大多数都会认为这将是一个灾难。他是一个彻头彻尾的政客，他将会牺牲任何防务……或者作战效能来达到政治利益的目的。”在鲍德温看来，约翰逊“完全就是杜鲁门的工具”。
约翰逊一开始还让杜鲁门满意。他大刀阔斧地削减军事预算。他取消一艘海军将领们心仪已久的航空母舰的订单，从而平息了一场吵吵闹闹的海空两军之间的纷争。他并不惧怕高阶军官们。然后，杜鲁门开始注意到，他的这位老朋友出毛病了。
发生了一些情况。我的看法是，“华盛顿权欲病”和一种病状是造成最后惨败的罪魁祸首。
路易斯开始流露出一种过分以自我为中心的欲望，想要操控整个政府。他冒犯了每一位内阁成员。我们的每一次内阁会议上，他都要明显表露出他对财政部、商务部、劳工部、农业部的问题，比那些部长们懂得更多。他瞧不上任何人，包括所有这些部长。他从不放过任何机会说我私人助手班子的坏话。
接着，让杜鲁门大为恼火的是，约翰逊“企图利用白宫记者们来吹捧自己、打压别人，尤其是针对国务卿”。约翰逊在跟参院里杜鲁门的死敌（他们是肯尼思·惠里、约瑟夫·麦卡锡、欧文·布鲁斯特、罗伯特·塔夫脱、博克·希根鲁珀等人）谈话时，还对政府进行恶意攻击，杜鲁门称他的言论“危害极大”。
在朝鲜战争刚开始的日子里，约翰逊对艾奇逊进行恶意中伤，这尤其令人气愤。那些受到约翰逊指点的新闻报道宣称，美国在战争开头时行动迟缓，原因就是艾奇逊的低效无能，并说他有可能被罢免。白宫副新闻秘书埃本·艾尔斯经常被总统用来作为谈话的传声筒，他援引杜鲁门在私下大发雷霆时说的话：“事实是，他们没有办法让国防部行动起来。”总统还说，如果再这样下去，“我们将要有一位新国防部长了”。
然而，约翰逊不断地在碍手碍脚。7月1日是一个星期六，杜鲁门悄悄离开白宫，乘坐总统游艇“威廉斯堡号”出游，放松几个钟头，把战争暂放脑后。当“威廉斯堡号”抵达华盛顿海军造船厂时，约翰逊未经通报，不请自来了，还登上了游艇。艾尔斯在日记中写道：“我们所有的人都看明白了：他这是在招摇过市，他知道这样一来，记者们就会在那里看到他。”
第二天，也就是7月2日星期天的下午，杜鲁门和女儿玛格丽特驱车前往弗吉尼亚乡间，到乔治·马歇尔将军在利斯堡的家中探访。杜鲁门对马歇尔十分敬佩，马歇尔在二战期间曾任陆军参谋长，后来出任国务卿。但是在1949年初，马歇尔在摘除了一个肾脏之后不得不退休，目前他担任美国红十字会主席，这基本上是一个荣誉性职务。马歇尔告诉杜鲁门，他对退休生活心满意足，但是他还说：“我是一名战士，你是我的总司令，如果你要我去国防部，我将效劳。”杜鲁门说，他还没有准备对约翰逊采取行动，但是他希望马歇尔考虑重返政府的事。
大约一天之后，约翰逊把自己陷入了作为哈里·杜鲁门的下属可能发生的最严重的麻烦之中：对总统不忠。艾夫里尔·哈里曼“面色煞白、心烦意乱地”来到白宫，告诉总统一桩非同寻常的事情。他去过约翰逊的办公室，当时这位国防部长正在跟参议员塔夫脱通电话。哈里曼听到约翰逊对塔夫脱几天前的一次讲话表示祝贺。塔夫脱在这次讲话中批评杜鲁门在对朝鲜危机采取行动时，事先没有跟国会商量，还要求艾奇逊辞职。约翰逊对塔夫脱说，这个讲话“可圈可点”。约翰逊跟塔夫脱打完电话后对哈里曼说，如果他们“能把艾奇逊拿下”，他将会“看到哈里曼当上国务卿”。
哈里曼离开了，立刻向总统汇报了这次谈话，并说他（哈里曼）“可没有这么轻易就被收买”。
杜鲁门还听到其他一些令人不安的消息。一位朋友告诉他，约翰逊对一帮西弗吉尼亚共和党人宣称，“在艾森豪威尔将军可能作为候选人的一定条件下……”他愿意“成为共和党保守派的总统候选人”。约翰逊还不停地向专栏作家德鲁·皮尔森泄露政府机密，通常是一些对艾奇逊和其他内阁成员不利的内容。杜鲁门在8月末与艾尔斯的一次谈话时说，约翰逊的状况“已经变得无可救药”，但是总统“目前似乎还没有办法”罢免他。艾尔斯在日记中写道：“总统……很明白，如果现在就罢免约翰逊，将会引发一场风暴，并给批评者和政敌提供更多炮弹。”
然而，艾奇逊拒绝在华盛顿龌龊的政治后院里跟约翰逊做斗争。虽然艾尔索普兄弟在他们的报纸专栏中指出“完全丧失原则”是“约翰逊的主要法宝”，但是艾奇逊吩咐国务院的部下们不要以任何形式批评或贬低这位国防部长。他知晓总统对他的信任，也知道杜鲁门对这样一个倒行逆施的内阁成员不会容忍太久。时候一到，约翰逊就会咎由自取，犯下致命大祸。果不其然，约翰逊栽在与麦克阿瑟将军有关的一件事情上。