改名后，山本五十六所作的第一件事是在藩士们的簇拥下，厚祭山本家历代祖先，清理自戊辰战争以来已经荒废了５０多年的山本家墓地；接着他又修心静身，于当日用了一个通宵将山本家祖先自庆长以来的各代法号、戒名全部书写了一份，并于第二天在长兴寺大作法事道场，以资纪念招魂。
改姓之后，山本五十六这个长冈武士的后代无形中又增加了一种荣耀，长冈遗魂以及一些旧武士倡导的军国主义色彩极浓的“长冈精神”、“常在战场”的遗训，刺激着他为了不辱山本名门之“声誉”更加竭尽全力，勤学苦练，忠于职守。
在山本五十六武士战袍加身后的第二年，即１９１８年，３５岁的山本五十六与三桥礼子结婚。
三桥礼子出生在一个普通的家庭，身高1.５４米，身体结实，能吃苦耐劳。据山本五十六的至交，曾任海军中将的堀悌吉说，山本的妻子在日本这样的国度里，堪称是个贤妻良母，是日本名副其实的一流女性。但是，两人婚后的生活有许多不和谐的地方。升任高级将领后，每逢山本看到部下在船舱内摆着妻子的照片，就深有感触地说：“你们是经自由恋爱而结婚，情投意合，多好啊！我是无可挽回了！”悔意溢于言表。这种想法并非因为山本地位变了才有的，而是一开始就隐藏着一些矛盾。从山本订婚时的情形看，他同意这桩婚事，主要是因为女方出身劳动家庭，体魄健壮，能够吃苦，而且生于祖辈曾经流血牺牲的地方，至于个人性格等因素却未过多考虑。婚后两人经常吵架，一遇到闹别扭，山本总是蒙头大睡，度过难关。家庭的矛盾和枯燥的军人生活促使山本五十六在婚姻以外寻找感情寄托。在他的一生中，曾与许多艺妓保持长期的密切关系，其中关系最密切的就是千代子。在山本五十六荣任联合舰队司令长官时，山本曾秘密携带其一同前往。即使大战爆发以后，山本五十六也总是找各种机会与之幽会，甚至为讨其欢心，还曾谎称治病，背着千代子在大街上走。河合千代子对山本也是感情笃深，在战火纷纷的年月里给了山本五十六莫大的安慰。
3.从军校生到联合舰队司令长官
山本五十六日本海军大学毕业后，在海军省军务局就职，１９１９年他被派往美国留学研修，进一步深造。
１９２１年７月，山本五十六结束了在美国的研修生活，回到日本。最初山本被任命为军舰“北上”舰的副舰长到中国沿海一带活动，旋又任命为海军大学教官，教授军政学。在海军大学担任教官的一年多时间里，山本五十六得以摆脱艰苦的海上生活，消化美国之行的收获。但海军当局给他的时间并不多。１９２３年７月，他又奉命考察华盛顿会议后的欧美现状，踏上旅欧之途。
参察完欧洲之后，山本五十六又来到美国，考察美国海军军备情况，并视察了日本投资经营的奥伦治油田。回国后，他曾大力劲说日本石油公司向美国进军开发油田。作为一名校级军官，长期的海外生活，托层了他的生活和视野，使他更加闰注世界军事技术的每一项，并使他最终走上为之献身的军事航空事业。
１９３４年９月７日，山本五十六被任命为伦敦海军裁军会议预备会议日本方面的海军首席代表。山本五十六的伦敦之行，不过是日本统治集团利用“顽强的山本”，对英美实行愚弄和欺骗而已，因为他们期望山本既能使日本达到废除条约的目的，而又不背上舆论和道义上的不利压力。
山本五十六在谈判桌上的高超技巧，赢得了国际国内法西斯的一致喝彩。回国后日本海军当局还为他举行了归国报告会。通过裁军谈谈判，山本五十六对世界海军大势的发展非常明了了，他认为当时日本的国力与美国相差很远，所以不能卷入和美国无限制的造舰竟赛。他在给一个朋友的信中写道：“不可否认，我帝国之国力较之美国确有天壤之别……吾等深感日本帝国是到了谨慎自重、发奋图强的时候了……可以想象，一战前的德国，如果再忍耐50年的话，它当今也能与同强国相匹敌。前车之覆，后车之鉴。今天我们日本帝国必须冷静自重。积蓄力量，盛国强兵。尽管此次谈判已毫无胜利可言，但只要我们能清醒地意识到上述各点，并使之付诸实施，将不愁英美拜倒在我们的麾下。”
最后他满怀信心地说，“对海军来说，至为重要的也是谨慎自重，艰苦努力，当务之急就是无论如何也要迅速发展海上航空兵。”山本五十六，这位刚在伦敦裁军会议预备会议上提升的海军中将，已经成为世界法西斯主义分子瞩目、日本国内家喻户晓的人物了。
这一时期日本的国内局势动荡不安。在大资产阶级的扶植、纵容下，日本法西斯运动达到了疯狂的地步。日本军部在中国发动“九一八”事变成功后，法西斯分子深受鼓舞，便开始在国内实施暗杀政变等手段，企图建立法西斯独裁统治。
１９３２年，他们迫使政党内阁倒台，军队内的法西斯分子也分裂成“皇道派”和“统制派”。两派相互残杀，并于１９３６年２月２６日制造了大规模的流血事件——“二二六事件”。大约１５００多名皇道派官兵打着“天诛”的旗号，对统制派实行突然袭击。杀戮持续了近４天，统制派遭到了残酷的清洗。81岁的藏相高桥是清、海军大将斋膝实、海军大将铃木贯太郎、首相冈田启介等重要人物均遭袭击。铃木和冈田侥幸活命，高桥和斋腾实被杀。２月２９日，天皇下旨平息叛乱。得到大财阀支持的法西斯统制派趁机剪除异己，控制了政府。事变后的广田内阁，实际上是军部的傀儡。在法西斯主义分子的操纵下，广田内阁加快了侵略扩张步伐。８月，通过了《帝国国防方针》和《国策基准》，决定“在确保帝国在东亚大陆地位的同时，向南发展”。１１月，日本和德国签订《关于共产国际协定》，把矛头指向美国。
国内局势的变化使刚被任命为海军航空本部部长的山本五十六忧心忡忡。他对过激分子的行为十分反感。在“二二六”事件爆发之初，曾有人到航空本部动员海军参加，结果被山本赶出办公室。事件发生后，山本曾说：“如果陆军做得太过分，使叛乱势态继续恶化下去，海军也准备出面干涉，最终难免同陆军兵戈相见。”这虽然是一时气话，不过也反映了他的态度。
山本五十六反对过激分子的行为，并不意味着他主张世界和平。事实上，在效忠天皇、对外扩张方面，他同任何法西斯分子的思想都是一脉相通的，只不过他比一般人看得更远，考虑得更周到罢了。从这个意义上说，他是一个更具危害性的法西斯战争贩子。
山本认为，就日本的国力而言，打一场同世界强国之间的战争，条件还不成熟。如果非打不可，那么绝不能依靠巨舰大炮与之海上决战，唯一可以扼制敌人的办法就是依靠飞机打击。他曾设想，在一般情况下，如果具有强大优势的美海军横渡大洋攻击日本，日本海军可以使用一种大型的远程陆基机对之进行轰炸拦阻，不断削弱其力量。当他们到达日本近海时，力量就被削弱到与日本舰队差不多，甚至劣于日本舰队。后来的战争发展表明，在美国舰队攻击日本本土时，日本采用的就是这种战略。
出于这种思考，山本五十六竭其所能发展空军力量。在他任航空本部技术处长时，他就开始对飞机进行技术改造，生产全金属高性能飞机，并提出“国产化”的口号。
１９３３年，他主持设计成功远程陆基机“八试特种侦察机”，１９３４年成功地改造为“九试中型陆基轰炸机”，１９３６年投入大批量生产，被称为“九六式陆基轰炸机”。这种飞机在当时世界各国中，技术和攻击力堪称一流。
山本五十六在任航空本部部长期间，每月至少要到三菱重工业公司和名古屋的飞机制造工厂去访问一到两次，并且想方设法争取三井、住友和日立三大公司参与航空工业的发展。此外，他还经常到曾经工作过的霞浦海军航空队探视，给予海军航空事业高度关注。其间曾经发生许多有趣的事情。当时，由于技术和人员素质方面的原因，航空队事故发生率很高，航空队副队长桑原雄虎对此一筹莫展。这时，有人向他推荐了一名看相先生，说是能够分辨哪些人适合驾驶飞机，桑原向有关方面提出建议，结果引起一片嗤笑。只有山本表示大力支持。事实证明，这种看相的方法实际上是一种经过长期观察积累的经验方法，在当时科技尚未发达的情况下，不失为一种办法。结果，这位看相先生被正式任命为海军航空本部顾问。这件事既表明了山本对部属的关心，也说明了山本在某些方面与常人想法不同，几乎完全凭直观的判断。这或许也是他袭击珍珠港的原因吧！
在山本五十六的心血浇注下，日本海军航空飞速发展，日本的飞机生产能力跃居世界第二，空军战斗力也迅速提高。１９３７年８月，为配合陆军大规模侵华，日本海军发动“八一四”空战，虽然遭到失败，但其跨海作战能力令世界瞩目。
值得庆幸的是，山本的航空打击和空海军思想并未能被海军首脑所接受。早在１９３４年１０月，日本海军军令部就确立“帝国海军第三次造舰补充计划”，决定建造配备１８英寸大口径火炮。总吨位达７.２万吨的巨型战舰“大和”号和“武藏”号。山本对此激烈反对，但他的建议未被采纳。几年后，这两艘巨舰尚未显示威力，就被美国飞机击沉了。可想而知，如果山本的思想在日本占据主导地位，将给世界人民带来多么沉重的灾难！
“二二六”事件以后，广田弘毅组阁。他任命海军大将永野修身担任海军大臣，取代了大角岑生的位置。永野修身是一位很有才华的海军大将，但是过于自负，极易冲动，山本对他常抱轻蔑态度。然而永野对山本却十分推崇。早在他出使参加伦敦裁军会议时，就曾邀山本参加，被拒绝。担任海军大臣后，他首先选中山本五十六担任海军省次官，山本再次拒绝。永野不高兴地问山本是否对他抱有成见，存心不予配合。在这样的情况下，山本五十六不十分情愿地答应了担任海军次官职务。
尽管山本五十六对海军省次官的职位不感兴趣，但担任要职却为他推行自己的主张提供了条件。他一方面全力协助永野修身整饬海军，另一方面极力鼓动永野与陆军抗衡。使他失望的是，永野在对待陆军问题上经常表现出软弱。１９３７年１月，国会中残存的政党势力指责军部干预政治，并指名陆军大臣寺内寿一应当切腹自杀。陆军态度十分强硬，提出政党要进行反省，内阁召开会议，解散国会。在军部的干预下，广田弘毅内阁于１月２３日瓦解，永野修身只好离开海军省。为了加强海军的地位，山本说服永野推荐米内光政任海军大臣。于是，在林铣十郎大将的内阁中，米内担任海军大臣，山本继续任次官，开始了海军省的米内一山本体制时代。米内对山本十分信任，这不仅因为两人曾同在炮术学校学习，并结下深厚友谊，更因为思想观点甚至性格都十分接近。一般情况下，山本的意见和建议都能得到采纳，米内也由于有山本这样的得力助手十分省心。
山本任海军省次官期间，日本侵华战争全面爆发。然而在日本军部内部，对待侵华战争的态度却不一致。一些强硬派认为，中国不堪一击，主张立即解决中国问题。以海军省为代表的人则认为，日本对外扩张的真正敌人是苏美等国，不能把力量消耗在中国大陆。山本五十六就属于后者。据说，他曾经对知心朋友武井大助说：“陆军中的这些混蛋们，果然挑起了战火，简直要把人气疯了。我从此戒烟，直到这次事件结束为止。”他对陆军的反感，经常是公开化的。据说在一次陆海军首脑同时参加的会议上，山本坐在一位陆军将军旁边。会议开始后，这位将军大发议论，山本感到十分乏味，就把他的椅子悄悄往后挪了挪，结果让这位将军扑通一声摔在地上。还有一次，陆军次官东条英机炫耀陆军飞机的性能和战斗力，山本竟尖刻地说：“实在了不起，你们的飞机也能飞了。不过，你可别忘了，有人常说：‘海上的雄鹰，陆上的鸡。’”这句话引得哄堂大笑，只有东条和山本本人面无表情。然而，不管山本和海军省如何努力，也无法左右形势的发展，日本政府已决心在华大打一场。从“七七事变”到１９３７年年底，不断对华派兵遣将，并以４万多人的代价于年底占领上海。国内外局势日益向着山本五十六意愿相反的方向发展。
日本军国主义政府一面加紧对华侵略，一面寻找国际支持，这与处于同样境地的法西斯德意不谋而合，双方关系日趋密切。１９３８年１月，里宾特洛夫向日本表示：“我们应当签订一个使日德关系更加亲善密切的条约。”２月，德撤回驻华军事顾问团，正式承认满洲国。１０月，日本政府也调回反对三国同盟的东乡茂德大使，任命亲德的大岛浩任驻德大使。日本政府的这一行动使得山本五十六和海军省十分焦虑。因为山本十分清楚，与德意结盟自然就意味着与英美苏为敌，其后果不堪设想。所以，山本和米内主持的海军省极力反对同德意结盟，而主张对英美实行安抚政策。