自1937至1941年，日本已陷入中国战场的泥沼当中，4年来耗费大量资源但无所进展，各殖民地的收成与经济都不好，日本开始寻求其他地方的资源以进行长期战争。1940年7月，日本声称为了截断重庆国民政府自中南半岛获取国外军援，趁法国向德国投降时占领了法属印度支那，以夺取更多战略物资，但此举使得该区附近的殖民地宗主国感到日本扩张的威胁。
日本在亚洲的侵略让美国深感不安。美国先后数次宣布对武器、军事器材以及石油等一系列重要战略物资和设备对日禁运。日本每天需要消耗1万多吨汽油，年消耗达500万吨，如果运用军舰，消耗量还会成倍增长。而当时日本的石油储备只有800万吨。1941年7月24日，罗斯福总统要求日本撤出驻扎在中南半岛和中国的军队，接着又下令禁止对日本出口多项战略资源并冻结了日本的资产，截断了石油供应。不久，英国和荷兰殖民政府也跟进。此政策被日本称为ABCD包围网，出口禁运使向来依赖美国石油的日本受到重大打击。
除了经济手段，美国政府在军事上也做出反应。1940年5月，美国宣布在夏威夷海面做例行演习的太平洋舰队将不再像往年那样返回西海岸，而是留驻珍珠港，以此震慑日本，遏制其“南进”，其后又大量增加海军拨款，扩充海军力量。美日矛盾愈演愈烈，战争一触即发。
耐人寻味的是，山本五十六曾经是反对同美国开战的主要代表人物，他深知，“凭日本的国力，根本不能与美国为敌，同其抗衡”。1940年9月，日本政府已经开始酝酿对美国开战，山本对此感到十分忧虑，他多次与他人发生争论。同在9月，近卫内阁与德、意签订了轴心条约。山本知道日本80%的战略物资都要从英、美控制区供应，所以认为该条约不利于日本。他警告近卫文麿首相，若与英、美开战，前6个月还可以坚持，之后他毫无信心。尽管不主张对英、美、荷开战，但山本五十六毕竟是一名军人，最终选择坚决执行大本营决策，开始积极筹划进攻计划。
山本五十六秘密制订了一个“Z”作战方案。在这个方案中，他决定以一支由6艘航空母舰组成的攻击力量，对珍珠港展开奇袭。他的计划遭到联合舰队大多数高级将领和日本海军中央指挥机构海军军令部的反对，他们认为庞大舰队在海上被发现后势必成为鱼口之食，但山本一再坚持。
1941年11月3日，日本军令部批准了“Z计划”。此时距珍珠港作战仅仅35天，不过早在8月下旬，山本就指挥联合舰队选择了与珍珠港相似的鹿儿岛湾，开始了充分的准备和严格的模拟训练。他知道珍珠港的水深仅45英尺，日本海军的鱼雷若以一般投掷方式攻击会陷入海床中，于是山本让空中攻击部队在鹿儿岛湾练习低空投放鱼雷和炸弹。