在长期的争吵之后，到缅甸战役开始前夕，除了直属司令部的少量部队，史迪威只能指挥自己手头现有的中国军队，即新一军的3个师，共3.5万人。新一军经过较长时间受训，装备和战斗素质都得到了加强，但仍然缺乏战胜日军的信心。史迪威在日记里自问：“我们能成功吗？”他意识到，身为战区级别的司令官，自己只有身赴前线亲自指挥，才可能“给予战役以取胜的机会”。
缅甸的作战地区是一连串的河谷，要想进攻，就得通过茂密丛林中的小路，道路两侧是被雨水冲刷着的高山。史迪威将这一带称为“老鼠洞”，他大概并没有听说过中国古代名将赵奢的话——“道远险狭，譬之犹两鼠斗于穴中，将勇者胜。”但是，正如马歇尔的评价，他最不缺乏的正是“惊人的勇气”。他的指挥和推动终于开始发挥作用，1944年2月，中国军队和美军突击队一起占领了瓦劳本附近的公路，并在5天里击退了日军的反击。3月底，史迪威的部队进入了孟拱河谷。到了4月28日，一支由美国人、中国人和当地的克钦人组成的联合特遣队开始向密支那进军，他们艰难地翻越古蒙山脉，有时一天只能走8公里，正是这支部队绕到日军背后，在5月17日攻克了密支那机场，并坚守住了阵地。新一军的两个师、孙立人的新38师和廖耀湘的新22师则相互配合从正面进攻，于6月16日占领了卡迈。1944年8月初，中美军队终于攻克了密支那。
缅甸战场逐步走向胜利的同时，中国正面战场却发生了巨大的灾难。日军为打通“大陆交通线”，从1944年4月开始发动“一号作战”。5月，占领洛阳；6月，又占领长沙；到了9月，日军已攻陷广西全州，进逼梧州、桂林。在豫湘桂战场上，国民党军队全面溃败，20多万平方公里国土和6000万人民沦于敌手。
1944年8月，史迪威成为美军少数的几位四星上将之一，不过，比起荣誉，他此时考虑更多的仍是对日作战。他仍然坚持认为，在蒋介石的指挥下，国军取胜的前景是不存在的。中国正面战场的溃败似乎使得这一点更清楚了。蒋委员长与“醋乔”（Vinegar Joe，史迪威将军的绰号，意思是“尖酸的乔”），或者说，国民党政权与美国政府，双方自1942年开始合作以来长期蓄积的怨气和愈演愈烈的对立终于在1944年9月到达高潮——罗斯福总统写来一封措辞尖锐的信件，要求蒋介石立刻将全部中国军队的统率权交给史迪威，而这封毫不留任何情面的信件恰恰由史迪威本人当面递交。
有许多传记作者叙述过1943年9月19日的那个戏剧性的场面，但实际上没有人能比史迪威本人描写得更生动传神，更尖刻——
“我把这包辣椒面递给了他，然后叹口气坐了下来。这一枪打中了这个小东西的太阳神经丛，然后穿透了他。这是彻底的一击，但他没有脸色发青，失去说话的能力，他眼睛眨都没眨。他只是对我说‘我知道了’，然后坐在那儿，轻轻地摇着一只脚……”