永和十年（354），他第一次北伐，距长安咫尺而未渡灞水；
永和十二年（356），他第二次北伐，大败姚襄于伊水，修复洛阳园陵而还；
这两次北伐让桓温声望大增，也使其在东晋朝廷的政争之中一步步地逼近了中枢地位。迫于压力，晋室先是封桓温为大司马、都督中外诸军事，继而又加其为扬州牧、录尚书事，到了太和三年（368），桓温已经取得了“位在诸侯王上”的殊礼。
此时，摆在桓温面前的唯一障碍，只剩下了掌握在徐兖刺史郗愔手里的北府兵和豫州刺史袁真手里的豫州兵。
要解决这两个对手，桓温又祭出了老办法——北伐。
实际上早在九年前慕容儁死的时候，东晋朝廷就有北伐之意，但那时桓温却认为慕容恪尚在，不可北伐。如今慕容恪这一令人恐惧的对手终于离开了人世，桓温再无顾忌，于是在太和四年三月上疏，请求率江州刺史桓冲、徐兖刺史郗愔和豫州刺史袁真共同北伐。
桓冲是桓温的弟弟，带上他无可厚非。然而桓温还要带上他政治上的对手郗愔和袁真，则纯属动机不良。