在各个藩镇中，淮西是个顽固的割据势力。公元814年，淮西节度使吴少阳死去，他的儿子吴元济自立。唐宪宗发兵征讨淮西，但是他派去的统帅，不是腐朽的官僚，就是自己另有企图。结果，花了整整三年工夫，费了大量财力，都失败了。朝廷官员都认为不能再打下去，大臣裴度却认为淮西好比身上长的毒疮，不可不除。唐宪宗拜裴度做宰相，决心继续征讨淮西。
公元817年，朝廷派李愬担任唐州（今河南唐河）等三州节度使，要他进剿吴元济的老巢蔡州（今河南汝南）。
唐州的将士打了几年仗，都不愿再打，听到李愬一来，有点担心。李愬到了唐州，就向官员宣布说：“我是个懦弱无能的人，朝廷派我来，是为了安顿地方秩序。至于打吴元济，不干我的事。”
这个消息传到吴元济那里。吴元济打了几次胜仗，本来就有点骄傲，听到李愬不懂得打仗，更不把防备放在心上了。
以后，李愬一点不提打淮西的事，唐州城里有许多生病和受伤的兵士，李愬一家家上门慰问，一点官架子也没有。将士们都很感激他。
有一次，李愬的兵士在边界巡逻，碰到一小股淮西兵士，双方打了一阵，唐军把淮西兵士打跑了，还活捉了淮西军的一个小军官丁士良。
丁士良是吴元济手下的一名勇将，经常带人侵犯唐州一带，唐军中很多人都吃过他的亏，非常恨他。这一回活捉了他，大伙都请求李愬把他杀了，给死亡的唐军兵士报仇。
将士们把丁士良押到李愬跟前。李愬吩咐兵士松了他的绑，好言好语问他为什么要跟吴元济闹叛乱。丁士良本来不是淮西兵士，是被吴元济俘虏过去的，见李愬这样宽待他，就投降了。
李愬靠丁士良的帮助，打下了淮西的据点——文城栅和兴桥栅，先后收服了两个降将，一个叫李祐，一个叫李忠义。李愬知道这两人都是有勇有谋的人，就推心置腹地信任他们，跟两人秘密讨论攻蔡州的计划，有时讨论到深更半夜，李愬手下的将领为了这件事都很不高兴，军营里沸沸扬扬，都说李祐是敌人派来做内应的。有的还有凭有据地说，捉到的敌人探子，也供认李愬是间谍。
李愬怕这些闲话传到朝廷，让唐宪宗听信了这些话，自己要保李愬也保不住了，就向大家宣布说：“既然大家认为李愬不可靠，我就把他送到长安去，请皇上去发落吧。”
他吩咐兵士把李祐套上镣铐，押送到长安，一面秘密派人送了一道奏章给朝廷，说他已经跟李祐一起定好攻取蔡州的计划，如果杀了李祐，攻蔡州的计划也就吹了。
唐宪宗得到李愬的密奏，就下令释放李祐，并且叫他仍旧回到唐州协助李愬。
李祐回到唐州，李愬见了他，高兴极了，握着他的手说：“你能安全回来，真是国家有福了。”说着，立刻派他担任军职，让他携带兵器进出大营。李祐知道李愬千方百计保护他，感动得偷偷地痛哭。
没多久，宰相裴度亲自到淮西督战。原来，各路唐军作战都有宦官监阵，将领没有指挥权。打胜仗是宦官的功劳，打败仗却轮到将领挨整。裴度到了淮西，发现这个情形，立刻奏请唐宪宗，把宦官监阵的权撤消了。将领们听到这个决定，都很兴奋。
李祐向李愬献计说：“吴元济的精兵都驻扎在洄曲（今河南商水西南）和四面边境上，守蔡州的不过是一些老弱残兵。我们抓住他的空隙，直攻蔡州，活捉吴元济是没问题的。”
李愬把这个计划秘密派人告诉裴度。裴度也支持他，说：
“打仗就是要出奇制胜，你们看看办吧。”
李愬命令李祐、李忠义带领精兵三千充当先锋，自己亲率中军、后卫陆续出发。除了李愬、李祐几个人，谁也不知道到哪里去。有人偷偷问李愬，李愬说：“只管朝东前进！”