由于这两个成语，祖逖被刻画成了一个激进的爱国者，在某些时期甚至一度成为了和岳飞相提并论的民族英雄。但仅凭着激情和热血是对抗不了石勒的，接下来就让我们看看他究竟做了什么。
带着几百人渡过长江后，祖逖在江阴停了下来，卖掉那些布匹后，买来铁器冶铸兵器、招募人手，组织起了一支两千多人的武装，然后向北挺进。
当时黄河以南的豫州、兖州和荆州北部由于受到石勒转战南北时期的大肆破坏，晋朝原有的统治秩序已荡然无存，到处都是当地豪勇和流民领袖等建立起来的大大小小的坞堡。控制这些坞堡的坞主们虽说大多心向晋室，但出于自保的目的也随时可以投降别人，他们之间也常常互相攻伐，没有什么统一的指挥。
名义上是豫州刺史的祖逖屯驻谯城后，利用自己的高度智慧和人格魅力逐渐降服了这些坞主，使他们都能听从自己的节度。
浚仪（开封）一带有个实力较强的坞主陈川投降了后赵。祖逖军与后赵军同城相峙，祖逖军驻东边的城楼，后赵军驻西边的城楼，祖逖军走东门，后赵军就走南门。谁也吃不掉谁，就这样相持了四十多天。但时间一久，双方的粮食都吃的差不多了。祖逖于是使了个计策，他叫人拿麻袋装满土假装是一袋袋粮食抬上了城楼，又叫人拿着装有真正粮食的麻袋在路上休息。敌人一看，急忙突袭抢走了粮食。这一来后赵军都认为祖逖有的是粮吃，而自己却饿着肚子，于是士气大为沮丧。后来祖逖又遣将截击了后赵的运粮队。赵军终于坚持不下去，遂在晚上偷偷的撤退了。祖逖乘势进逼，又夺回了不少土地。