李斯到了秦国以后，很快就得到秦相吕不韦的器重，当上了秦国的小官，有了接近秦王的机会。一次，李斯对秦王说：“凡是干成事业的人，都必须要抓住时机。过去秦穆公时虽然很强，但未能完成统一大业，原因是时机还不成熟。自秦孝公以来，周天子彻底衰落下来，各诸侯国之间连年战争，秦国才乘机强大起来。现在秦国力量强大，大王贤德，消灭六国如同扫除灶上的灰尘那样容易，现在是完成帝业，统一天下的最好时机，千万不能错过。”
秦王听取李斯离间各国君臣之计，对于六国，李斯还提出了“先灭韩，以恐他国”的吞并顺序。于是他得到了秦王的赏识，因而被提拔为长史。李斯劝秦王派人持金玉去各国收买、贿赂，离间六国的君臣，果然也收到了效果，他又被封为客卿。
正当秦王下决心统一六国的时候，韩国怕被秦国灭掉，派水工郑国到秦鼓动修建水渠，目的是想削弱秦国的人力和物力，牵制秦的东进。后来，郑国修渠的目的暴露了。这时，东方各国也纷纷派间谍来到秦国做宾客，群臣对外来的客卿议论很大，对秦王说：“各国来秦国的人，大抵是为了他们自己国家的利益来秦国做破坏工作的，请大王下令驱逐一切来客。”秦王下了逐客令，李斯也在被逐之列。
李斯给秦王写了一封信，劝秦王不要逐客，这就是有名的《谏逐客书》。他说：“我听说群臣议论逐客，这是错误的。从前秦穆公求贤人，从西方的戎请来由余，从东方的楚国请来百里奚，从宋国迎来蹇叔，任用从晋国来的丕豹、公孙支。秦穆公任用了这五个人，兼并了二十国，称霸西戎。秦孝公重用商鞅，实行新法，移风易俗，国家富强，打败楚、魏，扩地千里，秦国强大起来。秦惠王用张仪的计谋，拆散了六国的合纵抗秦，迫使各国服从秦国。秦昭王得到范雎，削弱贵戚力量，加强了王权，蚕食诸侯，秦成帝业。这四代王都是由于任用客卿，对秦国才做出了贡献。，如果这四位君王也下令逐客，只会使国家没有富利之实，秦国也没有强大之名。”