明世宗死后，由他的儿子朱载继位，改年号为隆庆，这就是历史上的明穆宗。这一次皇帝的更替和以前皇帝的更替一样，又给下面的大臣有一个革除弊政的机会。张居正就利用这种机会，进行了一场改革运动。
张居正很早就走上了宦途。一开始，他在翰林院任编修，当时正是严嵩当权的时候，他看到天下群盗涌起，贪风不止的局面，感到国家的形势很不妙。他认为这种形势非得有一个磊落奇伟的人不可，只有这样，不拘常规才能廓清天下这种混乱的局而。但是，当时皇帝昏庸，奸臣执掌朝政，他的思想也就比较悲观，认为世上即使有这种磊落奇伟的人，当政的皇上也未必了解他，即使了解他也未必肯起用。这样，张居正就只在翰林院当了7年的编修 ,然后就称病辞宫回家了，在家里闭门读书。
就这样，张居正在家整整又读了6年书，由于他的父亲很希望他能够在政治上有所建树 ,他只得又进京当官，任国子监司业。张居正的性格比较深沉，而且很有胆略，这次进京后 ,他就怀有更大的抱负。在办完公事之后，他就注意研讨历代盛哀兴亡的历史经验教训，留心观察社会现实。明穆宗登位那年，他就被遴选入放内阁。第二年，他针对世宗以来的种种弊端，向穆宗上了一逍奏疏，指出当时朝政己经是积习成弊，颓废不振了，如果不及早实行一些改革，结果会积重难返。
张居正在那逬奏疏中陈述了他的一些政治主张，是很有见识的，在当时也是势在必行的 ,穆宗皇帝对这个也深表赞赏，可借的是他在位仅6年就去世了，那时候，张居正还不是内阁首辅，所以他这些主张暂时不能得到实行。
穆宗去世后，由太子朱翊钧继承了帝位，开始了明神宗治天下的时代。这时，张居正联络宦宫冯保，撵走内阁的首辅高拱，在皇太后的支持下，出任了内阁首辅，拥戴着10岁的神宗小皇帝。张居正己经大权在握，年幼的小皇帝又对他言听计从，于是，张居正就把他昔日的政治主张，在祌宗统治的时候，逐一地付诸实施，掀起了一番雷厉风行的政治改革。
张居正改革首先整饬吏治，他认为当时朝野拖沓成风，吏治不清。于是，他就提出了考核吏治，要求为宫清廉，政治清平，让老百姓过上安足的生活。他又制定出一套考核官吏政绩的办法，通过考勤，来分別官员们的勤惰、贤愚的状况，把那些办事拖拉的官员亳不留情地罢免或者黜陟了。张居正在选拔和任用官吏的时候，主张唯才是用，不受毁誉、亲疏关系的影响，人要有真才实学，就加以破格重用。对那些没有军功，能力又十分低下的，即使是皇亲贵戚，也决不滥封爵位，轻授官职，这样就使整个官僚机构不十分庞大。