张居正生于世宗嘉靖四年（1525年），自幼聪颖。十二岁投考生员，荆州知府李士翱很赏识他。十三岁考举人时又颇受乡试主考官湖广巡抚顾璘赏识，二人成了忘年交，顾称其为“小友”，盛赞其为国器并解犀带相赠；然顾恐其过于顺利得意忘形而终无为，有意磨砺之，强制其落榜。十六岁中举。嘉靖二十六年（1547年）中进士，由庶吉士至翰林院编修。

世宗后期，居正升任右中允，与时任国子监祭酒的高拱关系良好。而居正亦是当时少数能与两大重臣严嵩与徐阶都能保持良好来往的官员之一。张居正与朝廷中宦官和权臣都有密切关系，这对他后来的仕途与施政都有着很大的影响，但也埋下“祸发身后”的悲剧。

穆宗隆庆元年（1567年）居正任吏部左侍郎兼东阁大学士。上《陈六事疏》，声明自己关于改革时政的意见。经历了激烈的内阁斗争后，最终与高拱并为宰辅，为吏部尚书、建极殿大学士。和高拱一起巧妙利用俺答汗孙子来降一事，与鞑靼和解互市，结束了双方多年的战事，是为俺答封贡。在南方，准许广州举办一年两次“交易会”。

神宗万历初年，居正与宦官冯保合谋逐高拱(关于与冯保合谋逐高拱之事，近代有不少学者提出异议)，代为首辅。当时神宗年幼，张居正得到当时摄政的神宗生母李太后的完全信任，一切军政大事均由他主持裁决，前后当国十年，实行了一系列政治经济改革措施，收到一定成效。

万历元年六月（1573），居正实行考成法，加强对官员的考评，他要求全国各个衙门分置账簿，记载一切发文、收文、章程、计划，是为底册。底册一式三份，一份本衙门留存，一份送各科备注，实行一件注销一件，逾期未办理的，该科上奏候旨，一份送内阁考察，作为官员升降任免的依据。此前，内阁无法控制的言官（监察系统），也归到了内阁的管理。如此一来，月有稽，岁有考，大大提高了各衙门的办事效率；中央到地方的政令畅通；裁减了大量的庸官冗员；有力地整理了全国税捐，数年的积欠得以收缴，国库收入增加。最重要的是内阁通过此举牢牢把握行政、监察大权，其中枢地位日益显著。

万历五年（1577年）张居正父亲去世。按官制应守孝三年，张居正在明神宗的支持下提出夺情，一时间遭到多方面的剧烈攻击。张居正不守孝，对领头反对的官员进行杖刑，强力压制反对意见。最终事态平息，但张也处于与大多数官员为敌的境地，也落得贪权不孝的骂名。

万历六年（1578年）下令清丈土地，清查大地主隐瞒的庄田，三年后在全国内推行了一条鞭法，改变赋税制度，把条项税役合并，按亩征银，虽然没有彻底贯彻，但纳税土地从四百多万顷回升到七百万顷以上，使政府的财政情况有所改善。

万历七年（1579年）明神宗因夜与宦官张鲸游玩时行为不检，遭到李太后训斥，张居正为皇帝写了罪己诏，由此埋下日后的祸根。一次神宗在读《论语》时，误将“色勃如也”之“勃”字读作“背”音，张居正厉声纠正：“当作勃字！”声音太大，吓得明神宗惊惶失措，在朝的大臣无不大惊。沈德符在《万历野获编》中说：“（张居正辅政）宫府一体，百辟从风，相权之重，本朝罕俪，部臣拱手受成，比于威君严父，又有加焉。”晚年张居正的权势之大，连皇帝都有所忌惮，其父病逝，他奉旨归葬，坐着32人抬的豪华大轿，内附有清洗排泄等设备，吃饭时菜肴过百品，“居正犹以为无下箸处。”。通州县知县张伦拍足张老太太马屁，老太太对张居正说：“一路烦热，到了通州一憩，才有如游清凉国。”张居正提拔张伦为户部员外郎。对于晚年的生活有人指责其骄奢、专权，两个儿子分别中状元、榜眼，为世人非议。明士大夫素有议政传统，但张禁止批评时政。张居正为统一思想，维护官方程朱理学地位及统治阶级利益。下令禁毁各名山书院。自王阳明创立心学，经数十年发展，部分激进者否定封建秩序，宣扬人性解放，如何心隐、李贽等。

万历八年（1580年）十月，下令吏部遍查两京衙门，“有冗滥者裁之”。万历九年（1581年）正月裁两京户部侍郎以下156个职位，同年裁撤郧阳巡抚、顺天巡抚、湖广总兵等地方大员职位。文武官员从12万余人降到9.8万人以下。他清查地主隐瞒的田地，推行“一条鞭法”，改变赋税制度，使明朝政府的财政状况有所改善；用名将戚继光、李成梁等练兵，加强华北、边镇防务。

万历十年（1582年）病卒，赠上柱国，谥文忠，在过世前十天，万历帝加封为“太师”，为有明一代唯一一位在生前受封此职之人。

死因正史认为是死于痔疮。也有现代医学认为死时症状类似于直肠癌。其他关于诸如性交纵欲过度的传言，没有其他佐证，只见于野史。