隆庆四年七月二日（1570年8月3日），张四维升任翰林院学士，掌管翰林院的事务。 八月二日（9月1日），明穆宗命张四维充任实录副总裁。同月，张四维主持河南乡试。十月十日（11月17日），张四维升任吏部右侍郎，仍然负责经筵日讲官的工作。同月，张四维与舅父王崇古通过书信探讨贡市。十一月十三日（12月13日），考虑过张四维意见的王崇古支持与鞑靼首领俺答和好的主张，实现边民通商贸易。十二月十二日（1517年1月7日），张四维升任吏部左侍郎。
隆庆五年三月三日（1571年3月27日），俺答封贡的议论兴起，朝廷首辅大臣相持不决。张四维与高拱合作，通贡事成。 三月十四日（4月7日），明穆宗命张四维担任廷试读卷官。 四月四日（4月27日），御史郜永春巡视河东的盐事，称盐法的毁坏由于官宦横行，大商谋取专利，指责张四维、王崇古为官僚，张四维的父亲、王崇古的弟弟为大商人。张四维上奏辩解，请求离去。高拱极力庇护他，明穆宗下诏抚慰、挽留他。 十月二十七日（11月14日），张四维称病辞官，明穆宗不允，并派人探病，赏赐羊肉和蔬菜。十月二十八日（11月15日），张四维再上疏称病辞官，明穆宗同意了，并派车马护送归乡。
隆庆六年二月十四日（1572年2月27日），明穆宗命张四维以原官协理詹事府事务，张四维推辞，明穆宗不允。 二月二十三日（3月7日），明穆宗出阁讲学，召张四维充任东宫侍班官。三月二十四日（3月8日），户科给事中曹大埜以不忠十事抨击高拱，其中提及张四维用八百金贿赂高拱而得东宫侍班官的罪状。四月二十四日（6月4日），明穆宗命张四维负责管理詹士府，指导庶吉士。五月五日（6月14日），张四维以曹大埜提及自己的罪状乞求致仕，明穆宗不允。 七月二十日（8月27日），张四维按照旧例自陈过错，明神宗令他仍以原官供职。 八月十九日（9月25日），张四维以张楚城的弹劾，请求罢免自己，明神宗不允。 八月二十二日（9月28日），张四维再次上疏乞求罢免自己，明神宗仍不允。八月二十七日（10月3日），张四维因张居正当政，再次称病辞官，明神宗命快马护送他归乡。
万历二年九月十日（1574年9月24日），明神宗诏张四维以原官，仍掌管詹事府事，充任《明世宗实录》副总裁。 当时，张四维的家庭很富有，岁时年节不断地向张居正馈赠礼物。武清伯李伟是慈圣太后的父亲，原籍山西，张四维结交为内援。于是，张四维得以重新回到朝廷。
万历三年正月二十日（1575年3月2日），明神宗命张四维充任经筵讲官。 二月六日（3月17日），张四维自己上疏请求退休，明神宗不允。 八月十一日（9月14日），张居正奏请增设内阁大臣，引荐张四维，冯保也与他友好，于是以礼部尚书兼东阁大学士入内阁，参与机要事务。当时政事由张居正一人决定。张居正也不做推让，对同僚视若无人。张四维由张居正提拔，谨慎地侍从他，不敢轻率答复可否，追随在他的身后，以图拜官晋爵。 八月十四日（9月17日），张居正让张四维负责编纂《世宗皇帝实录》的总裁官。 十月七日（11月8日），张四维侍明神宗讲读于便殿，明神宗以其器度不凡，赐予“一德和衷”四个大字。
万历四年正月二十五日（1576年2月24日），张四维上疏乞求致仕，明神宗不允。 [38] 二月二日（3月2日），明神宗派遣张四维祭奠孔子。
万历五年二月七日（1577年2月24日），明神宗命张四维和申时行主持会试。八月一日（8月14日），明神宗派遣张四维到太学向孔子行礼。 八月二十一日（9月3日），《明世宗实录》成，张四维被加官太子太保，升任文渊阁大学士。 九月二十六日（11月5日），张居正父亲去世的消息传出，张居正想回家守孝，张四维用杨溥、金幼孜、李贤夺情起复的旧例，乞求张居正留下。 十一月八日（12月16日），张四维乞求致仕，明神宗不允。
万历六年二月二十八日（1578年4月4日），张四维主持明神宗婚礼，劳加少保，晋武英殿大学士，荫一子为中书舍人。
