防倭寇”，有人说“海禁当开，通贸易”。张居正站起来说：“开海禁不是放任不管，可设市舶司（管理对外贸易的机构），收税以充军饷，同时严查走私，这样既利民生，又固海防。”这话既照顾了保守派的担忧，又支持了改革派的主张，徐阶和高拱都点头称是。
隆庆朝的内阁，堪称“黄金组合”——徐阶掌舵，高拱主兵，张居正主财，三人虽偶有分歧，却都以国事为重。有次高拱因为提拔自己的门生，被言官弹劾“结党营私”，气得要辞职。张居正跑去劝他：“言官弹劾是职责所在，您若因此辞职，反倒显得心虚。不如主动请皇帝核查，清者自清。”高拱听了他的话，果然化解了危机。事后高拱拍着张居正的肩膀说：“太岳，还是你脑子活。”
这段时间，张居正最亮眼的表现，是在边防事务上。当时蒙古俺答部经常入侵，边军屡战屡败。张居正分析后发现，边军最大的问题是“将不知兵，兵不知将”，将领频繁调动，士兵毫无斗志。他向隆庆帝建议：“让熟悉边防的将领长期驻守，如谭纶、戚继光、李成梁等人，给他们自主权，允许他们就地募兵练兵。”
隆庆四年（1570年），俺答的孙子把汉那吉因家庭矛盾，跑来投降明朝。消息传到北京，大臣们炸开了锅，有人说“杀了他，震慑俺答”，有人说“送回去，别惹麻烦”。张居正力排众议：“这是安抚俺答的好机会。不如善待把汉那吉，再派人去跟俺答谈判，让他交出汉奸赵全等，我们就送回他孙子，还可以封他为王，互通贸易。”
这个建议风险极大，一旦俺答不接受，就会引发更大的战争。高拱一开始也反对，张居正跟他彻夜长谈：“打仗劳民伤财，若能不战而屈人之兵，为何不试？”高拱被说动了，两人一起说服了隆庆帝。果然，俺答见孙子受到优待，又贪图贸易之利，同意了明朝的条件，还表示“永不犯边”。这便是历史上的“俺答封贡”，从此明朝北方边境安宁了几十年。
张居正的智慧，不在朝堂上的高声争辩，而在处理具体事务的“认真”里。他不像有些大臣那样“只画大饼”，而是凡事都要“落地生根”。
有次巡查太仓（国库），他发现仓库里的粮食大多发霉变质，账面上写着“存粮百万石”，实际能吃的不足三成。管仓库的太监解释：“粮食多了，难免发霉。”张居正没发火，只是让人把各仓的粮管员叫来，问他们：“你们自己家的粮食会让它发霉吗？”然后下令：“按地域远近调粮，近处的先吃，远处的通风晾晒，每月上报损耗，超过三成者治罪。”三个月后，太仓的存粮损耗降到了不足一成。
他还特别重视人才，主张“不拘一格降人才”。戚继光在东南抗倭有功，却因为不懂钻营，一直没被重用。张居正知道后，亲自向隆庆帝举荐：“戚继光练兵有方，可任蓟镇总兵，镇守北京门户。”有人反对：“戚继光只是个武将，怎能担此重任？”张居正说：“能不能担责，看能力，不看出身。”果然，戚继光到蓟镇后，修长城，练边军，蒙古人再也不敢轻易南下。
但张居正也并非完人。他深知官场险恶，为了推行自己的主张，也会用些“手段”。有个叫刘台的御史，总弹劾他“专权”，张居正没直接报复，只是在刘台考核时，给了个“不称职”，把他调到地方当知县。有人说他“心胸狭隘”，他却在给朋友的信中写道：“若事事讲宽容，改革寸步难行。我不是要整人，是要让想干事的人能干事。”
隆庆五年（1571年），高拱成为首辅，张居正任次辅。两人的关系开始出现裂痕——高拱性格急躁，想“大刀阔斧”，张居正主张“循序渐进”。有次讨论是否废除“一条鞭法”（嘉靖朝开始试行的赋税制度），高拱说“此法扰民，当废”，张居正说“此法虽有不足，却能防止官吏盘剥，当改不当废”。两人争执不下，最后隆庆帝拍板