康熙四十三年（1704）四月，三十三岁的张廷玉被康熙召至畅春园，康熙亲切地询问了张英的身体状况。当日张廷玉奉旨侍值南书房，特旨带数珠，著四品官服色。十二月，康熙又亲赐“福”字与对联一副，这是汉人大臣中少有的恩宠。此后，康熙不管是巡游江南，还是避暑热河，秋狩塞外，张廷玉“皆珥笔以从”。至四十五岁时，张廷玉被擢授内阁学士兼礼部侍郎，开始进入内阁处理政务。
康熙去世的第二天，雍正就提拔张廷玉办理翰林院事宜。在康熙葬礼期间，张廷玉显示了自己出色的文书功底。雍正守灵时席地而坐，晨夕涕泣，有臣子入内奏事，则临时口授大意，张廷玉就伏在地下以笔书写，稿成后立刻呈给雍正浏览，每日不下十数次。
雍正对张廷玉的表现极为满意，私下对他道：“以前做皇子时，不大好与朝内大臣交结，一直听说过你的名字，却未曾谋面。现在见了你，发现你气度端凝，应对明晰，朕心里很是欢喜，吾师有子矣。”
对喜欢的臣子，雍正的肉麻话是一套套的，现在喜欢上了张廷玉，自然也少不了肉麻一番。雍正对张廷玉道：“你一片忠心，办事敬诚，真是个伟器！你是父皇康熙培养出来的，你要到棺材前磕头感谢。”雍正这么一说，张廷玉又要涕泪纵横地在康熙棺前表演一番了。
雍正七年，军机处创设。允祥担任首席军机大臣不久便去世，遂由张廷玉接任。张廷玉在任时，奠定了军机处的基础，使得军机处成为维系清廷统治的重要支柱，如后人所言，“军机处初设，职制皆廷玉所定。”
中国传统政治的运作，依赖于文官与文书。明代的文书制度层次混乱，效率低下。清初予以改革，形成了三种文书制度，即“题本、奏本、奏折”。
题本、奏本是正式的文本，使用面广，上至督抚，下至州县衙门，均依照格式施行。此套文书系统弊病也多，一来大小官员均可上题本、奏本给皇帝，皇帝根本无暇处理。再者题本、奏本须依照固定格式书写，然后由通政使司转送，转送时还需要经过内阁拟定处理意见之后再转交皇帝。一层层的转送过程中，既缺乏效率，也不容易保密。而最关键的一点，在文书送达皇帝之前，须经过内阁处理，再交给皇帝，这无形中削弱了皇帝的权威。
奏折是秘密行文制度，它不是正式的公文，由亲信官员直接呈送给皇帝，速度快，保密性强，在康熙时很受重视。但奏折也存在问题。奏折制度未规范化。受到皇帝信任的官员可以直接上奏，如江宁织造曹寅可以直接上奏，而地方大员则不能，如此职权划分混乱。
军机处创设后，经张廷玉改革，奏折成为一种正式制度。张廷玉订立规制，凡是臣子奏报一般事务，用疏，由通政司递交，皇帝的回复则由内阁拟旨。奏报重要事务，用折，由奏事处递交，这样奏折就成了正式文书。奏折是直接上奏，省去了中间的流通环节，保密性强。借助奏折制度，皇帝可以直接控制国内一切事务。更重要的是，通过奏折制度，各级官僚彼此监督，可以分散权力，防止结党，有利于强化皇权。
在张廷玉的主持下，廷寄也成为了正式制度。廷寄也称廷寄谕旨，它的特点一是保密，二是高效。军机处建立后，在张廷玉的主持下，军国大事，凡归军机处办的事情，不论大小，均在当日办完，绝不积压。军机大臣当面聆听皇帝指示，草拟文书，形成谕旨，不经内阁，由军机处直接发下。
谕旨由军机处密封，函面上书“办理军机处封寄某处某官开拆”或“传谕某处某官开拆”。军机处用寄信的方式，将廷寄直接送达负责臣子，不经过中间环节，保密性强。密封好的廷寄交给兵部，依据内容的紧急程度决定投递日行里数，书写“马上飞递”的上谕，由各地驿站日行三百里递送，最为紧急的事务，以六百里加快递送。廷寄到达后，须由受命者本人拆阅，不许其他人代拆。阅完谕旨后，受命者要将谕旨到达的时间、谕旨的内容、如何办理，再向皇帝回奏。
“廷寄”制度建立后，内阁被彻底架空。此后，内阁不过是颁发一些象征性的重大政令，如宣战、议和、大赦、巡幸、谒陵、重大案件的处理结果等。通过军机处的“廷寄”“奏折”制度，皇帝直接而高效地处理着帝国内部的事务。
军机处之创设，最初的目的是对准噶尔用兵。征战经年，虽在额尔德尼昭布战役中由策棱取得光显寺大胜，但高昂的军费开支也让清廷头痛。雍正于十二年命前线统兵将领返京，商议对准噶尔战略。当时主张继续用兵者居多，张廷玉则力陈不可。雍正采纳了张廷玉的建议，与准噶尔划分疆界，达成和议。
军机大臣的主要任务是帮助皇帝拟定谕旨。掌握了满汉两种语言，对儒家典籍烂熟于胸的张廷玉，操作起公文来得心应手。雍正曾称赞他：“遵旨缮写上谕悉能详达朕意。”对准噶尔用兵期间，张廷玉在朝内昼夜值班，随时拟定谕旨，不经过内阁，直接发给前线将领。
张廷玉对文书制度的改革，在提高文官系统办事效率的同时，保证了皇帝的集中权力，为满清统治的巩固与延续立下大功，是故雍正夸赞他道：“汝之功勋在疆场汗马之上。”
张廷玉患病在家时，雍正对近侍道：“朕连日来臂痛，你们知道为什么吗？”近侍惊问为何。雍正叹道：“大学士张廷玉正在患病，朕这不是臂痛吗？”在雍正看来，张廷玉已成为自己的臂膀。
对张廷玉的厚爱，表现在方方面面。雍正十一年，张廷玉回安徽桐城老家祭祖，雍正特意赐了个如意给他，祝他“往来事事如意”。在张廷玉的谢恩奏上，雍正又批了番肉麻的感慨：“朕即位十一年来，在廷近内大臣，一日不曾相离者，惟卿一人。义固君臣，情同契友。”
张廷玉堪为雍正最亲信的臣子，雍正甚至将秘密所立储君人选也告诉了他。
雍正汲取康熙诸皇子恶斗的经验，登基之后，不设皇储，改行秘密立储制度。至于雍正所立皇储为何人，外界虽有流言，但终无确证。雍正八年，可能是因为允祥去世，伤心过度的缘故，雍正患了重病，自以为将不久于人世，紧急召张廷玉入宫，将写有储君名字的密旨给他看。此时张廷玉是唯一知道储君人选者。到了雍正十年，鄂尔泰入军机处，雍正再次将密旨出示给鄂尔泰，皇储人选为谁，“汝二人外无一人知之”。
皇储是谁，生性谨慎的张廷玉自然不敢对外公开，但有意无意之间，他也露出了蛛丝马迹。张廷玉曾进宫给皇子们教书，与皇四子弘历关系尤其密切。雍正八年，弘历请张廷玉为自己的《乐善堂文钞》作序，张廷玉欣然命笔，大肆奉承。又吹捧弘历：“以天授之才，博古通今之学。”
平日里弘历也与张廷玉诗词来往，彼此唱和。张廷玉对弘历的态度，间接表明了雍正的选择。雍正十一年（1733）正月，弘历被封为“和硕宝亲王”，“和硕”是清代宗室封爵最高的爵位，这也表明了弘历将是皇位接班人。
雍正赏给张廷玉的最大的礼物，则是配享太庙的无上殊荣。太庙是供奉皇室神位的地方，立下大功的功臣，经过皇帝批准，也可以供奉在太庙，这是无上的尊荣，这是中国历代帝王给予立下巨功的臣子的最大奖励。
雍正八年六月，因辅佐有功，雍正下诏命大学士鄂尔泰、张廷玉身后配享太庙。有清一代，臣子得配享太庙者不过二十六人。二十六人中，有二十三人是满人，另有两名蒙古贵族策棱和僧格林沁，张廷玉是配享太庙的唯一汉人。
不但如此，配享太庙的功臣中，绝大多数以武功而得此荣耀，如雅尔哈齐、代善、多尔衮、费英东、额亦都，为清廷开国立下汗马功劳。如策棱取得了额尔德尼昭布战役的大胜，如僧格林沁战死于疆场。其他配享太庙者，如允祥乃是雍正最为信赖的弟弟，如晚清力挽狂澜的恭亲王奕訢，均位高权重，系出皇室，故而配享太庙。
雍正十三年八月二十一日，雍正身体不适，但照常办公。第二天病情加重，紧急召王公大臣至寝宫授遗诏，子时即龙驭上宾，终年五十八岁。
雍正死后，清廷下了道奇特的谕旨，不准大臣、太监、宫女向外间“妄行传说国事”。这封口令一下，外间反而议论纷纷，以致雍正死因扑朔迷离，猜测纷纷。
雍正的死因复杂，雍正自身体质较弱，性格暴躁激进，做了皇帝之后，终日操劳，又疏于运动，身体越发虚弱。雍正八年，一度重病不起，自以为不久于人世，所幸无碍。此后为了进补，雍正开始服食丹药。法号为“破尘居士”的雍正，招募了十几名炼丹道士，在西苑“紫碧山房”中存放了大量木炭和炼丹器具，炼服丹药。
丹药的副作用极大，中国历史上，因为热衷炼丹，服食丹药而死的帝王极多。仅唐代因服食丹药而亡命的皇帝，先后有太宗、宪宗、穆宗、敬宗、武宗、宣宗多位，这是因为丹药中含有汞、铅、砷等重金属。虽然服用丹药等于吃慢性毒药，可帝王们还是前赴后继地去找死。
雍正一死，乾隆即位，立刻驱逐了宫中的十几名炼丹道士。乾隆还为他老爹炼丹寻找借口：“皇考听说有炼丹之术，想看看这是什么样子，以为游戏消闲，所以找了一群炼丹术士，但‘未曾听其一言，未曾用其一药’。”年轻的乾隆，忘记了有个成语叫作“欲盖弥彰”。
雍正虽死，他赏给张廷玉的荣耀仍然保留着。但这无上的荣耀，却是一把锋利的双刃剑。张廷玉未曾料到，新君乾隆登基之后，配享太庙的资格给他带来了天大的麻烦。
