一提到太尉，人们大抵会马上想起一个人：高俅高太尉。
施耐庵的小说《水浒传》中，高俅作为反面人物、十恶不赦的大奸臣而广为人知。他以一市井小流氓的身份出场，因为具有很高的蹴鞠技术，被喜爱蹴鞠的端王所赏识。在端王登基成为皇帝后，高俅便飞黄腾达，很快官至太尉。他陷害林冲，手段之毒辣，心计之精巧，让开卷不久的读者瞠目结舌。《水浒传》结束，108 条梁山好汉被高俅阴谋陷害几近死绝。
高俅（？—1126 年），历史上确有其人。
但真正的高俅，与《水浒传》中的描述相差甚远。据南宋王明清所著的《挥麈后录》记载，高俅，原本是苏轼的“小史”（也就是小秘书一类的角色，《水浒传》中说是书童），他为人乖巧，擅长抄抄写写，不仅写得一手漂亮的毛笔字，且会使枪弄棒。
元祐八年（1093 年），苏轼将高俅推荐给了他的朋友小王都太尉王诜（即王晋卿）。王诜是神宗皇帝的妹夫（《水浒传》中说是哲宗皇帝的妹夫），端王赵佶（后来的徽宗皇帝）的姑夫。这个王诜是一个“书画高手”，与在一旁坐冷板凳的端王关系密切，两人经常在一起切磋书画。
在正史中，高俅的记载并不算多，而且一个太尉这么大的官职却没有本纪，这很奇怪。对他的历史评价也是含糊不清，既然如此，至少可以猜度，高俅不算是个大奸臣。
那么太尉究竟是多大的官呢？
太尉之名最早见于《吕氏春秋》，大致相当于现在的国防部长或者军委主席。
——历代职能
（一）秦朝时，有太尉一职，却无人担任
太尉始于秦朝时期。秦王嬴政登基后，改设三公九卿。三公即为丞相、御史大夫、太尉，分别为辅政，监察及治军领兵。但秦朝并没有人担任太尉，也就是形同虚设。原因在于秦当时为中央集权制，军政经合为始皇帝一体，所以若将兵权拱手送于他人之手，秦王政的统治会受到严重威胁。
（二）两汉时，太尉不能直接统兵
到西汉时期中央和地方各级官吏的名称基本沿用了秦朝的制度。
但与秦朝不同的是，在皇帝之下设立了三套平行的官僚体系：
（1）丞相率领的外朝官；
（2）大将军率领的内朝官；
（3）处理皇帝与皇族私人事务的宫廷官。
其中外朝官为西汉中央政府的最高行政权力由丞相、太尉、御史大夫三人分掌，其下分设九卿、列卿等。但由于官制名目甚多也有一定的分权目的，所以太尉的实权性时时不定。
按《汉书·百官公卿表》：“太尉，秦官，金印紫绶，掌武事。”是汉朝的最高武职，不常置。不设置太尉时，则以太尉职归丞相。
也就是说，皇帝觉得皇权受到危险时，可以不设这个职位。看来几千年前老祖宗们都在这么玩了。
《历代兵制》记：京师之兵，止南北军及中尉缇骑、郎中令诸郎、城门校尉屯兵。北军属太尉，南军属卫尉。武帝更太尉为大司马大将军，以宠将帅；而北军分八校尉，以中垒领之（中垒、屯骑、步兵、越骑、长水、胡骑、射声、虎贲，凡八。）
而且，汉朝军队由各将军、校尉统领，太尉不能直接指挥军队。例如周勃平定诸吕之乱时，身为太尉，却不能进入上将军吕产所指挥的北军，只得诈称帝命方进入北军营地并取得指挥权。
东汉稍有变化。
东汉时期，以太尉、司徒司空为三公，太尉管军事，司徒管民政，司空管工程，三公各自行使所负责事项的监察权，分别开府，置僚佐。
但从董卓开始，东汉实权已转移到尚书台，太尉实为丞相﹐与西汉早期掌武事的太尉名同而实异。
（三）隋唐至元代，级别高，但成为虚职
隋唐以来，决策权转移至中书门下，而行政权在尚书六部手中。三师（太师、太傅、太保）、三公（太尉、司徒、司空）品级虽高，无实际职事，一般只是作为加官，尤以唐后期各种检校官为甚。
宋初三师三公只是作为升迁资序所用，并无执掌。太尉旧在太保之下，自五代以来则提升至次于太师而在太傅之上。
只是，在徽宗年间，因防御外敌和边防需要，重定武官制度，太尉成为武阶官之首，而司徒司空则被三少所代替。所以，高俅高太尉并不是虚职，而是货真价实的国防部长。
元代三公仅作为加衔，后期也是加授极滥。
明清以后以原三师为三公，不设太尉。
