宋代太尉是武階官之首，相當於一國的國防部長。宋朝時期，就有王旦、呂夷簡這兩位宰相退休後被加了太尉這一官銜。太尉一職設於秦朝，秦始皇稱帝后設三公九卿，其中三公便是丞相、御史大夫、太尉，太尉屬於中央的掌管軍事的最高長官，太尉是作為皇帝的軍事顧問或者是高階參謀，起到一定的防止皇帝軍事決策失誤的作用。
中國古代的政治架構和官職的設定是在不斷變化的，就算是同一朝代，同一職能的官職，也常常會有所變化。畢竟不同時代不同背景下，總會產生各種不同的情況。
太尉一職曾在西漢某個時期被改為大司馬，作為一種榮譽的稱號。曹操廢三公制，自任丞相。其子曹丕即位時短暫恢復，拜賈詡為太尉。後又撤銷。大將軍司馬懿轉任太尉，駐兵雍涼。
秦朝時期的太尉雖然沒有實際掌握兵權但是還擁有著一定的權力。到了後面的朝代就完全變成了對一些元老級別的老臣給予表彰的一種稱號。
