兵部尚書相當於現在的國防部長，總參謀長和後勤部長的總稱。兵部尚書是六部尚書的其中之一，別稱為大司馬，統管全國軍事的行政長官。兵部尚書主兵籍、器仗，安史之亂後，中央政權削弱，尚書諸司成為閒曹，所謂“兵部無戎帳”“一飯而歸，竟日無事”。明代正二品，清代從一品。明代兵部尚書稱本兵，既管軍政又管戰略，威權極大。
唐末五代以來，兵部尚書的職權被“樞密使”分走了大部分權力，直到元代，軍事機構的重心都在樞密院，兵部形同虛設。北宋前期的兵部尚書空有官員的級別待遇，沒有實際的權力。宋神宗時期進行了官制改革，三省制恢復，兵部的職權得到部分的恢復，但實權與唐代比起來依然相差甚遠。
清朝的兵部尚書是不掌握兵權的，在很多時候他們都是一個軍隊後勤的最高長官，平常打仗或者正常行軍訓練的糧草都是由他們調動、補給的，軍隊調動的線路、有關於軍隊內部將領官職的升降、任免都是由兵部尚書掌握大權的。
明清時期廢除宰相，兵部尚書地位得到大大提升，為正二品。由於樞密院被廢，全國軍事機構的重心落在了兵部，兵部尚書的職權得到加強，成為了全國最高軍事領導機關，這個時期，它需要負責制定軍事計劃，管理武官的考核任用，組織軍隊訓練，掌管軍籍軍戶，傳達皇帝軍令和依令調遣全國軍隊等事務。
