兵部尚書和將軍無法橫向比較。大將軍的職位是在隋朝以前的朝代才有的，而隋朝創立三省六部制，兵部隸屬於尚書省，其長官叫兵部尚書，之後的朝代都不再設大將軍這個職務。大將軍是古代領兵的最高統帥；兵部尚書是統管全國的軍事行政長官。
在漢朝時期，大將軍的職務是很高的，衛青、霍去病都曾擔任過。兵部尚書逐步演變為行政職務，很多時候都是文官擔任。
兵部尚書，是古代官職六部尚書的其中之一，別稱為大司馬，明清兩代，因為兵部下轄四個部門，當時各分管各地駐軍的糧草，軍隊的調動以及軍隊官員的任命，還有一個參謀的衙門。
大將軍是一個軍隊的統帥，一般是武官擔任；兵部尚書負責全國軍事行政，是文官。大將軍屬於高階戰地指揮官，兵部尚書則負責行政的文書工作。
