古代部队分前军、中军、后军，或者是左、中、右军，简称“三军”。
按照周朝规定，各诸侯国依照分封时的定例，可以拥有1个军或2个军，那个时候1个军大概是2.3万余人（不包括战车兵），每军辖3师，每师7500人，师下辖3旅，每旅500人，旅下辖10队，每队50人。
后来晋文公，也就是流亡19年的公子重耳，在归国当上国君后，为了对外用兵，首先打破祖制，将军队扩充到3个军，从那以后，在提到军队时，就会说“三军将士”。
另外，在当时三军司令也并不叫三军总司令，而是称为先前的太尉、司空或兵部尚书（也就是现在的国防部长），但是其并没有军队的指挥和调动权（只是行政管理），但他们却能调动军队。
在魏晋以前三军司令叫做大将军；南北朝时改称大元帅；明清时又改叫做大将军；现在称为国防部长。