西汉所行的，是民兵之制。人民都有当兵的义务。《汉书·高帝纪注》引如淳说：“《汉仪注》云：民年二十三为正。一岁为卫士，一岁为材官骑士，习射御，驰战陈。又曰：年五十六，衰老，乃得免为庶民，就田里。”又《王制正义》引许慎《五经异义》：“汉承百王，而制二十三而役；五十六而免。”两说相同。案今文家说，民年三十受兵，已见第一编第八章第五节。《高帝纪注》又引：“孟康曰：古者二十而傅。三年耕，有一年之储，故二十三而后役之。”《五经异义》：“《高孟氏韩诗》说：年二十行役，三十受兵。”则汉朝人民的服力役，比古代迟三年，服兵役却早七年，或者汉代所承，实是古制；三十受兵，是儒家托古所致；亦未可知。
其兵的种类，有“材官”、“车骑”、“楼船”三种：材官是步卒，车骑是骑兵，楼船是水师。《后汉书·光武纪注》引《汉宫仪》：“高祖命天下选能‘引关’、‘蹶张’材力武猛者，以为‘轻车’、‘骑士’、‘材官’、‘楼船’。常以秋后讲肄课试，各有负数，平地用‘车骑’，山阻用‘材官’，水泉用‘楼船’。”大约“材官”最为普通，“车骑”边郡较多，“楼船”只有沿江海的地方有。
京师有南北军：“南军卫尉主之，掌宫城门内之兵。”“军中尉主之，掌京城门内之兵。”据《文献通考》，其详可参看原书。武帝时，增置中垒、屯骑、步兵、越骑、长水、胡骑、射声、虎贲八校尉，都属北军。八校尉，都见《汉书·百官公卿表》，《刑法志》：“至武帝平百粤，内增七校。”“晋灼曰：胡骑永常置，故此言七也。”又有期门、羽林，都属南军。《文献通考》引章氏说：“汉初南北军，亦自郡国更番调发来。何以言之。黄霸为京兆尹，坐发骑士诣北军，马不适士。劾乏军兴则知自郡国调上卫士，一岁一更，更代番上，初无定兵。自武帝置八校，则‘募兵’始此；置羽林、期门，则‘长从’，始此。”案期门是从六郡良家子孙里选出来的，见《汉书·东方朔传》。羽林兵，初名建章营，设于太初元年。后来又取从军死事的人的子孙，养在羽林，“教以五兵”，号曰“羽林孤儿”。见《百官公卿表》。
前汉时，各郡都有都尉，帮着太守管理武事。王国里头，则相比郡守，中尉比都尉。这种制度，都是沿袭秦朝的。后汉光武帝建武六年，罢郡国都尉；七年，罢天下轻车、骑士、材官、楼船。只留着京师的南北军。然而后来郡国也往往复置。北军里的八校尉，虎贲并入射声，胡骑并入长水，又省掉中垒校尉，所以号为北军五营。此外另有一支兵，驻扎在黎阳，谓之黎阳兵。又会扶风都尉带一支兵，驻扎在雍悬。护卫园陵，俗称为雍营。
秦朝和西汉时代，有一种特色，就是“这时候，去古未远，人民尚武的性质还在，无论什么人，发出去都是强兵。”巴蜀等一两处地方是例外。所以秦朝的用兵，不论骊山的役徒，闾左的百姓，都发出去战守；汉朝也有所谓“七科谪”、张娄曰：吏有罪一，亡命二，赘婿三，贾人四，故有市籍五，父母有市籍六，大父母有市藉七，见《汉书·武帝纪注》。“弛刑”、“罪人”、“恶少年”、“勇敢”、“奔命”、“伉健”……这都是未经训练的人。然而发出去，往往战胜攻取。将帅里头，也极多慷慨效命的人。譬如后汉的班超，又如前汉的李陵，以步卒绝漠，这是历史上只有这一次的事情。有这种民气和民力，傥使真能利用，中国的国力实在可以扩张到无限。偏遇着秦始皇、汉武帝两个人，把民力财力大半消耗在奢侈淫欲的一方面。秦始皇的用兵，已经很不经济，汉武帝更其专信几个椒房之亲，家无法度，以致总算起来，总是败北的时候多，胜利的时候少，细看《汉书·匈奴列传》可见。伐大宛这一役，尤其是用兵不经济的确证。汉朝用兵，所以结局总获胜利，是由于这时候中国和外国的国力，相差太远，并不是用兵的得法。这种用兵，结局虽获胜利，毕竟是以最大的劳费，得最小的效果的。就使胜利，也所得不偿所失。这种用兵，实在一无可取。中国大有可为的时代，就给这两个人弄糟了的。然而后世，反很多崇拜他、原谅他的人，可谓侥幸极了。