秦、汉时虽有所谓“都尉”，调兵和统率之权，是属于太守的。其时所行的是民兵之制，平时并无军队屯聚；一郡的地方太小，亦不足以背叛中央；所以柳宗元说“有叛国而无叛郡”（见其所著《封建论》）。自刺史变为州牧而地盘始大；即仍称刺史的，其实权亦与州牧无异；郡守亦有执掌兵权的，遂成尾大不掉之势。晋武帝深知其弊，平吴之后，就下令去刺史的兵权，回复其监察之职。然沿袭既久，人心一时难于骤变。平吴之后，不久内乱即起，中央政府，顾不到各地方，仍借各州郡自行镇压，外重之势遂成，迄南朝不能尽革。
自秦、汉统一之后，国内的兵争既息，用不到人人当兵。若说外征，则因路途窎
晋初五胡的形势，是如此的：
（一）匈奴。散布在并州即今山西省境内。
（二）羯。史籍上说是匈奴的别种，以居于上党武乡的羯室而得名的（在今山西辽县）。按古书上的“种”字，不是现在所谓种族之义。古书所谓“种”或“种姓”，其意义，与姓氏或氏族相当。羯人有火葬之俗，与氐、羌同，疑系氐、羌与匈奴的混种，其成分且以氐、羌为多。羯室正以羯人居此得名，并非匈奴的一支，因居羯室之地而称羯。
（三）鲜卑。《后汉书》说东胡为匈奴所破，余众分保乌丸、鲜卑两山，因以为名。事实上，怕亦是以山为部族名的。此二山，当在今蒙古东部苏克苏鲁，索岳尔济一带。乌桓（编者注：亦作“乌丸”）在南，鲜卑在北。汉朝招致乌桓，居于上谷、渔阳、右北平、辽西、辽东塞上，以捍御匈奴。后汉时，北匈奴败亡，鲜卑徙居其地。其酋长檀石槐，曾一时控制今蒙古之地，东接夫余（与高句丽同属貉族。其都城，即今吉林的长春县），西至西域。所以乌丸和中国，较为接近，而鲜卑则据地较广。曹操和袁绍相争时，乌丸多附袁绍。袁氏既灭，曹操袭破之于柳城（汉县，今热河凌源县）。乌桓自此式微，而鲜卑则东起辽东，西至今甘肃境内，部族历历散布，成为五胡中人数最多，分布最广的一族。
（四）氐。氐人本来是居于武都的（即白马氐之地，今甘肃成县），魏武帝怕被蜀人所利用，把他迁徙到关中。
（五）羌。即后汉时叛乱之余。
氐、羌都在泾、渭两水流域。当时的五胡大部分是居于塞内的，间或有在塞外的，亦和边塞很为接近。其人亦多散处民间，从事耕织，然犷悍之气未消，而其部族首领，又有野心勃勃，想乘时恢复故业的。一旦啸聚起来，“掩不备之人，收散野之积”（江统《徙戎论》语），其情势，自又非从塞外侵入之比。所以郭钦、江统等要想乘天下初定，用兵力将他们迁回故地。这虽不是民族问题根本解决之方，亦不失为政治上一时措置之策，而晋武帝因循不能用。