东汉兵制直接继承了西汉兵制，其军事领导体制和军队编制体制与西汉基本相同，但也有变化和发展。这种变化和发展突出地表现在罢兵政策的实行和募兵制的兴起。
公元25年，刘秀即位，建立东汉王朝。刘秀鉴于长期战乱对社会生产力的巨大破坏，决定采取与民休息的政策，实行罢兵。罢兵的重点是郡国兵。从建武六年(公元30年)到建武二十三年，五次罢省郡国兵。建武六年，罢郡国都尉，都尉原来执掌的权力并入太守，并且取消郡国兵每年秋后的军事演习。这一措施使郡守从此掌握了军政大权。建武七年，“罢天下轻车、骑士、材官、楼船及军假吏，尽还民伍，唯更践如故”(陈傅良《历代兵制》)。这一改革，把郡国兵基本上取消了，原来在郡县服兵役一年的制度也从此取消。建武九年(公元33年)，省关都尉(秦汉时期在险要之处设关置兵把守，领兵者称关都尉)。关都尉的省撤，等于把关的编制缩小。建武十三年(公元37年)，罢左、右将军。建武二十三年，罢边郡的亭侯吏卒。罢兵政策的实行在东汉初年对恢复社会生产起了重要作用，具有积极意义，出现了“兵革即息，天下少事”(《后汉书·光武帝纪》)的局面。但是也应该看到，由于罢省郡国兵，使东汉的国防力量大为削弱，而且造成整个社会的和平麻痹思想。罢兵的消极后果在短期内还表现不出来，但随着时间的推移和形势的变化，消极影响就日益明显。
首先，郡国兵罢省过多，一遇边郡和内地郡县发生动乱，往往措手不及，事到临头才增兵置将，派中央军前往征战。但由于士兵多是招募而来，未经训练，而且忘战日久，所以往往失败。刘秀似乎也对此有所认识，往往过一段时间后，发现罢省过多，又临时增补。汉明帝时，开始逐渐恢复州郡兵。章帝时，继续加强对州郡兵的训练，使士兵素质有所提高。但罢兵的消极影响并未完全消除。相反，由于统治者废置无常，还导致了兵制的混乱。
其次，罢兵过程中形成的郡守独掌本郡军事大权的情况，助长了郡守的割据野心。刘秀统治时期，郡县地方兵不多，郡守还无力割据。东汉后期，社会开始动荡，郡守自行募兵，势力坐大，终于形成割据局面。东汉不是亡于农民起义，而是亡于军阀。东汉末年兴兵作乱、割据一方的董卓、袁绍、袁术、刘表、吕布、刘焉等人都是由郡守、刺史发展起来的就是证明。其祸始不能不追溯到刘秀这一政策。
刘秀罢兵以后，遇到边境或内地有事，中央兵不足以应付，只得临时征集。但由于取消都试，征集来的士兵未经训练，战斗力很低，所以只好转而依靠募兵。募兵规模越来越大，中央军均由招募而成，地方郡县保留的少数军队也由招募而成。最后，募兵制取代了秦汉以来的征兵制成为东汉最主要的兵役制度。
东汉募兵制的招募对象主要是农民、商贾和少数民族。招募的办法有以下两种：
一是募以财物。招募士兵往往是临时遇到非常军情，所以必须用钱财加以诱惑。刘秀起兵时，任光向他建议募兵，任光说：“人贪财物，则兵可招而致也。”(《后汉书·任光传》)东汉明帝永平元年(公元58年)招募士兵戍陇右，每人给钱三万，应募者都是冲着财物而来。不仅如此，东汉统治者还纵容士兵劫掠财物，以此来吸引更多的人当兵。
二是免除赋役。东汉末年军阀混战时，孙策就曾以“乐从军者，一身行，复除门户”(《三国志》卷四《孙策列传》注引《江表传》)为条件，募得士兵万余人。
募兵制的盛行给东汉带来了严重的影响。首先，募兵制导致了军队战斗力的衰弱。由于挑选不严，应募者未经军事训练，素质不高，加上一旦应募入伍便终身从军，成为职业兵，导致疲老衰弱之兵充斥部队，使战斗力下降。其次，募兵制给地方豪强和官吏造成武装割据局面提供了便利条件。东汉初年，地方郡守和刺史还拥兵不多，后来随着募兵制的发展，他们乘机四处募兵，招兵买马，建立自己的私人武装，很快形成割据的趋势。特别是东汉末年，政治黑暗，社会混乱，流民遍野，地主豪强纷纷拥兵割据，各州郡长官也极力扩充军队，割据局面由此形成，东汉也因此灭亡。