宋太祖赵匡胤建立宋朝后，针对长期以来的藩镇割据局面，采取了一系列集权于中央的措施，逐步建立起高度集权的专制统治，使皇帝牢牢掌握住最高军政大权。
北宋军队的领导权集中在皇帝手中。宋太祖深知唐末五代以来，王朝更迭频繁的根本原因是悍将权臣手握重兵。认识到：“兵权所在，则随以兴；兵权所去，则随以亡。”(宋范浚《范香溪先生文集》卷八《五代论》)因此在取得政权后，立即执行了“废藩镇，释兵权，罢功臣，典禁兵”的政策，在中央以“杯酒释兵权”，迫使禁军将领交出兵权，在地方则以文臣知州军事，解除节度使的权力。
为了从制度上保证皇帝对军队的绝对领导，北宋实行以枢密院掌管军政军令，三衙分统马步军的军事领导体制。
枢密院是北宋执掌军政的最高机关，与中书省并称东、西二府。长官是枢密使，与中书省的同平章事合称“宰执”，共同负责军国要政。枢密院的主要职责是制定战略决策，调遣军队，但不直接掌握军队。
枢密院的组织，枢密使之下设副使、签书院事、同签书院事，又设都承旨、副都承旨，负责内部事务。其下又有检详官、计议官、编修官。枢密院下设北面房、河西房、支差房、在京房、教阅房、广西房、兵籍房、民兵房、吏房、知杂房、支马房、小吏房等12个部门。各房设都承旨等官，分理枢密院的各种事务。
枢密院的长官一般由文人担任。
三衙是北宋分掌皇帝三支亲军(禁军)的最高指挥机构，其全名是殿前都指挥使司(简称殿前司)、侍卫亲军马军都指挥使司和侍卫亲军步军都指挥使司(简称侍卫马军司和侍卫步军司)。三衙各设都指挥使、副都指挥使和都虞侯。三衙的长官简称殿帅、马帅和步帅，合称三帅。三衙负责全国军队的统制训练、番卫戍守、迁补赏罚。三衙互不统属，最高指挥权属皇帝。
北宋派禁军出师时，不用三衙将帅统兵，而由皇帝临时任命其他官员为率臣(帅臣)领兵出征。事定之后，兵归三衙，统兵将帅各还本职。
北宋就是这样把调兵权、统兵权、握兵权一分为三，正如《宋史·职官志》所记载的：
枢密掌兵籍、虎符，三衙管诸军，率臣主兵柄，各有分守。
祖宗制兵之法，天下之兵，本于枢密，有发兵之权，而无握兵之重；京师之兵，总于三帅，有握兵之重，而无发兵之权。上下相维，不得专制。此所以百三十年无兵变也。
这种制度对于消弥绵延200余年的兵祸，保障社会的稳定，促进经济和文化的繁荣，起了重要作用，具有积极意义。但是，由于兵权分散，事不得专而又互相掣肘，加上一切权力统归皇帝一人，主帅在战场上只能按皇帝事先钦定的阵图指挥作战，从而大大削弱了北宋军队的战斗力，成为北宋在和辽夏作战中屡屡失败的一个重要原因。
北宋军队主要有三种：禁兵、厢兵和乡兵。边境地区还有蕃兵。
禁兵或禁军，是北宋的正规军，天子的卫兵，担负守备京师、征战屯戍等任务。禁军中担任皇帝警卫工作的是诸班直，负责宫廷守卫的是由御前忠佐军头司、皇城司和骐骥院领导的禁军部队，其他禁军用以“守京师，备征戍”。
禁军的编制，一般以50人为一队，二队为一都，五都为一指挥(营)，五指挥为一军，十军为一厢。指挥是基本作战单位。厢、军的长官是都指挥使，指挥的长官是指挥使和副指挥使，都的长官是军使和副兵马使(步兵是都头和副都头)。太祖时，禁军员额为19.2万，太宗时35.8万，真宗时43.2万，仁宗时82.6万，英宗时66.3万，神宗时61.2万。
厢兵，是国家正规军中的地方兵，名义上属侍卫马军司和侍卫步军司管辖。厢兵只用于劳役，而不进行军事训练，直到仁宗庆历年间(公元1041—1048年)，才开始教阅厢兵。神宗时下令将教阅厢兵升为禁军，于是剩下的厢兵又都成为不教阅的杂役兵。神宗元丰末年(公元1085年)，厢兵共约23万人。
蕃兵是由少数民族组成的非正规边防地方军。宋仁宗时，为应付西夏的进攻，在宋夏交界的西北边境地区，从内属的各羌族部落中招募士兵创制而成。《宋史》卷一四四说：
蕃兵者，具籍塞下内属诸部落，团结以为藩蓠之兵也。
蕃兵以部族为单位，朝廷对蕃兵的首领区分不同等级给予钱粮、衣服和土地。蕃兵虽属地方兵，但熟悉边情，勇敢善战，有较强的战斗力。
乡兵也称民兵，有的称强壮、弓箭手，是非正规地方武装，一般不脱离生产。北宋为了防御辽和西夏，在沿边界的河北、河东、陕西各地农民中征、雇兵员，粮饷兵仗，都由本乡自备。应征者在手背上刺“义勇”、“弓箭”、“弩手”、“土丁”等名号。乡兵由于熟悉地形，又是为保卫自己的家园故土，所以作战时很勇敢，有很强的战斗力。
北宋实行募兵制，军队的补充主要依靠招募。招兵的办法，据《宋史·兵志》记载是：
或募土人，就所在团立；或取营伍子弟，听从本军；或募饥民，以补本城，或以有罪配隶给役。
这里除了配隶的罪犯外，其他都是募兵。尤其值得一提的是北宋统治者非常重视在灾民中募兵，一遇荒年，便大批招募灾民入伍，这是北宋的国策。这样做的目的一是防止灾民造反，二是将反抗封建统治的饥民转化为地主阶级利益的保卫者。这样做的结果不但没有增强北宋的军事实力，相反却形成了冗兵冗费的局面，国家收入绝大部分都用于养兵，军队数量虽大，却没有什么战斗力。
北宋对军士要进行定期或不定期的拣选，骁勇者升其籍，老弱怯懦者降低军种或军级，或退充剩员，甚至开除军籍，以此来保证禁军的素质。规定凡从厢兵升禁兵、从禁兵升上军、从上军升班直，皇帝都要亲自到场检阅、接见。宋太祖时还派使者到各地调查，把那些身体好、武艺高的人选拔到开封，充当禁军。
北宋初期对禁军的训练十分重视，宋太祖曾亲自到郊外检阅部队，观看士兵的军事训练。北宋政府规定，月俸500以上的禁军全天演练武技，月俸300以下的一边训练，一边服杂役。通过严格的训练，提高了守军的战斗力，使宋军在统一战争中节节胜利。但是到宋仁宗以后，由于招募太滥，拣选不实，训练太差，使禁军的战斗力急剧下降，在与西夏进行的战争中屡屡败北。
北宋为加强禁军的管理，实行了“阶级法”、“更戍法”和一系列禁戒。
北宋军队实行严格的等级制度，即所谓“阶级法”，在军中设立各种等级的军官，规定各级军官各司其职，并付以生杀大权，使下级不敢轻举妄动，只能绝对服从上级，以此保证严明的军纪。所以，南宋孝宗说：太祖设阶级法，“二百年军中不变乱，盖出于此”。(宋陈傅良《历代兵制》卷八)
北宋还制定了更戍法。更戍就是定期变换禁军的戍守地区，规定除殿前司和捧日、天武两军外，自龙卫而下，都番戍各路，有事即以征讨。戍守边地的禁军，每隔一二年便要换防，互相更代。《文献通考·兵考·五》记载：
五代承唐藩镇之弊，兵骄而将专，务自封殖，横猾难制。祖宗(宋太祖)初定天下，惩创其弊，分遣禁旅，戍守边地，率一二年而更。欲使往来道路，足以习劳苦，南北番戍，足以均劳逸。故将不得专其兵，而兵亦不知骄惰。
司马光也说实行更戍法是为了使军士“均劳逸，知艰难，识战斗，习山川”(《司马温公文集》卷三七《乞罢将官札子》)。实际上，宋太祖实行更戍法最主要的目的是使驻军统兵官和地方官吏不敢互相结托，也使将不知兵，兵不知将，造成将兵分离，不致兴兵叛乱。
在更戍法的制度下，北方禁兵往南方移屯，常常不服水土，造成部队非正常减员，削弱了战斗力。更戍法实行了100多年，直到宋神宗时，在对辽和西夏打了许多败仗之后，才慨然更制，规定禁兵不再出戍。
为防止禁兵骄惰，北宋还制订了许多禁戒。据《武经总要》前集卷十四记载的《罚条》，就有72条之多。打架、斗殴、酗酒、敛财、逃跑、偷盗、窃造军器、私传武艺、私结义社等等都在严禁之列。对禁兵的饮食服饰也有严格规定。如禁军士兵不得衣皂，只许衣褐，且长不得过膝。葱韭不得进入军营。禁军士兵无故不得离开部队。每月领粮饷时，营在城西者，即于城东支，营在城东者，即于城西给，不许雇车或请人帮助，必须由士兵自己背负。应该说，上述规定有些内容对保证军队的良好纪律还是有积极意义的。
北宋禁军平时分属三司，战时则由皇帝亲自任命的招讨使(都部署)征调若干军、厢以行征讨。招讨使则依具体情况将其所辖部队区分为先锋、策先锋、殿后、前阵和主力马步军等。
先锋，即前锋部队，类似于现代的前卫部队，其军阵称先锋阵。策先锋是策应先锋的部队，在先锋阵的后面布阵，称策先锋阵。前阵是在中军大阵之前的奇兵，选精锐骑兵担任，不布阵，散处大阵前。殿后即后卫部队，在主力之后布成拒后阵。主力马步军即中军，其战斗队形为大阵或中军阵，一般成长阵(纵队)或方阵。步军枪刀手在前，杂以旁牌、标枪，阵前布以木拒马或大车，称“阵脚兵”。强弓劲弩在其后排列。“一阵开四门，骑兵居其中”，“候出战，即开门放队出”。
由上可见，北宋军队的军阵，基本上是以中军大阵为中心，前后左右各有警卫的防御阵势，机动部队控制在大阵中心，依情况可以派队出击。对大阵之主要要求是能抗敌之“戎马突驰”。宋太宗御制的“平戎万全阵”即是北宋军阵的典型。
“平戎万全阵”共用兵14.093万人。主力在中央排成三个方阵。每个方阵由大将一人主持，各方五里，周围20里，计7200步。每五步用战车一乘，兵士22人，共用战车1440乘，用兵士36680人。三个方阵共11.04万人。加上望子(瞭望哨)2400人，主力阵共11.28万人。
前阵与后阵，各两列骑兵，前列骑兵62队，每队50骑，共3100骑；后列62队，每队30骑，共1860骑，两列共4960骑，另加探子40骑，共5000骑。前后两阵一万骑。
东西稍阵(即左右两翼)，各两列，前列125队，每队50骑，共6250骑；后列125队，每队30骑，共3750骑。每阵一万骑，两阵共二万骑。加上探马650骑，总共2.065万骑。
由此可见，“平戎万全阵”的实质就是把主力步兵放在中央，布成三个车营，骑兵在前后左右担任警戒与掩护，用以抵御敌骑的“奔冲突驰”。这在本质上是防御性的，从而造成在实战中的被动挨打地位。
宋设有急脚递铺，传递包括军事文书在内的紧急公文。军队向朝廷报告军情，一般使用急脚递，规定日行400里。自神宗开始，皇帝发御前文字，用金字牌，红漆金字，规定日行500里。递铺兵将金字牌举在手中作为快速传递的标志。南宋时，枢密院专用青字牌或红字牌，两种牌分别以紫黄色和黑色为底色，规定日行300里或350里。绍兴十年(公元1140年)，岳飞在颍昌(今河南许昌)大败金军，前锋直抵朱仙镇。宋高宗赵构和卖国贼秦桧害怕岳飞的反攻会影响他们对金的求和，于是一天之内连下12道金字牌，强令岳飞班师，岳飞只得忍痛退兵。
宋代的发兵制度，沿用前代方法，使用银牌、铜符、木契等，但须同时附有诏敕、公文方为有效。