元朝的前身是蒙古汗国，由成吉思汗所建。当时官制比较简单，实行领主分封制。其办法是，把全国牧民按地区编为十、百、千、万户，各设长以统领。万户长、千户长都是开国功臣，由成吉思汗任命，占有不等的封地和封户。封户平时畜牧生产，缴纳赋税，战时由领主率领，随大汗出征。所以，这种领主分封制实质是一种军政合一的组织。成吉思汗的私人财产和宫廷事务分属于四个斡耳朵。斡耳朵是宫帐的意思，由成吉思汗四个妻妾分别管理和继承。成吉思汗的亲军有10000人，称怯薛军。怯薛是“番直宿卫”的意思，也就是宿卫军。他的成员称怯薛歹，长官称怯薛之长。怯薛除保卫大汗外，还负责大汗的日常生活，并兼办公事，处理国务。怯薛组织中为大汗主管文书的官员称必阇〔du都〕赤。必阇赤，意为“书史”，也可以参谋国事。司法官称扎鲁忽赤，汉译为断事官。元朝统一中国后，国家规模超过汉、唐，蒙古汗国官制已不适应变化了的形势，为了行使有效的国家管理，蒙古统治者对历代中原王朝官制，特别是金朝官制，多所借鉴，形成了颇具特色的元朝官制。
元朝中央最重要的机构是中书省、枢密院和御史台。
元朝不采用隋唐确立的三省制度，而是沿用金朝尚书省制度，更名为中书省。中书省是由蒙古汗国时侍卫官必阁赤演化而来，又称都省，为管理全国政务的最高行政机构。中书省名誉上的长官是中书令，由皇太子兼任，称“行中书令”或“领中书令”，但并不常设，元代只有四个皇太子兼任此职，而且“首居重器，未尝事事”(《秋涧集》卷八四)，“名虽如是，实则未闻”(《青崖集》卷四)。实际上中书省的长官是右丞相和左丞相，总领省事，裁夺庶政。元制尚右，右丞相地位高于左丞相。平章政事是丞相的副贰，左右丞、参知政事为执政官，统称宰执。又有参议中书省事，掌管左、右司文牍，并可参决军国重事。左、右司，各设郎中、员外郎、都事等官。中书省统领六部。六部皆设尚书、侍郎、郎中、员外郎等。六部职掌与宋朝相仿，惟兵部不掌军政，只负责邮传屯牧。至元七年(公元1270年)、至元二十四年(公元1287年)、至大二年(公元1309年)，元朝曾三次设立尚书省，与中书省分权，但时间都不长(三次设置合计八年)，所以终元之世基本上实行的是一省制。
需要指出的是，元代宰执官名运用十分混乱，原因是相当长时间内被用于赏功加官，到元中期恶性发展，从京官到外官，从文职到武职，甚至佞倖、僧道之类，往往都被授予宰执头衔，有时前面加“遥授”字样，有时则径称丞相某某、平章某某，职官、加官颇难分辨。直到元朝后期，加官宰执头衔才得到控制。
枢密院是最高统军机构。除怯薛外，“天下兵甲机密之务，凡宫禁宿卫、边庭军翼、征讨戍守、简阅差遣、举功转官、节制调度，无不由之”(《元史·百官志二》)。最高长官枢密使，也不常设，实际上的长官是知枢密院事，下设同知枢密院事、枢密副使、佥枢密院事、同佥枢密院事、院判、参议等官。元朝枢密院与宋、金枢密院略有不同，即遇有大征伐，另在用兵处分置行枢密院。行枢密院简称行院，是临时性的，事已则罢。元朝军队分宿卫(戍卫京师)和镇戍(镇守全国各地)两大系统。宿卫军又分怯薛和五卫亲军。怯薛军入元后仍然保留，处于功勋军的地位，设怯薛长，归皇帝亲自统辖。怯薛待遇优厚，元朝高级军政官员多出身于怯薛。所以，官员以怯薛出身者最显贵。五(左、右、中、前、后)卫亲军是中央常备军，各设都指挥使、副都指挥使等官，由枢密院管辖。镇戍军也由枢密院调动，有蒙古军、探马赤军、汉军、新附军，其编制为万户府、千户所、百户所、牌子四级，分别由万户、千户、百户、牌子头统率。各级军官都是世袭，地位高于文官。
御史台是最高监察机构。忽必烈曾说：“中书朕左手，枢密朕右手，御史台是朕医两手的”(《草木子·杂制篇》)。设官有御史大夫、御史中丞、侍御史、治书侍御史。元代御史台地位高于唐、宋，一改以往以低品位官员监察高品位官员的传统。御史台直属机构有殿中司和内察院。殿中司设殿中侍御史，主管检查朝廷礼仪、考核京官。内察院设监察御史，主管刺探举报各种违法之事，有一定独立性，称作天子的耳目之司。元朝还在江南、陕西分设行御史台。御史台(内台或总台)与江南行台(南台)、陕西行台(西台)分辖二十二道，腹里与河南、辽阳二行省八道隶内台，江浙、江西、湖广三行省十道隶于南台，陕西、甘肃、四川、云南四行省四道隶于西台。每道设肃政廉访司(初设时称提刑按察司)，置使、副使、佥事、经历等员。廉访官分临所管道监察，称为分司，每年八月至次年四月出巡，监察地方官吏，复审案件。元代御史台可以自选从总台到肃政廉访司的官员(需奏皇帝批准)，这在历朝监察官的设置上是绝无仅有的，反映了元朝监察制度的特点。
元朝是一个开放型的政权，重视利用中外各种宗教加强思想统治，因此设有管理宗教事务的各种机构。最重要的是宣政院和崇福司。宣政院设院使、副使、同知、佥院、同佥、院判、参议等官，主管全国释教僧徒及吐蕃事务。吐蕃著名佛教领袖八思巴曾为宣政院第一任总领，被尊为“帝师”、“大宝法王”。如吐蕃有事，宣政院另设分院往治。崇福司，一度改称崇福院，掌管也里可温(基督教)事务，管理本教教士和十字寺(教堂)。设官有崇福使、同知、副使、司丞、经历、都事、照磨等官。据考证，元朝有也里可温教寺院72所。道教则由集贤院兼管。江南道教由皇帝敕封的正一道天师掌领。元朝对各种宗教寺院大加保护，主管祭祀典礼的太禧〔xi喜〕宗禋〔yin因〕院同时负责对寺院的修缮。
元朝称院的机构特别多，主要有两类。一类设官是院使、同知、副使等。除前面提到的几个以外，还有宣徽院，掌管皇帝酒膳及朝廷筵宴。光禄寺是宣徽院的子机构。太常礼仪院，掌管礼乐、祭享宗庙社稷、封赠谥号等事。太史院，掌管天文历法之事。太医院，掌管医药和各种医药机构，同时制奉御用医药。将作院，掌管官府手工业。通政院，掌管全国驿站，后分置大都、上都两院。典瑞院，掌管皇帝的印玺信物。中政院，掌管皇后宫中财政、营造、供给。储政院，初名詹事院，掌管辅翼皇太子之事。另一类设官是各种名目的学士。有翰林兼国史院，负责拟写诏令，纂修国史。蒙古翰林院，负责翻译文字。集贤院，负责学校和征集人才，同时兼管道教、阴阳、占卜等事。下辖国子监和国子学。监负责学的教令，设祭酒、司业、丞等官。学负责教授生徒，以博士领衔管理。又有蒙古国子监和蒙古国子学，不隶集贤院，而归蒙古翰林院管理。奎章阁学士院，掌管进呈经史书籍，考校历史，纂修《经世大典》。下辖群玉内司，掌管图书宝玩；艺文监，主管以八思巴文字翻译儒学经典。
此外，还有称府、称寺、称司、称监的机构。称府的有大宗正府，设扎鲁忽赤若干，由诸王为之长，掌管治理诸王、驸马以下蒙古、色目人的刑名诉讼，也兼管蒙、汉相关的刑狱。侍正府，设侍正府侍、同知，掌管内廷近侍之事。称寺的机构设卿、少卿。多为主管斡耳朵的机构。如长庆寺、长秋寺、承徽寺、长宁寺、延徽寺等。蒙元皇帝、皇后的斡耳朵各有私产和人户，死后由亲族继承。除这一类机构外，还有武备寺，掌管兵器的制造和供应。太仆寺，掌管马政。尚乘寺，掌管皇帝御用车马。值得注意的是元朝不设大理寺，以其职掌归入御史台。称监的机构有太府监，设太卿、太监、少监，掌管财务库藏。领内、右、左库藏。都水监，设监、少监、丞，掌管河堤渠防。又在地方分设大都河道提举司，山东、河南行都水监等机构。秘书监，设卿、太监、少监，掌管图书。司天监，设提点、监、少监，掌管历象研究及教学。又有回回司天监，设官同司天监，是少数民族星象学者观察天象的专门机构。设司的机构有大司农司，设大司农、卿、少卿，掌管农桑、水利及赈济之事。大都(今北京)留守司，设留守、同知、副守，掌守卫京城。
元朝地方有两个系统，一是行省系统，一是土司系统。
行省，即行中书省，也简称省。元朝以大都为都城，称河北、山东、山西之地为“腹里”，直属中书省管辖。腹里之外，分设岭北、辽阳、河南、陕西、甘肃、四川、云南、湖广、江西、江浙等十个行省。“省”，最初是官署名，如中书省。行省是中书省分出来的地方最高一级行政机构，设官同中书省，亦有丞相、平章、右左丞、参知政事、郎中、员外郎、都事等。这种制度是从金朝学来的，金朝叫行尚书省，是临时的，不常设；元朝定型为常设的机构。以后，行省又演化为大行政区的代名词。明、清时候，行省作为官署名不复存在，但作为大行政区的代名词则沿用下来。行省下是路、府、州、县。路分上路和下路，满10万户为上路，不及10万户为下路，地理位置重要的地方，不论人口数亦可置上路。路设总管府，长官称达鲁花赤，总管副贰。下有同知、治中、判官、推官等官，下辖儒学(学校)、司狱司、织染局、杂造局、录事司等分管各项专门事务的部门。府的设置不普遍，有的直属中书省，有的隶属于行省，有的隶属于路。府之下有的直辖州县，有的不辖州县。府设达鲁花赤、知府(或府尹)为长官，又有同知、判官、推官、知事、提控案牍等员分管各项具体事务。州按所辖民户多少分为三等，江南、江北标准不一。江南50000户以上为上州，30000户以上为中州，不及30000户为下州。江北15000户以上为上州，6000户以上为中州，不及6000户为下州。州设达鲁花赤、知州为长官，其他设官如同府制。县也按所辖民户多少分为三等。江南以30000户以上、10000户以上、10000户以下划为上、中、下县。江北以6000户以上、2000户以上、2000户以下划为上、中、下县。县设达鲁花赤为长官，下设县尹、县丞、主簿、尉、典史等官。在比较重要的地方设巡检司，如浙江行省泉州路设有澎湖巡检司，管辖澎湖、琉球(今台湾)等地。
土司设置于边陲少数民族地区。有宣慰司、宣抚司、安抚司、招讨司、元帅府、万户府、千户所等机构。设宣慰使、宣抚使、安抚使、招讨使、元帅、万户、千户等官，由少数民族首领担任。有的土司设在行省之内，如湖广、云南、辽阳等行省；有的设在行省之外，如维吾尔、吐蕃等。元朝土司的设置，是唐朝羁縻州县的进一步制度化，以后为明、清两朝继承下来，对巩固祖国的统一很有作用。
元朝以蒙古族为统治民族，把人户分为蒙古、色目、汉人、南人四等。四等人户在政治待遇上显分优劣，从中央官到地方官的设置上都有突出的反映。高级官员基本上为世袭蒙古、色目贵族和极少数汉人官僚所垄断，而汉人官僚也往往充任副职。如中书省，右丞相必须是蒙古人，色目人可任左丞相，而汉人只能任平章政事。有元一代，非蒙古人做丞相的只有三人。御史台也是一样，“台端非国姓不以授”(《元史·太平传》)。台端，指御史大夫。国姓，指蒙古人。至于地方行中书省长官丞相、平章政事，更是非蒙古人不任。元朝还有一个特殊的官名“达鲁花赤”，蒙古语“镇守者”的音译，按规定由蒙古人(偶有色目人)担任。中央许多机构，地方路、府、州、县，非蒙古军的万户府、千户所，都设有此官。达鲁花赤的设置，也体现了强化蒙古贵族统治的特点。