清末，图书馆的行政管理隶属于中央主管教育的机构——学部。
学部设大臣，下设左右丞，管理图书馆事项。清政府又在各省设提学使司，作为新式省一级的教育行政机关，上面受中央的学部和本省督抚领导。提学使司下设学务公所，公所下分六课：总务课、专门课、普通课、实业课、图书课、会计课。各省图书馆统一归图书课领导。京师图书馆归学部领导。
1911年爆发辛亥革命，次年临时政府成立。图书馆行政管理隶属于教育部。1914年7月颁布“教育部官制”，其中规定总务厅负责“学校、图书馆、博物馆等修建事项”。社会教育司负责“博物馆、图书馆事项”和“各种通俗博物馆、通俗图书馆事项”(见《第一次教育年鉴·甲编·教育总述》)。1918年12月《教育部分科规程》中，规定总务厅下属庶务科负责“本部所辖学校、图书馆、博物馆等修建事项”和“调查公立私立学校、图书馆、博物馆等设置”事项；社会教育司下属第一科(图书博物科)负责“博物馆图书馆事项”。第二科(通俗科)负责“通俗图书馆巡回文库事项”。正是根据这个规定，民国初期的教育部社会教育司对京师图书馆选址、调书等事项，才由周树人(当时为第一科科长)负责办理。
1928年6月颁布的《修正中华民国大学院组织法》，改教育部为大学院，取消各省教育厅，把全国划成若干个大学区，负责管理各地教育、学术机关。规定大学院直接管理国立学术机关，其中包括国立图书馆。各大学区设立教育处，负责公立图书馆事务。大学区取消后，恢复省教育厅制，规定教育厅第三科(即社会教育科)负责图书馆、博物馆事项，县教育局条例中，规定教育局负责学校、图书馆、博物馆及其他文化事业。
关于图书馆内各级机构的设置及职能范围，在1939年公布的《修正图书馆规程》及《图书馆工作大纲》里都有详细规定。一般说来有行政部门：负责处理文书、会计、庶务等事项；采编部门：负责选购、征集、分类编目等；阅览部门：负责庋〔gui轨〕藏、流通；特藏部：负责善本、舆图、地方文献；参考研究：负责咨询、研究、辅导等。
总之，所谓隶属关系，就是归谁管理，归谁领导，谁拨经费的问题。
民国时期图书馆虽然发展很快，但经费不足，管理落后，始终是困扰着图书馆发展的关键环节。有人指出，当时政府用于教育的经费极少，用于社会教育者甚微，而社会教育中用于图书费者则更微乎其微。据四川省教育厅调查，1935年全省有图书馆138所，藏书共93万册，当年经费91182.6元，平均各馆为660.7元。青海省图书馆经费为1800元，西康省馆仅有260元。浙江金华县立孝顺民教馆图书经费竟少到16元。该馆藏书102册，且所藏多系从前书院旧物，多为不合时代需要之古书。
大学图书馆较之公共图书馆经费稍为宽裕一些，1931年教育部视察北平各校后，不得不承认“设备非常缺乏，图书馆大半有名无实，经费方面，薪金往往占预算十分之八以上，而设备费则在十分之一以下”。北京大学每年图书馆经费7.5万元，除工资外，其余图书设备行政费用仅有1.5万元，1933年交通大学图书馆年购书费为2.4万元，同济大学只有1.6万元，由此可见一斑！