传说夏朝的天文台叫清台，商朝叫神台，到了周朝则称做灵台。
《诗·大雅》中有一首诗歌叫《灵台》，叙述了周文王曾在丰邑的西郊建筑了一座灵台，台高两丈，周长420步。周以前的天文台主要是为了祭祀日月设立的，所以天文台只是一个高于其他建筑物的平台，台址一般选择在平坦的开阔地带。
中国古代的帝王多自诩〔xu许〕“受命于天”，认为天象变化与自己的统治地位息息相关。他们当然希望天上的“信息”只传递给他们自己，所以他们总是牢牢地掌握着天文观测机构，只许在皇城建立天文台。但有时，当中央权力失去控制力时，各诸侯国就会不顾禁令，纷纷设台。春秋时的鲁国就建立了自己的天文台，叫观台。
后来，由于天文观测项目的增加和祭祀活动的频繁，活动场地就需要分开，祭祀活动改到叫明堂的建筑物去举行，天文台则专司观测天文和气象。
史书记载，西汉时，都城长安的郊区建有天文台，开始也叫清台，后改为灵台。台上安置了浑仪、铜表和相风铜乌等天文气象仪器。东汉时，汉光武帝于中元元年(公元56年)，在洛阳城平昌门附近建立了明堂和灵台各一座。灵台东西两面有墙垣，墙内中心有一座方形高台，是观测天象的场所。高台四周有10多间屋舍，是观测人员住宿、办公之地。天文学家张衡从元初二年(公元115年)到阳嘉二年(公元133年)期间，曾两次被委以太史令之职，直接管辖灵台的观测工作。东汉灵台在三国、西晋时期还在使用，直到北魏才被废弃。1974年在河南省偃师县发掘出该灵台遗址。遗存的台基由泥土夯成，高约八米，占地达4.4万平方米。
唐代长安城郊最主要的天文台是仰观台，又叫司天台，直接归太史监管辖，天文学家李淳风就是在这里进行观测的。唐代中期，在集贤院里专为天文学家一行建了一座仰观台。另外，在陕西省咸阳附近还有一座清台，专供天文学家薛颐占卜吉凶之用。隋唐时代流行一种风气，皇帝不但在都城郊区建立天文台，而且在皇宫内院也设立宫内天文台。
北宋时，国力强大，科技发达，仅汴京(今河南开封)一地就设立了四个天文台，其中司天监的岳台和禁城内翰林天文院的候台是主要的观测台。两台的仪器一模一样，用于对比检查测量结果。当有异常天象出现时，两台必须互相核对，并同时上报，以防误报或作假。四个天文台都备有大型浑仪，各用铜两万斤铸成。除此之外，宋政府还设立了一个校验所，校验浑仪和漏刻的准确性。朝廷被迫南迁以后，在临安(今杭州)先后又建了两座天文台，一座为太史局司天台，一座为秘书省测验所。关于宋代天文台的建筑布局，我们只能从南宋数学书里的一幅插图了解其大致情况(见图17)。
金朝在燕京(今北京)建都，设立天文台。由于金人来自文化落后地区，没有精良的观测仪器，于是把北宋的仪器图书全部北迁。但其中的浑仪是按开封的地理纬度设计的，不能用于北京。
图17 宋代天文台
元人进驻大都(今北京)以前，曾在上都(故址在今内蒙古正蓝旗东闪电河北岸)建立过一个回回天文台，由西域人扎马鲁丁主持。回回天文台使用阿拉伯天文仪器测量，并编制阿拉伯天文体系的各种数表，成为阿拉伯天文学在东亚的研究中心。从史书对阿拉伯天文仪器的描述，推断回回天文台的规模不会太小。
在河南登封县告成镇，有一座奇怪的建筑物，房不像房，塔不像塔，高耸的建筑物下面向北延伸一条很长的“路”，这就是建于元初的登封观星台。据说观星台的原址早在周代就用于天文观测。当地人直到现在还称它“周公测景台”。据传，唐代开元年间，一行和南宫说〔yue月〕等人进行全国天文大地测量时，曾在这里立起一块石表，上刻“周公测景台”，似乎确有其事。“景”，通“影”。测景台即是测影台。观星台建筑物本身就是一个绝妙的表：高台中央的门就作为表端，“路”由36块石板铺成，就作为圭，这样大的圭和表，是郭守敬的杰作。现存的登封观星台，曾经过明代的整修，圭长31.19米，台高9.46米，台上附设两室，但室内空空，没有留下任何仪器。登封观星台不仅是中国现存最早的天文台，而且也是世界上最古老的天文台之一。元代像登封观星台这样的官方天文点，共有27个，分布于全国从北纬15°到北纬63°的广大地区。
作为元代官方主要天文台的司天台，建在大都城的东南方向，完成时间是至元十六年(公元1279年)，300多年以后毁于战争。通过元代《太史院铭》中的叙述，可了解司天台的基本布局，并复原成图(见图18)。司天台台高七丈，外有围墙，围墙长200步，宽150步。整个建筑分三层，下层是办公用房，太史令等官员在南房，推算局在东厢房，测验局和漏刻局在西厢房，辅助人员在北房；中层有八个房间，用于贮放图书、仪器等；上层是露天平台，置有简仪、仰仪、圭表和玲珑仪等仪器，印历工作局也设在上层。司天台是当时世界上最先进的天文台之一，可以和中亚的马拉加天文台相媲美。
图18 元代天文台复原图
明代洪武十八年(公元1385年)，在南京鸡鸣山上建造了观星台，台上的仪器是元代的，为了使仪器适于在南京观测，对仪器做了改造。与此同时，在南京雨花台上还建造了回回观星台，所用仪器都是原上都天文台的阿拉伯仪器。
北京古观象台，是明清两代的官方天文台，至今已有544年的历史，它坐落在北京建国门立交桥旁，至今保存完好。观象台上安置的仪器，大多是耶稣会传教士设计的，除在造型上稍有些中国特色外，结构和工艺等方面无不反映出当时欧洲的仪器制造水平。清代天文学家曾在这座观象台上进行过两次重大的系统观测，第一个成果是制定以1744年为历元的《仪象考成》星表，包括3083颗恒星；第二个成果则是在第一次观测的基础上将恒星数目扩充到3240颗，编入《仪象考成续编》星表，并改1844年为历元。