我国的远洋航运事业的出现，可以追溯到遥远的先秦时期。到了汉朝和唐朝，由于航海技术的进步，远洋航运有了较大的发展。
据《汉书·地理志》记载，汉武帝时曾派使臣、贸易官员和应募商民，从广东出发行船约五个月到都元国(苏门答腊)，再行船四个月到邑卢没国(缅甸太公附近)，又经二个多月到黄支国(印度马德拉斯附近)，自此往南到已程不国(斯里兰卡)。最后由黄支国返航，约八个月到皮宗(马来半岛)，又行八个月返回中国。这是我国航海船舶经南海，穿越马六甲海峡，在印度洋上航行的真实记录。当时，已不程国是交通中转站，中国从此处可购得珍珠、璧琉璃、奇石异物等，中国的丝绸等则由这里转运到罗马等地。东汉桓帝在位时，大秦(罗马帝国)派遣使者航海来到中国，从而开辟了中国和大秦之间的海上通路。这是中国同欧洲国家直接友好往来的最早记录。这种友好往来，把当时世界上两大帝国——东方的汉帝国和西方的罗马帝国连结起来，构成了一条贯通欧、非、亚洲的海上航线。这是继陆上著名的丝绸之路之后，又开辟的一条海上丝绸之路。
到了晋朝，有一个重要事件在我国远洋航运史上有特殊意义，这就是公元409年至412年东晋的著名僧人法显从印度洋远航归来。西汉末年，佛教自印度传入我国，佛教的经典也开始翻译过来。一些外国僧人来到中国，如西晋怀帝永嘉四年(公元310年)印度僧人佛图澄来到中国，中国的僧人也到印度去求法，最有名的是东晋后期的法显。公元399年，法显从长安约得同伴九人西行，历经艰难坎坷，达到印度寻求戒律。同行僧人有的丧身异域，有的不再返回，但法显“欲令戒律流通汉地”，弘扬佛法。最后只有他一个人从海路远航归国，这时他已是70岁的老人了。回国后，他除了翻译带回来的大量佛经外，又撰写了记述这次求经见闻的《佛国记》一书。它是我国详细记述古代中亚以及印度、斯里兰卡南海诸国政治、经济、宗教、历史、地理、风土人情等情况的第一部著作，也是我国有关1500年前中印远洋航行的纪实之作，史料价值极高，对促进中国同印度、尼泊尔等国的相互了解和文化交流，起了重要作用。
唐朝与各国的海上交往达到了全面繁荣时期。唐都长安发展成为国际性的大城市。海外各国的使者、留学生、留学僧、商人不断地到中国来，学习中国先进的文化、政治典章制度，进行贸易。这是唐代国家强盛、物产丰饶、科技发达、文化领先的必然结果。中国人在海外被称为“唐人”。“唐人”也常常乘海船前往海外。唐代开辟了多条海上航线，加强了对海外的经济文化交流及友好往来。与盛唐同时，8世纪中期西方崛起了地跨欧、亚、非三洲的阿拉伯帝国。我国史书称之为“大食”帝国。其边境东部的北段与唐朝边境相接。阿拉伯人擅长航海，长期同中国有着广泛的经济文化交流。据不完全统计，从唐高宗永徽二年(公元651年)阿拉伯国家首次派人入唐，至唐德宗贞元十四年(公元798年)的148年间，阿拉伯对中国正式派遣使者39次之多，平均三年多就有一次。阿拉伯商人、伊斯兰教士也多次从海道到唐朝经商、传教。到唐中期，海上丝绸之路的文化贸易来往进入新的高峰。这条海路的起点我国南方的广州，港口桅樯林立，旌旗飘扬，巨舶进进出出，从广州开出的远洋船只每天就有10余艘。在这里中外各国商贾云集，市场熙熙攘攘。唐德宗贞元时(公元785年—805年)宰相、地理学家贾耽(公元730年—805年)所著《广州通海夷道》一文纪录了这条海上航线的所经之处。这条航线从中国广州开始，过海南岛东南，沿南海的印度支那半岛东岸而行，过暹罗湾，顺马来半岛南下，至苏门答腊岛东南部，航抵爪哇岛。再西出马六甲海峡，经尼科巴群岛，横渡孟加拉湾至狮子国(今斯里兰卡)，再沿印度半岛西岸行，过阿拉伯海，经霍尔木兹海峡抵波斯湾头阿巴丹附近，再溯幼发拉底河至巴士拉，又西北陆行到底格里斯河畔的阿拉伯帝国都城巴格达。如果继续西行，除陆上通往地中海外，还可由波斯湾再出霍尔木兹海峡，沿阿拉伯半岛南岸西航经阿曼、也门至红海海口的曼德海峡，南下至东非沿海各港口。贾耽所记这条航线从广州出发至巴士拉用90余天。从巴士拉向西航行至东非坦桑尼亚的达累斯萨拉姆用48天。唐代远洋海船能航行于西太平洋和北印度洋水域，可知唐代远洋航行能力之强。唐人将航船泊岸之处盛产之象牙、犀角、珍珠、宝石、珊瑚、琉璃和乳香、龙涎香等各种香料，以及玳瑁等物大量收购后输往中国，而中国的丝绸、瓷器、茶叶、铁器等物产也远销亚非各国。唐代的海外贸易盛况达到了空前的程度。
宋代海外贸易兴盛，远远超过前代。北宋中期西夏崛起于宁夏，控制了河西走廊。宋与西方各国的往来通道只能走海路了。宋代和西方各国通商，据《岭外代答》、《诸蕃志》(赵汝适著，成书于公元1225年)等书记载，就有50多个国家和地区。其中重要的除高丽与日本外，还有交趾、占城、真腊(柬埔寨)、蒲甘(缅甸)、勃泥(加里曼丹北部)、阇〔she蛇〕婆(爪哇)、三佛齐(苏门答腊岛的东南部)、大食、层拔(黑人国之意，在非洲中部的东海岸)等，远远超过了唐代的活动范围。据《岭外代答》说，与中国来往密切的国家，第一是大食国，其次是阇婆国，第三是三佛齐国，然后才是其他各国。这些国家大都在亚非航路沿线。宋代远洋航船已能横渡印度洋，沟通了从中国直达红海和东非的西洋航线，这标志着我国航海事业已达繁荣时期。宋代指南针的发明及应用，是我国航海技术的一件划时代的大事。指南针是我国四大发明之一。世界上最早记载指南针应用于航海导航的文献是北宋宣和年间(公元1119年—1125年)朱彧〔yu玉〕所著《萍洲可谈》。作者追记随其父朱服于公元1094年至1102年任广州高级官吏的见闻。书中写道：“舟师识地理，夜则观星，昼则观日，阴晦则观指南针。”“识地理”是说当时舟师已掌握了在海上确定海船位置的方法。除了采用观日航海、观星航海的导向方法外，在天气阴晦即能见度低的情况下还可利用指南针导航。这种方法是我国首创的仪器导航方法，也是航海技术的重大革命。指南针的应用与天文导航二者配合使用，更能促进航海天文科学的发展。中国使用指南针导航不久，就被阿拉伯海船采用，并经阿拉伯人把这一伟大发明传到欧洲。恩格斯在《自然辩证法》中指出：“磁针从阿拉伯人传至欧洲人手中在1180年左右。”公元1180年是我国南宋孝宗淳熙七年。中国人首先将指南针应用于航海比欧洲人至少早80年。指南针经过改进，加上方位刻度盘，更便于使用，这就是罗盘。中国海船开始使用罗盘进行导航约在公元1225年。在这一年赵汝适写的《诸蕃志》中明确记载：“舟舶往来，惟以指南针为则。昼夜守视惟谨，毫厘之差，生死系矣。”这里所说的已不是一般的指南针，而是罗盘了。若无罗盘上的指向刻度，便不可能做到“守视惟谨”，分辨“毫厘之差”了。罗盘针应用于航海，说明我国导航技术在宋代居于世界的领先地位。它的西传，为公元1492年哥伦布发现“新大陆”，创造了前提条件。应用罗盘以后，人类就可以真正摆脱了海岸的束缚，而能够驰骋在更加广阔的大洋上了。