楼船，为秦汉时期水师的主力船只，因而水师亦被称呼为“楼船”、“楼船军”。楼船的形制是船体庞大、装备全面：
楼船，船上建楼三重，列女墙战格，树幡帜，开弩牕、矛穴，置抛车、礨石、铁汁，状如城垒。忽遇暴风，人力莫能制，此亦非便于事。然为水军，不可不设，以成形势。
楼船源于春秋越国。秦兵分五路攻打岭南百越，就使用了楼船。汉武帝时，为了准备与南方少数民族的战争，大力建设楼船军，并且在长安设立水军的训练基地。元狩三年（前120年），“是时粤欲与汉用船战逐，乃大修昆明池，列馆环之。治楼船，高十余丈，旗帜加其上，甚壮。”昆明池基本上是一个人工湖泊，最初是为了准备与滇王的战争开凿昆明池，规模较小。此次“大修”，昆明池成为一个方圆40里的湖泊，可以在池中建造楼船，训练水军。昆明池中曾有“楼船百艘”，这些都是水军操演、检阅用的教练舰。
楼船的作用，相当于陆战的楼车。当时的武器主要为弓箭和矢石，因此，与民用船只相比，楼船船型必须高大，一般是在三层或以上，士兵得以居高临下地发射箭石，容易发挥武器的威力。楼船装备齐全，设有高耸的楼橹或斗楼，桨手在楼下划船。每层外面建有高约三尺的女墙，用以防御敌方的箭石。女墙中间开有箭孔，士兵在孔内射箭。整艘楼船周围加装有用硬木材制成的战格，要害部位又蒙上皮革，以防敌方的进攻。
除了楼船这种大型战船外，水师中还配备有各种其他类型、功能互补的船只。据汉朝人刘熙在《释名》中记载，按功能区分的船舶有：进攻时，行驶在整个舰队前列的为“先登”，意为登向敌阵；船形狭长的“艨艟”，是在敌舰间穿梭，打乱敌阵；速度奇快的为“赤马舟”，船上涂满红色；上下两层的“舰”，四面用木板保护起来，以防敌方的矢石。按船的大小，有：五百斛以上的“斥侯”，船上有小屋，起瞭望作用，观察敌人的进退情况；三百斛以上的“𦩍”，形似水貂，船形较短，不易倾覆；二百斛以下的“艇”，只能载一二人，适合单兵作战。
汉代的楼船军在巩固国家的统一和沟通沿海及各水系之间的水运交通方面，起了很大的作用。汉武帝元鼎五年（前112年），南粤反，武帝令江淮以南水军十万人（一说二十万）征南粤，“遣伏波将军路博德出桂阳，下湟水；楼船将军杨仆出豫章，下浈水；归义越侯严为戈船将军，出零陵，下离水；甲为下濑将军，下苍梧。皆将罪人、江淮以南楼船十万人。越驰义侯遗别将巴蜀罪人，发夜郎兵，下牂柯江，咸会番禹。”五路大军，均为水兵。从汉兵的进军路线可以看出，今四川、湖南、广西、江西均有通往南粤的水路，从浙江有通往闽越（福建）的海路。
汉朝“今发兵行数千里，资衣粮，入越地，舆轿而隃领，柁舟而入水，行数百千里，夹以深林丛竹，水道上下击石，林中多蝮蛇猛兽，夏月暑时，欧泄霍乱之病相随属也。”虽然遇到许多恶劣的自然环境，但汉朝军队在征南粤的战争中，总体上打得较为顺利，次年即攻下南粤，置南海、苍梧、郁林、合浦、交趾、九真、日南、珠厓、儋耳等郡。南海郡在今广东省，苍梧、郁林、合浦三郡包括今广西和广东西部，交趾、九真、日南三郡在今越南北部和中部。但是在今福建地区打得相当艰难。福建当时为东越王余善的地盘，元封元年（前110年），在汉军的压力下，东越内部发生分裂，杀余善，向汉军投降。武帝下令将福建境内的越人迁至江淮之间。今福建地区在西汉属会稽郡，由于都是山地，向西与豫章郡（江西）、向北与会稽郡的北部（苏南及浙江）之间的陆路交通，都是山间小径，荒无人烟，外来人员难以进入。成批的军队更是难以成行，一是当地无粮食可供，二是不知目标在哪个方向。因此，汉代只在今福州市设立了一个冶县，通过海路与其他郡县取得联系。
汉朝的楼船基地，主要在长江流域的豫章（江西南昌）、寻阳（湖北黄梅西南）、庐江（安徽庐江南）、枞阳（安徽安庆）、会稽（江苏苏州），以及沿海的句章（浙江慈溪西）、博昌（山东博兴小清河入海口处）等地。这些基地，也是主要造船基地。长江中下游地区，除了各楼船基地外，造船基地还有夷陵（湖北宜昌）、江陵（湖北江陵）、武昌（湖北鄂城）等地。东汉末年，孙权在武昌新造大船，多至樊口进行航行试验，《魏文与孙权书》中说：“知已选择见舡最大樟材者六艘，受五百里石，从沔水关付樊口。”在两汉时期，国内最重要、技术水平最先进的造船基地当是番禺（今广东广州），考古发现汉墓中的船舶模型证明当时的番禺已经能建造适合内河航运、近海航运和远洋航运的各种船舶。这与番禺的特殊地理环境，及其是当时中国的海上对外贸易中心、多种造船技艺的会集点等多种因素是分不开的。
汉武帝也是一个喜欢出巡的皇帝，他的巡海次数达七次以上。主要有：元封元年（前110年）封泰山后，汉武帝从泰山往东，至海上，北至碣石。元封五年（前106年），北至琅邪。太初三年（前102年），先东巡海上，再封泰山。汉武帝多次巡行的海路，史称“并海道”，东汉时又作“傍海道”，沿今渤海、黄海海滨而成。这里地势平衍，施工容易，因而陆路交通方便。在秦汉时期又是重要的经济、文化中心，因此，秦始皇、汉武帝多次巡行至此。他们到达的碣石，为东北各郡的门户。自碣石循海东行，可达辽西、辽东二郡和朝鲜半岛。元朔元年（前128年），东夷薉君南闾等28万人降汉，置为苍海郡。“薉”即“秽”，或作“秽貊”，汉代时分布在辰韩部之北，高句丽、沃阻等部之南，主要在今朝鲜境内。由于当时汉朝还没有打败朝鲜，汉朝与苍海郡之间的联系，只有海上交通这种方式。元朔三年（前126年）春，只设立了一年多的苍海郡就被废除了。元封二年（前109年），朝鲜王攻杀汉朝的辽东都尉，汉武帝决定发兵攻打朝鲜，将全国各地已被判为死罪的人集合在一起，派楼船将军杨仆、左将军荀彘，率领这些由罪人组成的队伍前去攻打朝鲜。次年夏天，朝鲜人斩其王右渠降，汉朝以其地置乐浪、临屯、玄菟、真番郡。至此，联结燕齐地区与朝鲜半岛的近海航线形成。
辽东半岛与山东半岛之间的海上交通，东汉末年常见于史籍。东莱郡黄县人太史慈，北海郡朱虚人邴原、管宁等人，均“避乱辽东”。辽东半岛与长江下游间的来往，在三国时极为频繁。如孙权嘉禾元年（232年），遣将军周贺、校尉裴潜率领由上百艘船舶组成的舰队，从海路前往辽东。
“并海道”以南，是沿着今天东海、南海的海上航线，在东汉年间已经完全形成。汉朝疆土最南端交阯七郡的贡赋，由于走陆路更为艰险，只能改走海路，是沿海岸线经东冶（福州）往北运输，至长江流域改走内河航道。由于海上风浪太大，许多船只遭损坏而沉溺。章帝建初八年（83年）后，打通了零陵（今湘桂走廊）、桂阳（今骑田岭道）之间的陆道，水陆联运，商业往来不绝。东汉末年，这条海上航线的航运条件仍然比较差，许靖、袁沛等人“经历东瓯、闽、越之国，行经万里，不见汉地，漂薄风波，绝粮茹草，饥殍荐臻，死者大半”。三国吴时，这条航线成为吴国重点经营的海运航路。孙权黄龙二年（230年），“遣将军卫温、诸葛直将甲士万人浮海求夷洲及亶洲……其上人民，时有至会稽货布，会稽东县人海行，亦有遭风流移至亶洲者。所在绝远，卒不可得至，但得夷洲数千人还”。这是大陆政权首次对台湾岛的统治。
地处我国南部的岭南地区，与黄河流域、长江流域相比，具有一个得天独厚的地理优势：沿着我国的南海，船只可以较为便捷地通往太平洋和印度洋，与这些地区的人们进行交流。这些地区国家很多，物产丰富，很早就与岭南地区的港口有物资交流。来自南洋地区的奇异之物，经过岭南地区港口的集散后，又流传到岭北地区。秦始皇派尉屠睢攻岭南，原因之一就是岭南地区的犀角、象齿、翡翠、珠玑。
岭南地区港口众多，最重要的港口是番禺（广东广州）。秦代以番禺为南海郡治所。秦末，赵佗在岭南地区建立了割据政权，统治范围包括桂林郡和象郡，以番禺作为都城。汉武帝平定南越后，番禺仍为南海郡治，与内地的交往不断增加，《史记·货殖列传》在记载汉初全国的九大都会时，番禺位列其中。岭南地区的犀角、象齿、翡翠、珠玑等物产闻名于中原，前往交易的中原地区商人获利颇丰。但是，岭南地区并不生产这些物品，据后人记载，都是从海外输入的。汉武帝统一岭南后，派出了一支官方对外贸易代表团，前去南洋各国。这支代表团由黄门（即宦官）率领招募来的商人，带着丝绸和黄金，前去购买外国的明珠、璧琉璃（宝石的一种）和奇石异物。由于当时的船舶较小，只能沿海岸航行，因而出航地点在徐闻（今广东徐闻南）、合浦（今广西合浦东北）等地，而进口船只均集中在番禺。当时的航行路线，据史籍记载如下：
自日南障塞、徐闻、合浦，船行可五月，有都元国；又船行可四月，有邑卢没国；又船行可二十余日，有谌离国；步行可十余日，有夫甘都卢国。自夫都甘卢国船行可二月余，有黄支国，民俗略与珠厓相类。其州广大，户口多，多异物，自武帝以来皆献见。有译长，属黄门，与应募者俱入海市明珠、璧流离、奇石异物，赍黄金杂缯而往。所至国皆稟食为耦，蛮夷贾船，转送致之。亦利交易，剽杀人。又苦逢风波溺死，不者数年来还。大珠至围二寸以下。平帝元始中，王莽辅政，欲耀威德，厚遗黄支王，令遣使献生犀牛。自黄支船行可八月，到皮宗；船行可二月，到日南、象林界云。黄支之南，有已程不国，汉之译使自此还矣。
这条航线上的都元国，在今爪哇；黄支国，在今印度东南部；已程不国，在今斯里兰卡。其他地名，由于年代久远，已经很难考定，学术界争议很大。这条航线，被后人称作为“海上丝绸之路”。
东汉时期，南洋一些国家的使臣和商人，也沿着这条海上丝绸之路东来。顺帝永建六年（131年），叶调国、掸国遣使前来，叶调国的位置，大致在今印度尼西亚的爪哇岛和苏门答腊岛一带。桓帝延熹九年（166年），大秦王安敦遣使献象牙、犀角、毒瑁。大秦，一般认为是罗马帝国。广州的考古发现，也印证了当时的这种物资交流盛况。在广州汉墓出土的文物中，有一种玻璃珠和琥珀雕饰品，所含的铅和钡成分极低，与当时国产铅、钡玻璃成分截然不同，而与西方玻璃相类似。在南越王的墓室中，发现有多枚陶制犀牛角模型和象牙，这些象牙形态粗壮，与非洲象极为相似。
到了三国时，广州港已经成为海上丝绸之路的始发港。孙权时，遣宣化从事朱应、中郎将康泰率船队出使南海诸国，所经过及听说的国家有一百数十国。黄武五年（226年），大秦国商人秦论从海道来到交趾郡，交趾太守吴邈将他送到建业（江苏南京）晋见孙权。
海上丝绸之路的形成，标志着古代中国的航海事业进入了一个新的阶段，已经拥有较为发达的造船业和航海业。海上丝绸之路的出口物品以丝绸为主，说明丝绸货源的充沛，丝绸的商品化程度已经很高。