铁路这一近代交通运输工具，是欧洲工业革命发展的必然产物，蒸汽机的发明为火车的出现提供了技术上的可行性，大宗商品的流通和大量人员的流动为铁路运输的出现提供了市场需求。1825年9月27日，连接英国斯托克顿、达林顿两个城市的世界上第一条公共铁路正式营运，标志着火车的正式发明。铁路具有运输量大、速度快、受气候影响较小、准时等优点，它一出现便以其自身的优越性和巨大的经济效益对社会产生重大影响，西方各国为此纷纷修建铁路。
鸦片战争结束后不久，铁路知识就通过多种渠道传入中国。接踵而来的西方商人们，也开始向古老的中国推销起先进的铁路运输。1864年，正在印度从事铁路建筑的英国工程师斯蒂芬生，受怡和洋行的邀请来华考察。斯蒂芬生在考察一圈后，提出了一个以汉口为中心枢纽的铁路计划，向东连接上海，向西直达缅甸和印度，向南到达广州，向北从镇江一直到北京。这个计划不是以北京为铁路中心，而是以经济较为发达的汉口为中心，用铁路将上海、广州、天津、汉口等主要商业中心口岸连成一片。由于该计划将中国与英国殖民地印度联系起来，如果得以实现，英国人就不必绕一个大圈子在海上航行，可以很方便地从陆上进入中国腹地，再加上当时中国朝野人士均未见过铁路是什么模样，这个计划毫无疑问地被丢在一边。但是，客观地说，这个计划还是以发展经济为目标，具有相当可取之处。此后，沪杭甬、粤汉、川汉等铁路线走向，都与斯蒂芬生计划相近。
筑路计划没能打动中国人的心，外国商人又想到了用实物来展示铁路的优点。1865年8月，一位英国商人杜兰德在北京宣武门外，自行铺设了一条小铁路，长约一里。由于没有带来火车头，只好用原始的人力来推动车厢。虽然没有蒸汽机车的轰鸣声，但是火车运行时的强烈震动声，还是在古老的都城引起轰动，被人视作为妖物，差点引起社会动荡。负责京城治安的步军统领衙门一声令下，这段用来演示的铁路就被拆掉了。
火车作为一种先进生产工具，终究是要在这块古老大地轰鸣运转起来的。不久，中国第一条运营铁路在上海建成并通车。
鸦片战争以前，上海是长江三角洲地区一个中等规模的县城。因其地理位置优越，19世纪30年代，英国殖民者在对中国沿海一带进行军事、政治、经济等各方面情况的侦察活动时，就对上海备加关注。战后，上海作为五个口岸之一，被迫向西方列强开放。1843年11月17日，也就是清道光二十三年九月二十六日，上海正式开港，由封闭型港口再度成为开放型港口。上海港虽然具有种种的优势，但也有一个天生的缺陷，就是黄浦江航道非常容易淤浅。黄浦江是感潮河流，由于潮水涨落的速度不同，由涨潮带来的泥沙，在退潮时就有一部分淤积下来，在黄浦江汇入长江的吴淞口内外，形成两个很大的沙洲。开港初期，进出的外国船只主要是帆船，平均吨位在300吨，吃水一般在10英尺以内，进出一点也不困难。随着苏伊士运河通航，上海港航运有了相当大的发展，进出的船舶吨位不断增加。而此时的黄浦江航道淤积严重，外国领事团和外国总商会为维护本国的商业利益，就提出疏浚黄浦江浅滩的要求。当时主管长江下游对外交涉的两江总督，愚昧地认为淤泥的聚积可以阻止外国军舰驶入黄浦江，这是苍天在保护上海。另外，清政府也拿不出这么多钱来进行疏浚，再加上沙洲影响的只是少数西方大吨位轮船的进出，一般船只还是可以自由进出的，于是就采取拖延的态度。
淞沪线上使用的机车
面对清政府的这种策略，头脑活络的外国商人想到一个计策：在大轮船停泊之处——吴淞口，与租界所在地——上海之间，建筑一条铁路。这样，大轮船不用驶入黄浦江，在吴淞口直接将货物卸到岸上，然后由火车运到租界，再转运入长江三角洲其他地区。1866年3月，英国驻华公使阿礼国照会清政府管理涉外事务的总理衙门，要求准许英国投资建造由吴淞口至上海全长30里的一条铁路。总理衙门与两江总督照例以“妨碍多端”为由，未予同意。
吴淞口内外的泥沙还在日积月累，疏浚的计划仍是八字没有一撇。1872年，美国人又看中了上海，美国驻上海副领事布拉特福在美国驻华公使和美国国务院的支持下，组织了一个“吴淞公司”，准备修筑铁路。不久，因经济困难，布拉特福就把公司转让给英商怡和洋行，重组为“吴淞道路公司”。公司大班们知道清朝官员不会同意修建铁路，于是谎称开筑马路，骗取了上海道的同意，取得了从虹口向北直达吴淞一带的筑路用地的购买权。1873年3月，公司向民众购得了从上海至吴淞间长14.9公里、宽约14米的地皮。1876年1月20日，开始铺轨。6月30日，从虹口天妃宫（在今河南路桥北逸）到江湾徐家花园一段铁路建成，全长5公里。
当时的火车以煤或木炭作燃料，燃烧时炉火熊熊，中国人就称之为“火轮车”。这条火轮车路两旁围有竹篱，路宽4尺，属于窄轨铁路。路中间每隔2尺横排一方形条木，上面铺上铁轨，连接不断。机车的头部是锅炉，尾部放煤炭，司机站在中间露天操作。每列火车，开始时有坐车5节，后增加到8至9节，每节可坐30至40人。
火轮车正式通车的日子在1876年（清光绪二年）6月30日，第一天乘行的全部是外国人，从上海开行，“计一刻零二分之久”，就到达江湾。7月1日，乘行的全部是中国人，吴淞道路公司给上海的商号都发出了邀请，上海各界人士盛装出席，当日的景象，在《申报》记者的笔下有着详细的报道：“余于一点钟偕褚君、陈君至虹口，斯时人犹未多，见客车共五辆。……并有妇女、小孩等，更有妓馆中之娘姨、大姐，满头遍插珠兰、栀子花，香气四溢。……俄闻放气声，在旁之西人亦吹口号，车即摇摇前行。初犹迟，嗣逐渐迅疾，但闻辙轨摩荡声甚厉，而人已如电掣飚驰，随之以去矣。乘者、观者一齐笑容可掬，啧啧称叹而以为得未曾有，计一刻五分久，行至江湾。彼处人已众多……顷刻间，五车坐满，并有中立于车厢内者。然来者尚无休息，西人悉挥之使去，故尽有扫兴而归者，然益以见好新奇者之多也。”铁路两旁棉田里正在劳作的农民，忽然看到一列6辆满载人的火车经过，都停下手中的活儿，面向铁道方向行注目礼。同年12月1日，上海至吴淞全线通车，全长14.5公里。头等票价1元，当时大致可以买80斤大米，由此可见票价的昂贵，但仍然是游者如织。
申江胜景图
《点石斋画报》中的吴淞铁路图
吴淞铁路从建造之初，它的“非法”就决定了自己将来的命运。中西方观念的差异，更是促使了它的短命。筑路过程中，拆除了一些坟墓，这在中国人固有的道德传统中是不能接受的，于是不断有民众反对修路，并且破坏铁路设施。上海至江湾段建成后，有一次在试车时，机车的烟囱突然爆裂，炸死、炸伤了一些围观的人，引起民众的围攻。此后，火车又将一个正在沿着路轨行走的中国兵士撞死。这两件死亡事故的发生，使铁路附近的民众产生了一种恐慌感，各种流言迅速传播开来，风水先生则说铁路会破坏上海的风水，民众由一开始的好奇发展到盲目的排斥、愤怒，要求政府官员进行干涉。
此时的清朝官员，大部分还不知道火车是怎么一回事。驻守在上海的官员，虽然看到了火车，但他们与外地的官员一样，都对这种火轮车有着一种无法言说的敌意与恐惧，害怕洋人筑路铺轨改变现状，害怕火车开动时的轰鸣和震动，这些都是要惊动山川神灵的。如果神灵们发怒，旱涝灾害将会不断发生，天下可能大乱。时任上海道台的冯焌光为表示反对的决心，在吴淞铁路通车前，扬言如果火车试行，就将卧在路轨中间，甘愿让火车轧死。如此言语，让在上海的西方人士觉得十分奇怪，不可理解。在这种氛围下，经过中英双方官员的多次讨价还价，“非法”建造的吴淞铁路被清政府决定以28.5万两银子高价购买，包括所有地段、铁路、火轮车辆、机器等。清政府在一年内分三次付清，在款项未付清前，仍由吴淞铁道公司继续运行营运。
1877年10月20日，也就是光绪三年九月十五日，中午12时，清政府支付最后一笔费用，吴淞铁路行驶最后一趟火车。吴淞铁道公司特备专车，邀请上海道台冯焌光巡视全线，办理交接手续。这位“不怕死”的道台大人抵制住了英国人的诱惑，坐在人力抬行的轿子里视察了一遍，自以为保持住了天朝官员的威仪。收回吴淞铁路的路权，这是清政府为维护国家主权而采取的正确而且是必要的行动。但是，在清朝官员对外来新生事物的恐惧感中，在一些民众的盲目、愚昧的排外行动中，这条高价购回，主权已经属于中国人的铁路，立即被全部拆除，此后运到台湾“保存”起来。就这样，中国第一条营运状况良好，在一年多的时间里共运送了16万名客人的铁路，迅速消失了。
上海特别市区域图