不料，一波方平，一波又起。
25日傍晚，林遵召开会议介绍与三十五军领导同志会见的情况，传达毛主席的指示和“三野”党委的决定。正当他和舰长、队长们研究人员上岸居住，舰艇伪装疏散的方案时，突然，“惠安”副长走进司令室。
“报告司令！”副长紧张、胆怯地说：“舰上有很多士兵家眷留在上海，要求把舰开下去。”
吴建安听了十分恼火，急忙站起来，说：“我去跟他们说理去！”
林遵感到问题严重，马上宣布休会，叮嘱大家火速回舰，掌握舰上情况。可是这些舰长刚出司令室就被一帮要求下驶的士兵押进会议室关起来。
林遵打开右舷的门，走出司令室，只见“惠安”和旁靠着它的“永绥”都站好了炮位，主机在轰轰地响着。
林遵问站在身旁的戴熙愉：“你看怎么办？”
“要是军舰被他们开走，我们到了上海都要人头落地！”戴肯定地说：“司令德高望重，‘惠安’的绝大多数官兵是服从你的。现在得请你亲自出面讲话了。”
林遵说：“我们分头下去，查一下原因，跟他们讲讲道理。”
林遵回到司令室，正要从通梯口的房门走出，一个上士和帆缆兵端着枪气势汹汹地冲上梯口，把林遵堵在室内，后面六七个持枪的士兵也冲了上来。
“为什么不把舰开下去？”那个帆缆兵劈头就问：“你们打的是什么主意？”
林遵同志沉着而又严峻地说：“你们知道是跟谁说话吗？有话可以慢慢地讲嘛。好吧！你们都进来，坐下来听我讲不下去的道理。”
林遵说：“我林某率部起义不是为了个人，而是为了整个舰队，为了国家。我们已把军舰交给了解放军。你们愿留则留，愿回家的可以回家。我不强迫你们留下，你们也不应该强求我开船。”几个水兵听罢都沉默下来，只有个别人还在蛮横地嚷着，强迫林遵开船。
林遵压住心头火说：“船是不能开，你有理就讲吧。”
“我们当兵的没有权命令司令开船。”有的气急败坏地说：“可是，我们的家都在上海，谁不想父母妻女呢？再说，司令的家也在福州，还是下去的好。”
林遵一再表示不能下令开船，并反复向他们解释共产党对国民党起义部队的政策。最后说：“上海、福州很快就要被解放，跟国民党跑只有死路一条。你们知道吗？逃下去的七艘军舰中，‘兴安’在江阴江面被炮火击中受了重伤。‘永绩’舰由于惊慌失措也在江阴附近搁了浅。两艘军舰和所有舰员都成了俘虏。下去凶多吉少，我说过了：林某率部起义不是为了个人，而是为了整个舰队，为了你们的身家性命着想的。你们为什么还执迷不悟？！”
林遵的一席话，把大家说得哑口无言。在威严而又慈祥的海军少将面前，谁也不敢轻举妄动。
再说，吴建安舰长怒气冲冲地走出司令室，刚奔下梯口，就被一群舰员困在士兵舱内。一个班长端着枪逼他开船。不管吴建安怎样对他解释都不听。吴建安再也按捺不住心中的怒火了，他迅速地掏出挂在腰上的左轮手枪对着自己，他高声地嚷道：“你们如果逼我太甚，不用你们打死我，我宁愿自己打死自己，也决不下达开船的命令！”吴舰长平时和舰员的关系较好，士兵们看到这种情况也就不敢再逼了。
几个要求开船的舰员看到胁迫舰长开船已经无望，就去找一向被人们认为是胆小怕事的引水员胡心长，逼迫他领航下驶。他们没料想这位爱国的老引水员，这时却显得十分坚强。他反复声称：“没有林司令的命令，打死我，也不给你们开船！”
为什么发生这么一件事？因为大部分舰员上岸居住，舰艇伪装疏散的消息过早地泄露出去，被个别别有用心的人所利用。他们趁机制造谣言，煽动舰员起哄，胁迫舰长开船。他们说：“我们住在舰上，有枪有炮，说留就留，说走就走。上岸当俘虏，共产党叫我们拿两个手榴弹去打冲锋，想逃也逃不了。”原因弄清后：有些军官就凭自己的认识，向大家解释：解放军已接受我们的起义，我们不是俘虏；人员离舰是为了防空，是共产党、毛主席对我们的关怀，不是解除我们的武装，更不会叫我们去打冲锋。毛泽东主席说过：“我们要的是建设海军的人才。”
人越来越多，纷纷提出许多问题。
就在军官们回答问题的时候，有人提出分发舰上的“应变费”的要求。所谓“应变费”是国民党海军总司令部撤逃时，特派一名军需官送来的一笔经费，是一箱箱用木箱装着的银元，作为后勤补给机构撤退后，供各舰伙食给养经费开支的预备金。林遵听说要分“应变费”，欣然表示同意，命令舰上立即发“应变费”。这一场经历约一个多小时的风波，来势凶猛，但在林遵、吴建安和引水员胡心长的凛然正气的感召下，没有掀起恶浪；发“应变费”更使那一伙闹事的士兵一哄而散，最终结束了这场可能导致流血的事件。
那几位被关进会议室的舰长们也受到一场虚惊，会议室的门被反扣了，电灯被熄灭了，黑暗更增添了紧张和恐惧的气氛。“楚同”舰中校舰长李宝英，抓住坐在边上的陈务笃的手，小声地问：
“老陈，怎么办？”
“不要紧，林司令、吴舰长都在外面。”陈务笃安慰他。
“会不会把我们劫持到上海去？”李问。
“不会的。闹事的只是部分士兵，没有看到军官。没有舰长、副长、航海官，船能开走吗？”陈答。他在安慰李宝英，也在安慰自己和其他舰长。
有人也安慰说：“不要紧，吴建安有能力控制局势。”还有的说：“别怕，林司令会扭转局势。”他们把希望完全寄托在林、吴两人身上。但都把手枪捏在手里，并上了子弹，作好自卫的准备。直到事件结束，他们才回舰。
如何处理这些闹事的人？人们又议论开了。有的说：“责成‘惠安’舰立即查出肇事者和幕后指挥人，送三十五军请解放军严办，以儆效尤。”
“‘杀一儆百’！”林遵不以为然地说：“这是糊涂思想！现在都什么年代了，还要翻这本旧黄历。我们看不惯蒋介石、桂永清那种动不动就抓人杀人的做法，现在解放了，为什么还要随意抓人？”
“事情出在他们身上，而责任在我们身上。”林遵进一步严峻地说：“起义已经两天多了，我们始终没有给他们讲清道理，他们不明真相，他们为自己的前途，为自己的父母妻孥设想，都是合情合理。虽然采取了动刀动枪的手段是错误的，但是最后他们毕竟是听从了我们的劝告。”
“对这件事，我认为，”林遵继续讲：“第一，暂时不要对张部长讲，以免惊动三十五军和麻烦他们。他们不了解我们的情况，处理这个事件肯定有困难；第二，‘惠安’的事交吴建安去处理，我要跟舰长们讲：当长官的要宽宏大量。”
林遵和吴建安一起商量，不管认识觉悟的早晚，所有留下的“二舰队”人员都是起义人员。
国民党海军司令桂永清对“二舰队”舰艇迟迟没有下驶的行动极为重视。而林遵为了迷惑桂永清故意布了很多迷阵，其中包括经请示“三野”同意各舰与“海总部”继续保持电台联络和暂不发布“二舰队”起义消息等措施。
23日午夜，桂永清给林遵来一电报，仍尊敬地称他的别名“尊之兄”，报文说：“只要你能把舰带到上海，任何事情都有商量的余地。”26日“海总部”分别给林遵及各舰舰长来电，命令各舰“即向上海集中”，“否则派机轰炸。”
与此同时，桂永清还动员一些机关人员，以同学、同乡的名义，给个别舰长来电。郭秉衡一人就分别收到了“海总部”训练处长王恩华和作战处长段一鸣的电报，内容相同：万望吾兄速率舰下驶，勿做海军千古罪人。对桂永清一伙的命令和劝说，林遵及各舰舰长都以“机器损坏，正在修理”等种种困难为借口，进行搪塞、周旋，致使桂永清历时三昼夜之久才判明“二舰队”没有按其命令及时下驶的真正原因。
桂永清判明“二舰队”确已起义之后，立即采取了武力威胁的措施。26日9点多钟，三架国民党轰炸机到舰队锚地上空盘旋。各舰都发出战斗警报，炮弹上膛，瞄准跟踪，严阵以待，由于飞机飞得太高，没有开火。敌机也没有投弹，转了两圈就向下游逸去。当日下午，桂永清又给林遵发来电报：限你们在26日子夜通过江阴下驶。届时有空军在江阴掩护，幸勿延误。林遵看完电报，知道这是桂永清的“最后通牒”，随后必将实施轰炸了。他立即和各舰舰长商量，拟定于27日驶进南京港，人员登岸，舰艇疏散；并派戴熙愉到三十五军联系，具体研究各舰疏散方案。
4月27日对“二舰队”官兵来说，是一个不平凡的日子。各舰一清早就开始大清洁。七时正，庄严的红旗升上了各舰的主桅。接着各舰起锚，在“惠安”舰的率领下，二十五艘舰艇列成纵队，浩浩荡荡驶到下关，各自靠上指定的码头。八时整，八兵团司令员陈士榘视察了“二舰队”舰艇。随后，各舰三分之二人员携带轻武器和贵重仪器下舰，其余人员随舰疏散。
疏散锚地分布如下：“惠安”在三叉河附近的头关江面；“安东”在东梁山附近江面；“永绥”在马鞍山附近江面；“吉安”和“太原”在采石矶附近江面；“楚同”在燕子矶附近江面；“江犀”和“美盛”在三江营附近江面；“联光”在当涂附近江面。
28日9时45分，国民党轰炸机6架，飞至南京港江面盘旋一周后，分成两股，分别对在南京港上下游疏散的舰艇实施轰炸。各舰都组织火力反击。“永绥”、“太原”两舰，相距较近，火力较猛，使敌机不敢俯冲投弹，未能命中。但“惠安”和“楚同”两舰不幸被炸沉，“惠安”舰枪炮军士长何友生等六人英勇牺牲。
刘伯承司令员对“二舰队”各舰官兵英勇抗击国民党飞机的行动表示赞扬，并作了高度评价。他说：“‘第二舰队’一经起义就在根本立场上由反人民军队，转变成为人民服务的军队。所以，舰队起义后，国民党飞机就来轰炸，而‘第二舰队’就实行反击。这就表明这个转变。”
但是，野战军首长，司令部坚决贯彻党中央的政策，遵照毛主席的指示，忍痛定下了放弃舰艇，保存舰员的决心。当晚(二十八日晚)三十五军军部通知各舰：“舍舰保人，各舰官兵全部离舰。”
二十九日各舰人员全部离舰。
三十日，敌机炸沉了“吉安”和“永绥”两舰。
五月四日，敌机又炸沉了“太原”舰。
至此“二舰队”起义舰艇只剩“安东”、“江犀”、“美盛”和“联光”等四舰。后来“长治”号起义，“安东”舰又被误为“长治”而被炸沉。
在鲜明的对照下，“二舰队”全体官兵无不痛恨国民党、蒋介石的凶狠残暴，无不感戴共产党、毛主席的宽厚慈爱。有人十分感动地说：以前在国民党那边，桂永清把我们看做草，现在投向共产党了，各级首长都把我们当成宝。从而很多起义官兵对自己的前途都充满了信心。
“二舰队”各舰人员上岸后，都集中在国民党海军总司令部旧址，司令、参谋和军官家属则住在附近的国防二部。
4月30日，林遵同志召集舰长、队长会议，研究并通过了由张家宝、陈务笃两人起草的向毛泽东主席、朱德总司令的致敬电。
致敬电充分表达了“二舰队”起义官兵的心情。全文如下：中国人民革命军事委员会主席、中国人民的领袖毛主席中国人民解放军朱德总司令：
当我们开始走进中国人民解放军的行列之际，请接受我们最诚挚崇高的敬意。
我们是一群被国民党反动政府统治的海军。反动政府曾指挥我们以人民血汗换来的武器，来屠杀争取民族独立、民主自由的人民，保护卖国独裁内战反民的蒋家小朝廷。可是，我们时常想到，用人民血汗建立起来的海军，应该是用来捍卫国家独立与人民民主的，为什么要拿美帝国主义供给的武器，屠杀自己同胞，从事反人民的战争？我们怀疑、思虑、愤怒不平，想到有一天总会找到可能的机会回到人民的阵线，和人民站到一起。
这个期待的日子终于来到了。当人民解放军百万雄师胜利突破了长江，南京国民党反动政府逃窜的时候，我们舰队的舰艇集中在南京东北笆斗山下，二十三日在燕子矶高举义旗，参加了中国人民解放军。
怙恶不悛与人民为敌的国民党反动派，竟于我们起义后，不断驱使空军轮番轰炸，妄想阻止中国人民建立自己的海军。这更加暴露了国民党反对中国独立民主的狰狞面目，更激起了我们的愤怒，更坚定了我们为人民解放事业而奋斗的意志。今后誓愿在中国共产党与人民革命军事委员会和人民解放军华东军区领导之下，贯彻毛主席、朱总司令的进军命令、为彻底推翻在美帝国主义支持下的国民党反动统治，完成新民主主义革命而奋斗；为彻底改造自己，学习毛主席建设人民军队的原则思想作风，学习人民解放军一切优良的政治工作与指挥工作的制度，建立一支人民的海军而奋斗。
第二舰队少将司令林遵
永绥军舰舰长邵仑
楚同军舰舰长李宝英
忠安军舰舰长吴建安
江犀军舰舰长张家宝
吉安军舰舰长宋继宏
美盛军舰舰长易元方
联光军舰舰长郭秉衡
安东军舰副长韩廷枫
太原军舰舰长陈务笃
第五巡防艇队队长杜琛
第一机动艇队队长张汝
暨全体官兵同叩
四月三十日5月19日在南京《新华日报》第一版上刊登了毛主席发给“第二舰队”全体官兵的复电和“二舰队”全体官兵向毛主席、朱总司令致敬电的全文。
毛主席，朱总司令复电的题目是：《中国爱国人民建设自己的海军和海防的伟大意志，不是任何反动残余所能阻止的》。电文如下：林遵将军、邵仑舰长、
李宝英舰长、吴建安舰长、
张家宝舰长、宋继宏舰长、
易元方舰长、郭秉衡舰长、
韩廷枫舰长、陈务笃舰长、
杜琛队长、张汝队长和
第二舰队的全体员兵们：
庆祝你们在南京江面上的壮举。你们率领二十五艘舰艇，毅然脱离反动阵营，参加到中国人民解放军的大家庭来，这是值得全国人民热烈欢迎的行动。在巡洋舰“重庆”号于二月间起义并被国民党反动派于三月间炸毁以后，四月间又有你们的大规模起义，可见中国爱国人民建设自己的海军和海防的伟大意志，不是任何反动残余所能阻止的。希望你们团结一致，学习人民解放军的建军思想和工作制度，并继续学习海军技术，为中国人民海军的光明前途而奋斗。
毛泽东
朱德
一九四九年五月十八日
毛主席、朱总司令亲切的复电，给了起义官兵以巨大的鼓舞。
在这之前，5月11日下午五时，“二野”司令员刘伯承同志，根据党中央的指示，在原国民党“总统府”接见林遵同志、全体起义舰长和队长以及其他军官代表。接见时，刘伯承作了内容丰富、言词生动的讲话。他说：“中国现在只有两种军队：一种是帝国主义者、官僚资产阶级、封建阶级领导的反人民的军队；一种是无产阶级领导的人民大众的反帝国主义、反官僚资本主义的军队。……‘第二舰队’一经起义就在根本立场上转变成为人民服务的军队……。”
刘司令员最后说：“起义官兵一方面要认识过去曾是反人民的工具，另一方面要加强为人民服务的意志。因此，起义官兵要努力学习毛主席的建设人民军队的思想，为建设人民海军而奋斗！”
接见后，刘伯承同志和大家一起合影留念。随后“二野”司令部在龙门酒家，盛宴招待上述干部。当晚，“二野”政治部又举办了文艺晚会热烈欢迎“二舰队”全体官兵。这些欢迎活动都增添了他们起义的光荣感。
最令他们难忘的是1949年8月28日，毛泽东主席、朱德总司令和周恩来副主席在北京中南海分别亲切地接见了林遵同志等原国民党梅军高级军官。接见时华东军区海军张爱萍司令员兼政治委员在座。
周副主席对林遵说：“你们的起义协助解放军解放了南京。”
朱总司令也对林遵说：“这是正义的行动。”
8月28日下午，毛主席在一座小平房里同林遵等同志作了亲切的谈话。毛主席语重心长地说：
“我们人民军队白手起家，从无到有，从小到大，经过了大革命，八年抗战和三年解放战争的锻炼，今天已经发展成强大的陆军部队。其所以不仅没有削弱，而且能战胜国内外敌人，主要是人民军队是人民的，军队是人民的代表。我们依靠人民，为人民服务，人民拥护我们。所以三十年来，我们不仅没有被消灭。相反地，击垮了所有的强大敌人，最后解放全中国。”
“但是，我们空军还很年轻；海军根本没有。因此，对原国民党海军的起义和归顺，我们很欢迎。一些舰艇被炸了，同志们很难过，这种感情是好的；但是不要紧，只要有了人，问题就能解决。中国地大物博，我们一定能够把海军建设起来。”
“你们有科学知识，有技术，我们新海军(指从人民解放军陆军调来的同志)要向你们学习；人民解放军有优良的政治工作和战斗作风，你们也要向新海军学习。新老海军要团结，互相学习，共同为建设强大的人民海军而奋斗！”
接见后，毛主席还为海军亲笔题词：“我们一定要建设一支海军，这支海军要能保卫我们的海防，有效地防御帝国主义的可能的侵略。”党中央领导同志毛泽东、朱德和周恩来的接见和谈话温暖了林遵同志的心。消息传到南京，“二舰队”起义官兵无不欢欣鼓舞。他们相信，有了这样英明伟大的领导，新中国、新海军的建设和个人的前途都充满着希望，都闪耀着光辉。他们怀着建设强大人民海军的壮志，走上了人民海军各个战斗岗位。
中国人民解放军第三十五军司令部给原国民党第二舰队司令林遵的一封信。下面是信的全文。
林司令鉴：
来函敬悉。展阅之后，甚为兴奋，我们以万分热诚，向你们表示欢迎。贵舰队所走的这条路，是完全正确的，必须为建设人民的新海军而努力前进。
为圆满解决此项问题，请你今晚十二时到南京励志社来找我们，一切问题面商解决。
顺祝
胜利
军长吴化文
政治委员何克希
副政治委员张雄
政治部主任孔繁彬