7年12月29日，北方议和代表团朱启钤、吴鼎昌、王克敏、施愚、方枢、汪有龄、刘恩格、李国珍、江绍杰、徐佛苏等十人由北京动身南下。而南方议和代表团唐绍仪、章士钊、胡汉民、缪嘉寿、曾彦、郭椿森、刘光烈、王伯群、彭允彝、饶鸣銮、李述膺等11人也于8年1月25日到达上海。
上海和会是8年2月20日上午开幕的，旧德国总会会场这天布置一新，南北总代表各引所属代表鱼贯入场，相对而坐，秩序雍容。其实双方代表多为旧识，如今相聚一堂，各有不同心情。
开会后先由南方总代表唐绍仪致辞说：
“国内战争至今日告一结束，但推厥祸源，外力实有以助长之，旧武人派苟不借助外力，则金钱无自来，军械无从购，兄弟阋墙早言归于好矣。何至兵连祸结，延至今日，使人民痛苦，至于此极。今北方已经觉悟，开诚言和，舍旧谋新，请自今始！”
北方总代表朱启钤也接着致辞说：
“民国成立以来，国家政权多握于武力派之手，故战争纷乱，迄无宁岁。迩者时势所趋，潮流所迫，将化干戈为玉帛，换刀剑以赎牛，一切干羽戈矛，皆应视为过去陈旧之骨量。从此战争当无从再起，和平统一，请视诸斯！”
南北代表致辞后，双方全体代表遂起座向国旗行礼，并欢呼中华民国万岁，和平统一万岁！然后进茶点，略作寒暄而散。
21日正式开会，南方总代表唐绍仪首先提出陕西停战问题，双方共同推定了久居陕西的山西人、旧国会议员张瑞玑到陕西监督停战。北方总代表朱启钤承诺立即电告北京政府切实办到陕西停战，如果不能办到，北方议和代表愿意全体辞职以谢国人。双方代表决议催促张瑞玑兼程赴陕执行监视职权。22日唐绍仪又提出停止参战借款，取消参战军和宣布中日密约等问题，朱启钤也承认电达北京政府请示。朱的态度颇为迁就，使得北方代表中的安福系分子大为不满，认为朱的意见不能代表全体，这是安福系暗中阻挠和议的第一步。
在和会开始时，西方外交团向北京政府质问：为什么世界战争已经停止，中国还要招募参战军？是不是用以对内作战？22日北京政府答复外交团说：中国已经进行和议，不会再有内战。
徐世昌借了外交团有压力，劝段将参战军移交陆军部管辖。段不置可否，因为陆军总长靳云鹏也是段系的大将，不过段的另一位大将徐树铮则表示反对。靳和小徐都是段手下四大金刚之一，正因为他两人势同水火，所以徐世昌便拉拢靳来对付徐树铮。
这时候，徐世昌曾拟就一套裁兵计划，为什么裁兵呢？因为全国军队有138万人，军费占去国家财政收入的五分之四，这种负担，对任何一个政府都是制命的危机。所以徐的计划是在和平实现后，统一的中国即向国际银行团借款裁兵，把全国军队缩减为50万人。裁兵完成后，进一步实行军民分治，军人不得兼任省长。这个计划既可减少军费支出，又足以削弱地方军阀的权力，加强中央政府的控制。
徐树铮毕竟足智多谋，他针对徐世昌的计划，向段献策，提出“保存参战军用以监督裁兵”。这样既可以拒绝南方取消参战军的要求，又免外交团的责难。段和小徐就用这个理由来拒绝交出参战军。其实这简直是强辞夺理，掩耳盗铃，不过这也是唯一可以借口的。
南方代表要求停止继续参战借款，段当然也不肯答应，徐世昌无力反对。因此，北京政府以财政困难，军费无着为理由拒绝了南方的要求。
上海和会的实现，江苏督军李纯的促成关系很大。北方总代表赴上海时，曾先到南京拜望李纯，怎知李纯在送客时竟跌了一跤，把背脊跌伤，养了十天才告痊愈。李纯为和平奔走，历时一年多，受尽了骂，吃够了苦，到和谈要开始时，还要他受切骨之痛。
至于陕西方面有没有停战呢？由于南方代表和陕西靖国军方而没有直接的联络，陕西靖国军和南方代表通消息只能用快邮寄递，唐绍仪在2月下旬所接到靖国军的报告还是1月上旬寄邮的。根据这些报告北军管金聚部由凤县攻占宝鸡，继续向凤翔进攻；陈树藩部集中武功，奉军由潼关、吊桥移向兴平、武功，刘镇华的镇嵩军则进攻盩厔；张锡元部则进攻渭南。这证明徐世昌虽然下过停战命令，但是陈树藩部阳奉阴违。而段祺瑞则继续透过参陆办公处调兵遣将。
2月25日唐绍仪因为陕西战争并未停止，所以向北方代表团提出严厉的质询，要求撤换反停战协议、破坏和平的陕西督军陈树藩。26日唐绍仪又接到靖国军1月中旬的报告靖国军在北军强大的攻势下，先后退出乾县、盩厔、郿县、扶风。同时北军还向凤翔、岐山、蒲城、富平进攻。南方代表团大为震动，乃宣布北方不履行停战诺言，从26日起停开正式会议，改开谈话会。同时郑重向北方声明，在北京政府未撤换陈树藩以前，不讨论其它案件。
就在这个时候，湖南善后协会也派出代表文鹿鸣、傅纯根到上海来向和会请愿，要求迅速撤换恶名昭彰、杀人放火的湖南督军张敬尧。他们在南北代表面前泣诉张敬尧的第七师在湖南的暴行，代表们无论南北，都为之感动。于是属于南方的湘籍代表充满了愤怒地提出撤换张敬尧的要求。
在和谈期间，北京政府正在发行“民国八年短期公债五千六百万元”，南方代表怀疑北京政府利用和谈为缓兵计，以筹措战费继续用兵，因此大为反对。
28日，北京政府提出了四个文件给上海和会，这些文件都是由于南方代表要求废止中日军事协定，所以北京把这资料提供和会参考和审查，四个文件是：
（一）中日军事协定文书。
（二）中日陆军共同防敌协定。
（三）中日海军共同防敌协定。
（四）解释欧战终止日期的补充文件，这一个文件是参战处参谋长徐树铮和日本代表乙东彦签订的。根据这个文件，中日两国的军事协定，要到中日两国批准对德和约时，战争状态才算终止。
段和小徐想用战争终止日期的拖后来拒绝南方提出废止中日协定。日本人当然愿意继续中日军事协定以达到侵占中国利益的目的。
2月28日，南方总代表唐绍仪在和谈的谈话会上向北方摊牌，他提出了三点质问：
（一）为什么陕西战争不但没有停止，反而北军还大举向靖国军进攻？
（二）为什么参战军不取消，反而大加扩充？
（三）中日军事协定尚有附件没有看到，北京政府不但无意废止这个协定，竟反而延长了这个协定的有效期？
唐绍仪很严肃地对北方代表表示，这三项问题请北方代表在48小时以内答复，不得拖延。同日，南方代表把一个节略送给外交团。
3月2日北方代表团因为北京没有回电，无法向南方代表团答复，只好向北京政府提出总辞职，因此上海和会遂正式宣告停会。
上海和会从2月20日到3月2日进行了11天，其中正式会议只开过五天，双方所谈问题可以用毫无进展四个字形容。
南方代表在停会后通电全国，有云：“陕西停战与参战军停募两事，证明北京政府一面言和，一面主战，此非谋和无诚意，即其威信不行，有一于此，和必无幸。”又说：“北京政府正发行八年公债五千六百万，向银行抵借，以二千万为各省军费，一千万归参战军。此案未经国会通过，不能承认。”
北京政府接到北方代表总辞职电，乃复电慰留。3月3日徐世昌重下陕西停战命令：
“陕西兵燹频年，疮痍满目，眷言民瘼，轸念殊深。亟应促进和平，早谋安集。前由国务院依照协定办法，通饬停战划防。已派张瑞玑驰往，监视区分，务在一律实行，克期竣事。各该将领，自应共体斯意，恪遵办理，倘或奉行不力，职责所在，不得辞其咎也。此令。”
陈树藩并不遵令，南方总代表唐绍仪且得于右任亲笔书函谓：
“陈树藩密奉参陆处电文，促令进攻，故北京运陕军械，或由参陆处或由汉阳兵工厂，次第出发，络绎不绝。”
全国对和会停止都很关心，抢救和会之声四起，有些团体提出要派代表监督和会进行。
可是南北双方都指责对方应负和会停开的责任。南方指责北方无和平诚意，北方则指责南方别有用心，并举出在和会召开前南军将领林葆怿、熊克武、于右任等分别就任闽、川、陕三省督军的事实作为南方无意谋和的证据。钱能训在通电中指责南方代表不应以对待敌国的最后通牒手段来对待本国政府，并说陕西战争已停，南方代表不应该偏听于右任的一面之词。
3月12日，陕西停战监督专员张瑞玑由北京启程，前赴西安。14日北京政府和日本政府同时公布了中日军事协定全文。北京政府认为这两个关键性的问题已经有了交代。希望南方代表恢复和会。但是14日南方代表发表第二次宣言，认为陕西战争并未停止，参战借款仍在支取，参战军仍在迅速扩充，中日军事协定时效延长，这都是对和谈无诚意的证据，因此和会重开无从谈起。
上海和会期间，各国驻华公使都密切予以注意，保持审慎的关怀。当和会中断时，西方国家极为不满。3月4日英国驻华公使朱尔典赴公府谒徐世昌，劝告恢复和谈，徐很诚挚地答复朱尔典说：“我们都是廿年的老朋友，彼此都是六十岁以上的人，贵公使一定相信本人盼和的心理最切。”5日法国驻华公使柏蒲谒徐时表示两点愿望，他希望第一中国政府勿因陕西局部问题而阻碍全局，第二希望中国国内和平和世界和平同时实现。尤盼能先在欧洲和约签订前实现。
西方外交因本打算联合五国提出第二次强硬劝告，可是日本驻华公使小幡借口未奉到本国政府训令，不肯参加。因此3月6日美国驻华公使芮恩施、英国驻华公使朱尔典、法国驻华公使柏蒲、意国驻华公使华雷联袂赴中国外交部谒见外交次长代理部务的陈箓，申述西方各国对中国和平的迫切愿望，劝告中国政府早日恢复上海和会，不要提出参战借款，不要将参战军投入内战。同时抗议北京政府，不应以盐税余款抵押八年公债。
这时候，段祺瑞的内外环境都很不利，他曾向徐请辞参战督办，徐又不敢贸然答应。3月6日时局的关键人物吴佩孚致电南方总代表唐绍仪，他指出和会破裂是由于某派（指安福系）作梗，东海（徐世昌）受困，威信不行，切望共谋良策，破除障碍，以维和局。
江苏督军李纯拟定了五项具体办法望各方立即施行，俾早日恢复和谈，且据此于2月6日通电全国，电云：
“万急。北京国务院、各部院、广州军府各总裁、保定曹经略使、各省巡阅使、督军、省长、都统、护军使、海陆军各司令、南京朱总代表暨代表诸公、上海唐总代表暨代表诸公、永州谭组庵两先生、衡州吴将军均鉴：近月以来，和平空气，布满全国，因善后之解决，有会议之盛举。既经中央复准，各方赞同，双方各推总代表，亦均先后分莅宁沪。惟以中央颁布停战罢兵令，广东军府亦通令停战罢兵，各省虽皆奉行，而陕、闽、鄂西等处，尚有纠葛。经多次之协商，定简捷之办法：（一）陕、闽、鄂西双方，一律严令实行停战。（二）援闽援陕军队，即停止前进，担任后方剿匪任务，嗣后不再增援。（三）闽省、鄂西、陕南，由双方将领，直接商定停战区域办法，签字后各呈报备案。（四）陕西省内部由双方总代表公推德望夙著人员，前往监视区分。（五）划定区域，各担任剿匪卫民，毋相侵越，反是者国人共弃之。以上五条，均陈奉中央允准，电得广州军政府同意，即日双方通令，按照实行。所有陕闽等问题，指日解决，会议即可进行，知关尘念，特此布闻！”
北方总代表朱启钤也以私函给在陕闽的陈树藩和于右任，劝两边停战，以促成和谈重开。
北京政府既不能战，又不能和，3月30日下令劝告和会重开，措词虽极审慎，南方代表为之大哗：“议和岂能以命令行之？”北京政府又想与西南实力派的陆荣廷、唐继尧单独媾和，当然也不能成为事实。外交团频频向徐催促续开和会，徐痛苦地说：“我一个人想和，和得了吗？”
自3月25日起，上海和会派赴西安监督停战的张瑞玑，由西安来电，报告陕西停战划界业已实现。张瑞玑是山西人，在陕西住过很久，是旧国会议员。此次出任陕西停战监督专员，是由南方代表所建议，他于3月12日从上海动身，22日抵达西安。抵西安后被陈树藩所收买，竭力为陈辩护，说陈未进攻陕西的靖国军，因此引起了南方代表的严重不满。
由于李纯的敦促恢复和谈，张瑞玑的陕西已经停战的电报4月1日到达上海，遂使和谈谈话会于4月7日恢复，从停开到恢复已过了37天。4月9日恢复正式会议。
和谈正式恢复后，南北双方代表都同意一项意见，为了避免来自各省人民团体的干预，南北双方代表相约不公布会议的内容。于是上海和谈变成了“扃门会议”。
南北双方代表同时决定把双方所要提出的问题，完全提出来，逐一谋求解决途径。
南方的条件是：取消中日军事协定，裁撤参战机构及其所属部队，停止继续支用参战借款，国会自由行使职权，善后借款南北分用，军政府所颁法令均应认为有效，湖南、陕西两省的善后问题。
北方的条件是：全国裁军方案“全国兵额规定为50师”，军民分治，地方自治，发展国民经济，进行善后借款。
国会问题是双方争论的焦点，南方标榜护法，广州军政府的政务会议确定“坚持维持法治”的最高原则，如果不恢复被非法解散的国会，南方的护法岂不变成空谈，如何能向国人交代，所以解散安福国会是在法统上必争的问题。可是安福国会已经不是段祺瑞一系的工具，也是徐世昌取得总统的法律根据，如果取消了安福国会也就取消了徐世昌的总统地位，所以尽管徐段之间对和谈有距离，有矛盾，可是在维持安福国会问题上，态度是一致的。当北方总代表朱启钤启程南下时，曾谒徐请示哪些条件可以接受和让步。徐答：“除了国会问题外，一切问题都可让步。”所以从表面上看，法统和法治问题是和谈的焦点。
不过，当时的南北双方都不重视“法”，南北军人所真正争的，还是权利、地盘、财富。所以国会问题并不真是和谈致命的焦点。因此李纯提出一个解决的方案，把民国6年国会被解散以前的宪法会议恢复，由旧国会议员在南京召开宪法会议的三读会，完成制宪过程，并且通过追认徐世昌为总统，然后公布宪法，解散南北两国会，根据宪法规定的国会组织法与国会议员选举法，进行选举，召集新国会。李纯的方案获得徐世昌的同意。这方案情理法都能顾到，既符合南方“维持法治”的要求，又保全徐世昌的总统地位，南北两国会则同归于尽，是个各进五步，各退五步的两全其美方案。
李纯这方案安福系是无法接受的，在北方代表团中，有安福系分子参加，他们就把李纯方案电告北京的安福国会。段和安福国会获知这个方案，为之大哗。4月12日，北京安福系总部根据北方代表方枢发来的密报，召集紧急会议，讨论对策，到会者一致痛斥徐世昌和钱能训出卖北方的行为。于是与会人士中有人主张撤换北方总代表朱启钤。有人则主张先推翻钱内阁。段祺瑞的重要策士曾毓隽则大骂徐世昌记恩负义，主张对总统提弹劾案。最后有人提议先礼后兵，推参议院议长李盛铎（这时梁士诒已辞去参议院议长，议长一职由李盛铎继任）去见徐，质问徐为何同意出卖北方的方案。同时安福国会参众两院同时邀请全体国务员出席答复质问。另一方面段计划召张作霖、倪嗣冲等到天津再举行一次督军团会议，准备向徐正式开火，但是曹锟反对，曹锟借口说在天津会议，将引起外交团出面干涉，才把这个会议孕死腹中。
徐世昌、钱能训在安福系愤怒地攻讦下，极口否认有取消安福国会的意图。
北京方面的激荡，使北方代表在上海不知所措，因为他们不知道从何谈起，向北京请示则得不到答复，在这种情形下，“扃门会议”也无可讨论，因此，从4月29日起，北方代表们只好全体称病，不出席会议，于是上海和会再度进入一个停顿时期。
在4月9日，以林葆怿、莫荣新领衔的西南全体将领曾经发出一个军人不干政的联名电报。北京参谋总长张怀芝、陆军总长靳云鹏首先通电赞成，接着曹锟、张作霖、倪嗣冲、王占元、张敬尧、田中玉等都一致响应。张作霖通电中说他拜读了这个佳电，不禁拍案叫绝。这是自有南北战争以来，南北军人从来未有的一次合唱。以前他们是“电战”，现在则是“电和”。军人造成民国的混乱就是干政，现在他们竟发誓赌咒说不过问政治了。这是因为北洋军阀想在上海和会形成僵局后，企图放弃公开议和，而想暗中和西南军阀秘密议和或局部议和的花招。
5月6日山东问题在巴黎和会失败，以及五四的大风暴，使南北代表有一致对外的需要，所以恢复了正式会议，可是会议仍毫无进展。5月13日南方总代表唐绍仪提出了八个条件：（一）绝对不承认巴黎和会处理山东问题的决议；（二）取消中日一切密约，并严惩缔约有关人员；（三）取消参战军或国防军；（四）撤换声名狼藉的督军；（五）和会宣告民国6年北京政府解散国会的命令无效；（六）和会选出全国知名人士组织政务会议，监督执行和会决议，至国会完全行使职权之日止；（七）和会已决未决之案，分别整理决定。（八）以上七项如得北方同意，则由和会承认徐世昌为临时大总统，执行总统职权至国会选出正式大总统之日为止。北方总代表朱启钤要求南方代表先撤回第五条，其余的从长计议，可是南方代表认为没有讨价还价的余地。因此和会再度破裂，南北代表都宣布总辞职，于是上海和会终告结束。