日本人一撒娇，主导和会的大国立即做出让步。1919年4月30日，美英法三巨头拟定《凡尔赛条约》三条款，决定将德国在山东所夺取的权利全部让与日本。
中国对于恢复山东主权的要求理所当然遭到了拒绝。在这种情况下，陆徵祥也考虑过不签和约，将来与德国直接进行交涉，可是他又对此没有把握，于是便致电北京征求意见。
外交委员会召开紧急会议进行商讨，商讨的结果是不签约。随后外交委员会委员长汪大燮、事务长林长民前往总统府，将拒签电稿呈交徐世昌。徐世昌看完表示同意，遂令国务院将电稿拍发给代表团。
可是国务院的意见却与外交委员会相左，第二天就密电代表团签约。国务院电报处正好有一个林长民的同乡，他发现后便偷偷地跑去把这一情况告诉了林长民。
汪大燮、林长民闻讯大怒。汪大燮命令即刻结束会务，并亲自写下辞呈送交徐世昌。林长民则密电正在法国的梁启超，请他通知巴黎的中国留学生，组织起来对签约进行反对。
做完这些后，汪大燮仍觉得声势不够，尤其是作为总统的徐世昌面对他的辞呈未再做任何表态，说明其意见已与国务院一致。
正在感到焦虑，有人对他说：“北大学生本要游行，何不去告诉蔡先生？”
蔡先生指的是北大校长蔡元培。他已经获悉了巴黎和会拒绝中国要求的消息，为此召集学生代表，指出这是国家存亡的关键时刻，号召奋起救国。学生代表们于是决定举行游行示威运动，日期定于5月7日的“国耻纪念日”——正是在四年前的这一天，日本政府向中国发出了关于“二十一条”的最后通牒。
汪大燮听后，即坐马车前往蔡宅，将政府主张签约的事告诉了他。蔡元培于当晚在自己家中召集学生代表开会，会议决定将游行日期提早三天进行。
5月4日下午，北京大学联合北京各高等学校学生，云集于天安门附近举行示威游行，近代史上有名的五四运动开始了。
在钱能训内阁中，大部分阁员为段内阁的旧人，其中的交通总长曹汝霖、币制局总裁陆宗舆、驻日公使章宗祥，都曾是对日借款的经手人，游行学生同时要求对这三人进行惩办。
撇开曹、章不谈，段祺瑞对陆宗舆的印象其实并不好。他有一次曾说陆不是一个好人，别人问为什么，他的回答倒也颇有趣味：一打牌，就能测出来了。
陆宗舆是段公馆牌桌上的常客。打麻将的时候，别人都把票子放在桌上，他却把钱放在自己衣袋里，等到输了，才慢吞吞地一个子儿一个子儿摸出来。段祺瑞以牌品论人品，觉得陆宗舆很不男人。
等到陆宗舆遭到声讨，有人就问段祺瑞：“陆既是坏人，老总（指段祺瑞）过去为什么要重用他呢？”段祺瑞的回答颇有些耐人寻味：“项城（袁世凯）重用他，我未曾重用他。”
对段祺瑞而言，向日本借款是利用日本人，反正以后也没打算偿还，而帮他办理这桩事的政府要员，其作用也仅限于此，所以算不上是重用。
某种程度上，曹汝霖、陆宗舆、章宗祥只是做了段祺瑞其实并不想做，但又不得不做的一件事。现在段祺瑞下了台，他们还在台上，也就活该要倒霉了。
五四运动爆发时，传说曹、陆、章三人正在曹家开会，学生们便直接冲向了曹汝霖的住宅赵家楼。
曹汝霖和寄住在他家的章宗祥见学生来势汹汹，急忙四处躲藏。学生破门而入后，没找到人，刚好看到有一箱火油，便纵火焚烧赵家楼。章宗祥见屋内火起，急忙从藏身处逃出，不料与学生撞个正着。学生以为他是曹汝霖，立即一拥而上，饱以老拳。章宗祥顿时被打得遍体鳞伤，不省人事。
据说当时赵家楼内有几十个武装警察，但看到学生冲进来后根本不敢阻止。直到学生纵火，军警赶来灭火，才逮捕了36名来不及逃散的学生。
这就是五四运动的开篇“火烧赵家楼”。在此之前，蔡元培曾让学生代表转告学生，要求游行过程中严守秩序。“火烧赵家楼”之后，他一面递交辞呈，一面与其他大学的校长一起前往警察总监处具保，要求释放被捕学生。
由于释放要求未能得到满足，国民外交协会决定在5月7日到中央公园召开国民大会。国民外交协会与外交委员会同时成立，当时为的就是与外交委员会相互呼应。该协会共有会员百余人，其中有不少各大学的学生和西南代表。
5月7日晨，外交协会秘书梁秋水从中央公园门口路过时，发现园门已经关闭，门外有十余个武装警察，架着机枪。显然，政府已经掌握开会的消息并预先做了防备。
梁秋水到会所后，又有三十余个武装警察进来，把院子都占满了。问他们所为何来，对方称奉卫戍司令部警察总厅命令，禁止协会在公园开会，若不遵命就逮捕会员，封闭会所。
梁秋水马上问他们：“司令部和警察厅是日本机关，还是中国机关？”
警察们老实作答：“是中国机关。”
又问：“诸位薪饷是日本的钱，还是中国的钱？”
答：“是中国的钱。”
再问：“诸位知道我们今天为什么要去公园开会？”
“不知道。”