种种不顺，让考察团内人心浮动，林子峰等人相继辞职归国。考察团秘书翁之熹因为家里有事也微露辞意。翁之熹系徐树铮在西北军时期的幕僚，曾随他做“荒沙万里行”，一同出使过外蒙古库伦。考察期间，翁之熹奉命每天为徐树铮写起居注，徐树铮准备以此为基础，回国后写一本视察记，以便与他以前写的《建国铨真》相互印证。
徐树铮见翁之熹也想走，不由大怒，说：“子峰可行，你不可行。若大家不想干，大家卷铺盖，我专使亦可不做了！”
林子峰回国前，徐树铮在巴黎皇家饭店为其饯行。饭店内灯红酒绿，一名红衣少女频频为客人起舞。徐树铮触景生情，即席写诗一首赠予翁之熹，诗中有“天涯风雨故人情”一句，劝对方打消辞意。
尽管徐树铮的赠诗令翁之熹颇为感动，但眼看着众人纷纷离去，在考察团内也几乎看不到什么出路，他仍然还是提出了辞呈。
翁之熹走后，徐树铮一行即动身前往德国。当时盛传徐树铮是奉北京政府之命与德国签订秘密条约，在德留学生对此极为愤怒。徐树铮到德国后，即打算召集留学生开会，以说明情况。
中国驻法公使陈箓一听，急忙劝止，说：“留学生年纪轻，什么都不懂，到时一定会有不利于专使的举动。专使身处国外，只身无护卫，使馆内也缺乏保安人员，千万不可尝试。”
徐树铮回答：“留学生读书必明理，我以理导之，有什么可怕的？”可是陈箓就是不肯让他出面，说着说着还跪下了。徐树铮见状，只得放弃了这一计划。
在德留学生听说徐树铮已到德国，立即包围了公使馆，要求陈箓交出“卖国贼”。陈箓不敢出来交涉，仅派门卫阻拦，说：“公使赴宴未归。”
留学生们哪有这么好糊弄，立即做出要群殴的样子，把门卫和保安都给吓跑了。他们冲进公使馆，正要登楼，陈箓的夫人上前拦住，对他们说：“公使不在楼上，你们想干什么？这里是我的寝室。”
众人愕然止步。突然有一个学生冒出惊人之语：“今日之事，国家大事也，怎能以男女之嫌，而置国事于不问？”说着，居然就跑上前去，强行把陈夫人推到了门外。
学生们蜂拥而入，到处搜寻，最后在盥洗间把吓得哆哆嗦嗦的陈公使给找了出来。问他要徐树铮，陈箓可怜巴巴地说：“现在我自顾不暇，还能包庇别人吗？徐树铮确实不在这里，而且我也不知道他去了哪里。”
有人出了个主意：“请公使以电话把他召来，千万不要说我们在这里。”陈箓坚持说：“确实不知道他在哪里，不过我可以担保徐树铮绝无卖国行为。”
相持了四五个小时，陈箓说得口干舌燥，而学生们仍无退意。在万不得已的情况下，陈箓提出：“我立据担保如何？”
得到众人同意，陈箓执笔写道：“陈箓谨以身家性命，担保徐树铮君此次来德，确无卖国行为。”写完之后，他还被迫在上面按了指印，众人这才散去。
徐树铮得知这件事，只得匆匆离开了德国。
考察团一共考察了十二个国家，最后一站是美国。当他们抵达美国的时候，中国国内政局已开始发生动荡，段祺瑞顾及徐树铮的安危，屡次发电报叫他暂缓回国。可是徐树铮觉得恰恰是这个时候，段祺瑞才更需要他出力，因此到美国不久，即取道日本回到了上海。
自江浙战争之后，江浙的局面已为孙传芳所完全控制。孙传芳是直系中的新兴力量，也是继吴佩孚之后最为善战的直系将领。虽然在江浙战争时，他曾与徐树铮为敌，但时过境迁，直系已对段祺瑞表示“拥戴”，反而奉、冯两方由过去的反直盟友变成了段的肘腋之患。
孙传芳与奉、冯都没有密切联系，而且他和徐树铮还是士官学校的同学。徐树铮便借着这层同学关系，与孙传芳进行联络，希望运用孙传芳的力量来改变段被奉、冯夹击的尴尬处境。
完成与孙传芳的联络，徐树铮就准备进京述职，同时把与孙传芳商量的一些办法提供给段祺瑞。可是接到他的电报，段祺瑞却马上复电劝止他来京，认为北京形势对他可能不利。