耶路撒冷陷落的消息震撼了整个欧洲。得知传闻后的几天内，教皇乌尔班三世（Urban Ⅲ）就因为过度震惊而逝世了。119人们纷纷咨询巴黎和牛津的神学家：这是否是末日浩劫的开始？但值得惊讶的是，这件事本来一点都不值得惊讶。耶路撒冷王国陷入绝望的迹象已经持续了好些年，却被西方解读为过度修辞和渲染恐慌。人们总是愿意无限制地相信船到桥头自然直，这种便利的借口让他们轻而易举地忽视了即将降临的灾难发出的警报。
而此刻，基督教世界的无知已经暴露无遗。第一代十字军凭借着信仰的力量，付出了惨痛的代价才收复的圣城，如今又一次失去了，是这一代人的贪婪和伪善抛弃了它。西欧的君主们多年来故作虔诚，屡次谈论新一轮东征的必要性，但甚至没人提出过哪怕一个最基本的计划，这点如今显得尤其难堪。
这主要是因为西欧君主们和往常一样，忙于互相攻击。英格兰国王亨利二世忙于处理儿子们的叛乱，而他们却得到了法国国王腓力二世·奥古斯都的积极帮助。另一位统治者德意志皇帝腓特烈·巴巴罗萨则违背教皇的意愿，在意大利北部用兵，同时镇压着帝国边境的反抗。他们实在是太忙了，以至于东征的想法只能停留在口头上。
耶路撒冷的陷落，以及基督教最神圣的圣物真十字架的毁灭，改变了这一切。震撼来得太过猛烈，以至于最心机深重的君王也意识到了自己对于信仰的责任。乌尔班三世的继任者格里高利八世只花了9天，就发布了一份号召东征、呼吁全欧洲停战7年的正式声明。亨利与他的儿子们言归于好，几个月后法国人也停战了。亨利和腓力都佩上了十字标志，宣誓在1189年复活节起程前往耶路撒冷。
尽管两位国王参加东征的消息令人振奋，但腓特烈·巴巴罗萨决定加入则更加激动人心。这位神圣罗马帝国的皇帝如今是欧洲最具权势的人物，很多教皇和国王都在他手下吃过亏。1188年的他尽管已经年近七十，却仍然肩宽胸厚、四肢粗壮。他著名的红胡子如今已经白得差不多了，但洪亮的声音和暴烈的脾气一如往昔。120
东征的号召深深触动了这位老皇帝。作为参与过第二次十字军东征并吞下失败的老兵，他对十字军国家面临的威胁有着亲身的体会。尽管二十多年来他一直承诺帮助东方改善局势，最终却没能做到，这个遗憾沉重地压在他的心口。在1188年美因茨的特别会议上，皇帝宣布了远征圣地的打算。
与其他欧洲的国王不同，巴巴罗萨很清楚这种大规模的远征需要什么。因此他的部队在筹备程度、物资供应和训练水平上，都是历代十字军中的翘楚，而他的军队规模也是空前的。根据同时期的记载，腓特烈准备了近10万名士兵，几乎是参加第一次十字军的人数总和。
腓特烈皇帝有力地彰显了自己的虔诚，这样强悍的军队也不能随便挥霍。第二次十字军东征中，德意志军队在穿越小亚细亚时被杀得片甲不留，这段经历给巴巴罗萨留下了深刻的印象。他意识到保护安纳托利亚的进军路线至关重要。因此他还没踏出国门，就给前往巴勒斯坦途中的每一个主要的统治者派了使者。在恩威并施之下，安纳托利亚的土耳其人甚至承诺保证德意志人的行军安全。
作为一名充满骑士精神的统治者，巴巴罗萨在出发前做的最后一件事是给萨拉丁写信，告知他自己的计划。他笃定地告诉苏丹，虽然自己年岁渐增，但发动战争的能力丝毫没有减弱，他命令对方在一年之内撤出圣地，否则后果自负。
萨拉丁的回复同样礼数周到。他欢迎皇帝的光临，同时不经意地指出穆斯林的援军不需要横跨大海。叙礼已毕。1189年5月11日，腓特烈带着儿子和大部分上层贵族，离开雷根斯堡踏上了征程。
士兵们的愉快心情在踏上拜占庭的领土后很快消散了。巴巴罗萨曾与帝国商定，让他们开放专用市场，为军队提供补给，但他们到了以后，这些市场并没有出现。更糟的是，当地的拜占庭士兵毫不掩饰地骚扰着十字军，拦住对方的行进路途，还试图攻击掉队者。巴巴罗萨愤怒地给皇帝写信，要求对方要么兑现承诺，要么承担被攻击的风险。
纠纷的源头不难找到。拜占庭人一直对经过领土的大军保持着警惕，即使是那些自称的盟友。他们尤其在防范德意志人，因为巴巴罗萨在出发前与西西里的诺曼人结成了联盟，而后者乃是拜占庭多年来的老对手。然而，更令他们不满的，是巴巴罗萨的称号。
拜占庭帝国可能正在持续衰弱——老皇帝曼努埃尔·科穆宁在9年前逝世，新皇帝伊萨克二世·安格鲁斯是一个怯懦的人——但他们仍在奋力维护自己的威信。伊萨克二世坐的皇位依旧是君士坦丁大帝坐过的，因此他认为自己是真正的罗马皇帝。只有他才能享有屋大维在大约12个世纪以前缔造的政治地位。在他看来，天堂只有一个上帝，人间也只能有一个帝国，那就是神授的罗马帝国，而他就是帝国的主人。
然而，腓特烈·巴巴罗萨坚持自称“罗马皇帝”。这个自负的称呼由来已久。德意志君王统治的“西罗马帝国”121，是教皇与查理曼在400年前创造的暧昧概念，他们觉得自己有资格被称为皇帝。但对于拜占庭人来说，采用“罗马”头衔对他们的冒犯绝不止一点。世界上只能有一个真正的罗马帝国。如果腓特烈·巴巴罗萨是罗马皇帝，那伊萨克·安格鲁斯就不是了。
为了解决这个棘手的问题，两国过去在外交上都绝口不提对方的头衔，但巴巴罗萨对外交的兴趣不大。当伊萨克派出使者要求交涉时，巴巴罗萨表示没什么可以谈的，除非对方称他为“皇弟”。可想而知，伊萨克拒绝了，还把德意志使者下了狱。此举激怒了巴巴罗萨，他立刻洗劫了拜占庭的第三大城市菲利普波利斯（Philippopolis）。
巴巴罗萨的武力威胁起到了理想的效果。尽管伊萨克起初气势汹汹，但他本质上是个软弱的人，也不愿直面德意志的兵锋。他立刻释放了关押的士兵，给他们赔礼道歉，还自费把德意志人送过了博斯普鲁斯海峡。
伊萨克怯懦的行为大大坐实了西方对于拜占庭的糟糕印象，他之后的做法也是如此反复无常。在船只运送十字军前往安纳托利亚的同时，伊萨克派了使者火速赶往萨拉丁处，告知苏丹即将来临的威胁。
巴巴罗萨进入小亚细亚后，又遭遇了类似的事件。之前为保障行军安全而与土耳其人签订的条约没有起到什么作用。当地的埃米尔们竭尽所能地阻止他们前进，土耳其苏丹忽都不丁（Qutb al-Din）122甚至还召集了一支大军。
但腓特烈·巴巴罗萨既不意外，也没有特别烦扰。他已经当了很久皇帝，对这类挫折习以为常。他会用惯常的处理手段，有条不紊、残忍冷酷、不可阻挡地解决这些麻烦。两周之内，他就碾碎了土耳其军，占领了苏丹的首都，迫使对方重签了一份安全行军保障协议。当地的抵抗势力已经消亡，十字军可以不受困扰地抵达信仰基督教的亚美尼亚了，那是个友好的国家，就在安条克以北。
德意志皇帝率领着大军近乎毫发无损地穿越了安纳托利亚，这一成就是第一次十字军东征以来无人能够做到的。然而，无情的命运之轮让这一切都失去了意义。1190年6月10日，在艰难地翻越了安纳托利亚南部的托罗斯山脉之后，老皇帝带着士兵抵达了一片平坦的海岸平原，开始向附近的城市进发。他与一小股士兵位于队列的最前端，瞥见了缓缓流向地中海的格克苏河（Göksu River）。安纳托利亚的盛夏酷热难当，为了躲避令人窒息的气温，他迫不及待地策马飞驰，超过了扈从，独自来到了河边。接下来发生的事情有很多种说法。有人说战马失足，把他掀到了河里，有人说他俯身饮水时不慎脚滑。无论如何，结局别无二致。等到护卫赶来把他拖上岸时，他已经溺亡了。123
德意志人的东征就这样突然结束了。他们需要选出新的皇帝，而这个流程必须在德意志完成。大部分上层贵族都乘船回国了，带走了大部分军队。而巴巴罗萨的三儿子斯瓦比亚公爵腓特烈六世（Frederick Ⅵ of Swabia）决心履行已故皇帝的誓言抵达圣地，他把父亲的遗体塞到了一个装满醋的桶中保存，并勇敢地继续踏上征程。124
尽管部队完全瓦解，但巴巴罗萨的东征产生了两大积极影响。萨拉丁感到了巨大的压力，以至于他释放了哈丁之战中俘虏的囚犯，包括耶路撒冷的国王居伊和十字军国家的大部分优秀领导者。在发誓不再反对萨拉丁后（由于是被迫的，所以誓言很快就被宣告无效），这些人被安全放回了提尔，那是基督徒在黎凡特地区125仍然掌控的少数几个城市之一。
第二个积极影响持续了更久时间。剩下的德意志军队抵达黎凡特时，发现刚被释放的居伊正试图围攻阿卡。尽管他们帮不上什么忙，但部分骑士宣誓要保护城外受伤的朝圣者。三大骑士团中的最后一个——条顿骑士团（Teutonic Knights）就此成立。
然而，居伊和少数德意志骑士拯救不了十字军国家。巴巴罗萨的失败狠狠刺痛了黎凡特地区的基督徒。几个月之前，腓特烈即将抵达的消息让穆斯林敌人惊惧万分，也让他们相信耶路撒冷王国有望复辟。然而，双方甚至还没开始交锋，基督徒那战无不胜的庇护者就逝世了，大军也解散了。萨拉丁强悍依旧，要不是还有两位欧洲国王立下了东征誓言，他又要发动新一轮的圣战了。
如今，一切希望就寄托于法国和英格兰了。