曹操自郯县回师的次年，即兴平元年（194年）的春天，他再次聚集兵马，南征徐州。鉴于前次征徐州时虽打到郯县城下，却没有力量攻破城池，致使整个行动没有达到预期目标，这次再征徐州，曹操做了大量的准备工作。他不仅将能抽调出来的人马悉数带上，而且还向冀州的袁绍请求增援。袁绍倒也爽快，派朱灵率三营人马前来，听曹操指挥。
朱灵字文博，冀州刺史部清河郡人，后来也成长为一代名将。汉代军制一营满员是五千人，三个营应该有一万五千人。
曹操留下夏侯、荀、陈宫、程昱等人分率不多的守军留在兖州，其他人都随他出征。曹操和手下大多数人的家眷都在鄄城，由荀、程昱留守；夏侯驻守在濮阳；陈宫负责处理地方日常政务，并督办粮草，为前线提供后勤支持。
此次，曹操决定改变主力部队的攻击路线，派少部分人由兖州刺史部的济阴郡、山阳郡向徐州刺史部的彭城国、下邳国方向佯攻，主力部队则绕到泰山郡，攻击徐州刺史部北面的琅邪国和东海郡。陶谦的大本营郯县就在东海郡。这个进攻路线与上次刚好相反，可以避开陶谦重兵把守的彭城防线和下邳防线，攻击其相对薄弱的东北部地区，还可以直捣其大本营，令陶谦措手不及。
果然，曹军主力突然从泰山郡杀出后，防守在徐州北部的陶谦军始料不及，琅邪国的五座城池接连被曹军攻占。根据史书记载，曹军攻下这几个地方以后，“多所杀戮”、“所过残破”。
史书没有记下这是哪五座城池，应该是琅邪国东南部的缯国、即丘、开阳、临沂、阳都。其中开阳是琅邪国的治所，也是曹操夫人卞氏的老家。而阳都一般认为是现在的山东省沂南县，当时这里住着一位十四岁的少年，他亲眼目睹了这场战争，对于打到家门口的这些外地军队他心里充满了厌恶。这个经历潜移默化地影响到他今后的政治取向，使曹操未来的岁月里增添了一个可怕的对手。这个少年名字叫诸葛亮。
曹军北线的进攻出乎陶谦的意料，他赶忙派人给驻守在小沛的刘备送信，让他火速增援郯县。同时，他也调集人马，准备应战。
上次保卫郯县的战斗结束后，刘备没有回青州而是留了下来，陶谦表刘备为豫州刺史，增派了四千名丹阳兵给他，让他驻扎在小沛。
小沛是汉代对沛县的别称，即现在的江苏省沛县，属豫州刺史部的沛国。这里虽然与徐州刺史部的彭城国近在咫尺，却是豫州刺史部的地界，刘备这个豫州刺史倒也名至实归。陶谦对刘备如此优待，甚至不惜拿出自己最嫡系的家乡兵补充刘备的实力，做的不是亏本的买卖。陶谦看中刘备很有能力，对他寄予厚望，希望他能替自己抵挡曹操。
从地图上看，小沛这个地方的位置十分微妙，它虽属于豫州刺史部的辖区，却远离豫州刺史部的中心地带，像一把剑插在兖州刺史部和徐州刺史部的中间。
陶谦又送官又送人，说白了就是想让刘备给他当盾牌，曹军一旦来攻，有一个缓冲区。这个思路后来刘备、吕布也都用过。吕布走投无路时投刘备，刘备如法炮制，让吕布守小沛给他当盾牌。有趣的是，后来刘备被吕布暗算，也走投无路，反投吕布，吕布一样把他安排在小沛，作用仍然是盾牌。
若干年后，仍旧走投无路的刘备南投刘表，刘表接纳了他，把他安排在新野，那个地方处在曹操和刘表势力的结合部，是小沛的翻版，刘备依然是盾牌。
刘备屯驻小沛期间，纳本地人甘氏为妾。刘备正妻的名字无考，史书只说他几任正妻都死了（数丧嫡室）。刘备的生育能力好像也有问题，至少到现在也没有儿子。甘夫人到荆州后给刘备生下了后主刘禅，刘备称帝之后，封她为皇后。
现在，曹操率军从琅邪国攻入东海郡，直逼郯县城下。刘备率所部也从小沛赶到了，陶谦命手下将领曹豹率军出城与刘备会合，在郯县外围与曹军展开激战。
战斗在郯县东郊的沂水两岸展开，虽然对于这场战斗没有留下更多的文字记载，不过我们仍然可以推测出双方的参战阵容：曹操方面应该有曹仁、曹洪、曹纯、夏侯渊以及还是基层军官的史涣、典韦、乐进等人，刘陶联军方面，应该有关羽、张飞、赵云以及曹豹等人。
曹操和刘备亲自指挥了这场战斗，以后他们直接交手的机会还有很多。像大多数情况那样，这次胜利的一方属于曹操，曹军占领了距郯县以东仅四十里的襄贲，曹操有了落脚点，攻打郯县更加方便了。
困守在郯县的陶谦日子很难过。说起来，陶谦手下的能人也不少，王朗、陈圭、陈登、赵昱、薛礼、糜竺、张昭等人都曾是陶谦的属下，孔融、郑玄也曾投奔于他，但他用人失度，不亲信正直君子，反而任用曹宏、笮融等小人，结果王朗到南方另谋高就，赵昱、薛礼被排挤到外郡任职，张昭被抓起来差点丢了命。
陶谦最大的问题出在用人上，否则他也不会这么早就退出历史舞台。
最近以来，陶谦最亲信的人是笮融，这个人在汉末人物中显得颇为另类。
笮融曾经被陶谦任命为下邳国相，由于善长溜须拍马，深得陶谦信任，掌握了不少的实权，他背着陶谦大搞贪污活动，积累了不少财富。他有了钱，不像别人那样花天酒地挥霍无度，而是专心搞一项在当时很新鲜也很时尚的活动：信佛、礼佛。
佛教当时虽然早已传入了中国，而且有了一定的发展，但总体而言还处于初级阶段，信佛的人还不是很多。笮融无疑是佛教早期的狂热信奉者之一，他在下邳国广修佛寺，命令人民日夜颂读佛经，每到佛祖诞辰日就举办盛大的浴佛会，每次活动花费都多达上亿钱。他又是一个十足的小人，在下面黑同事，对上哄领导，欺压百姓，贪污腐化。笮融经常拿佛教经义来忽悠陶谦，把陶谦弄得一头雾水、似是而非，但又觉得笮融特有本事，很多重大决策都听笮融的意见，把很多重要的事交给他来管。
陶谦问笮融，曹操要是再次攻打徐州会从哪个方向来？笮融煞有介事地说，我来问问佛。结果昏天黑地弄一通，他告诉陶谦说，曹操会从西方来。陶谦深信不疑，把重兵摆在彭城、下邳一线，结果吃了大亏。陶谦让人找笮融来，问问这是怎么回事。下面的人回来报告笮融早已不知去向，陶谦差点没气死。陶谦派人一查，发现笮融前几天已经领着手下人以及信徒共一万多人逃往广陵郡。陶谦气得要命，却又无可奈何。眼见曹操大兵压境，陶谦也想一走了之，他想学笮融，撇下徐州不管了，溜回丹阳郡老家养老去。
如果没有后面发生的事，陶谦还真就那么做了。
关键时刻曹操那边出了大事，给了陶谦以喘息之机。