建安二年（197年）的新年刚过，曹操下定决心，准备南征张绣。
人马准备好了之后，按照惯例，他要到宫里向天子报告并辞行。曹操进了宫，还没有见到献帝刘协，却发生了一件事，让他吃惊非小。
按照礼制，曹操作为司空又代理车骑将军，朝见天子应该遵循以下礼仪：快见到天子时，要脱掉鞋子，解除佩带的武器，一路小跑着去见天子。
天子身边会站着一个司仪官，在一旁高喊：“费亭侯、司空、行车骑将军曹操，参见皇上。”曹操听到后就要跪下来高声说：“吾皇万岁，万万岁。”
据《世语》一书记载，这一次曹操还没有见到天子，大概刚把鞋子脱掉，突然过来两个持戟的武士，手里操持的铁戟可都是真家伙，他们二话不说，咔嚓一下把戟就架在了曹操的脖子上。曹操没有防备，当时就傻了。这二位就这样叉着曹操往前走，曹操没有选择，只好跟着，来到献帝面前，跪下跟献帝说话。
曹操说了些什么他一定都记不得了，那一刻他的脑海里估计全是空白。从献帝跟前出来，曹操脊背上的汗把衣服都湿透了，那是紧张的。
这是一套什么礼仪呢？其实它是有来历的，汉代为了防止权臣篡权，规定了许多制衡措施，比如“五大不在边”，就是外戚、三公等五类权臣不能到外面领兵。遇到特殊情况非领兵不可，就得执行刚才这一套程序，权臣在出兵前向天子辞行时，由武士将戟交叉于颈项前行（交戟叉颈而前），意思是要试试你心里是否有鬼。能经受住考验的是好同志，有异心的就得掂量掂量还敢不敢来。
曹操大概没听说过还有这个规矩，或者没想到刘协会跟他玩儿真的，这一惊实在非同小可。如果刘协真的向他下手，这不就是个机会吗？何进当年是怎么死的？窦武、梁冀又是怎么死的？别看权倾天下，一个细节就能让你灰飞烟灭。
曹操越想越后怕，《世语》载，他以后再没有朝见过献帝（自此不复朝见）。
经过了这个插曲，曹操率兵南下，兵锋直指南阳郡的宛县，很快抵达水附近。水是汉水上最重要的支流，即如今河南省境内的白河，在襄阳附近注入汉水。在这条河上，有一个著名的地方叫新野。
听说曹操率军亲征，张绣很紧张，曹操的大名他早有所闻，袁术、陶谦、吕布这些天下英雄都不是他的对手，如今正势如中天，张绣觉得在曹操面前自己也根本不是个儿。
此前，张绣曾派贾诩到襄阳走了一趟，见了见刘表。据《傅子》记载，贾诩回来后对张绣说：“刘表这个人，倒是有一些才能，和平年代做个三公应该称职（平世三公才也）。现在看不清形势，多疑少断，不会有什么大的作为。”
贾诩的襄阳之行打消了张绣依靠刘表抵抗曹操的想法，他决定投降曹操。没有记载显示张绣的这项决定是不是贾诩的建议，但贾诩至少没有反对。就这样，曹操原打算南下必有一场恶战，现在看来不存在了。
曹操很高兴，在水河畔扎下军营，设宴招待张绣及其手下。在酒席宴前，张绣等人看到有一个不认识的大汉站在曹操身后，威武异常，不禁暗暗吃惊，这个武士就是典韦。
在曹操行酒时，典韦手持大斧一直跟着，斧刃有一尺多，曹操不管走到谁跟前，典韦都站在曹操后面，而且使劲儿拿眼睛直盯着对方看（迫视），弄得客人根本没有心思吃好喝好。直到酒宴终了，张绣及其部将都不敢正视曹操。
本来这次南征就可以圆满收场了，但发生了一个意外，让形势陡转，曹操转胜为败，败得一塌糊涂。
曹操对于像典韦、许褚这样的猛士历来见一个喜欢一个，总想弄到自己手下。据《傅子》一书说，张绣有个亲信将领叫胡车儿，勇冠三军，大概也是典韦那样的猛人。曹操看到胡车儿也特别喜欢，想笼络一下感情，看日后能不能把他挖过来，于是亲自接见胡车儿，并赠给他不少金钱。曹操此时应该没有通过胡车儿解决张绣的意思，因为打张绣并不是他目前最需要做的事。张绣已经投降，南阳郡得以暂时稳定，应该尽快回师，准备东征。
但张绣知道了这件事，他不那么想，他认为曹操此举用心不良，是要收买胡车儿谋害自己。
《三国志张绣传》还透露了一个细节，说曹操胜利之余，看到张绣的婶娘、已故骠骑将军张济的遗孀长得很漂亮，就纳其为妾。张绣觉得受到了侮辱，心存不满。曹操得知张绣对自己有意见，就想设计除掉张绣，联络胡车儿大概就是计策的一部分，但是计策提前泄漏，张绣那边先动了手。
据《吴书》记载，贾诩给张绣出了个主意，让他向曹操报告，说部队想移防到地势高一点的地方，中间要经过曹营。张绣还向曹操报告：“车辆太少，士兵得背负很多物资，请求允许士兵们披甲而过。”曹操答应，结果张绣趁自己人进到曹营之际，突然发起攻击，打了曹军一个措手不及。上面两条记载似有矛盾之处，如果曹操想解决张绣，他怎么能同意张绣后面的请求？因此可能的情况是，胡车儿事件、张济遗孀事件虽然都是真的，但曹操并没有算计张绣的打算，所以才让张绣钻了个空子。
这场战斗发生在水河畔，曹军的狼狈样超过了当年的汴水之战和濮阳之战。混战中，曹操坐下的马被乱箭射中面部和马腿，自己的右臂也中了箭。曹操失去战马，十分危险。
据《魏书》说，曹操骑的这匹马名叫绝影，是继白鹄之后曹操骑的又一匹名马，此刻光荣就义于水河畔。正在危难之时，有个小伙子跑过来，从马上下来，把自己的马让给曹操骑。曹操一看，正是长子曹昂。
打仗亲兄弟，上阵父子兵，关键时刻能舍身相救的，还是自己家的父子兄弟。当年汴水之战，如果没有曹洪让马，曹操可能早就没命了。现在曹昂又把马让给了曹操。
但曹昂没有曹洪那样幸运，他战死在乱军之中，时年才二十岁。
这一仗对曹操而言不仅丢了面子，而且实际损失惨重，长子曹昂居然战死。不仅如此，侄子曹安民、近卫部队指军官典韦也一同战死。
典韦死得极为悲壮。当时曹操率轻骑逃走，典韦为了掩护曹操撤退，留下来在营门口与敌兵激战。由于典韦勇猛异常，敌人无法前进，于是他们分散从其它地方进入曹营。
这时，典韦周围只有十来个人，这些人都是曹操精挑细选出来的勇士，平时主要职责就是保护中军的安全，现在无不以一当十，殊死恶战。但是，敌兵越来越多，他们渐渐不支，陷入重围。
典韦手持长戟，左冲右突，一戟刺过去，敌兵十多支长矛都能被折断（一叉入，辄十余矛摧）。最后，典韦的左右全部阵亡，他本人也受伤数十处，但他仍然与敌兵近距离激战。
典韦一把抓过两个敌兵，徒手就把他们给杀了，其余敌兵吃惊不小，都不敢再靠近。典韦上前冲杀，又杀了几个敌人，然而由于伤势严重，失血过多，最后他怒目大骂而死。
敌兵确信典韦已死，才胆战心惊地上前把他的头割下，互相传看，想观察一下这个奇人到底为什么如此生猛。
曹军从水河边一路惨败，一口气退到了宛县以东百里之外的舞阴，曹军各部听说后，都想抄小道先赶到曹操那里救援，一路上拥挤无序，狼狈不堪。
平虏校尉于禁率数百人主动断后，他们且战且退，拖延敌人的进攻，敌人见无法继续扩大战果，慢慢退去。于禁下令整顿人马，敲着战鼓回营。
走在半道上，遇到十几个伤兵，一个个赤身裸体，惨不忍睹。于禁问他们怎么了，这些人说被青州兵趁乱打劫，于禁大怒。
这个青州兵，就是曹操当年打败青州黄巾军后收编的部队。这支部队作战勇猛，是精锐之师，但军纪一向很差，曹操对他们平时颇为关照，反而让他们更认为自己不得了，这次趁败军之际，公然抢劫到自己人头上。于禁下令追讨青州兵，把他们收拾了一顿。之后，于禁指挥所部安下营垒，防备敌军再来。这时，手下人劝他先不忙安营扎寨的事，应该先到曹公那里报告情况，防备青州兵恶人先告状。于禁说：“现在敌人在后，很快就会追到这里来，不做好准备，何以对敌？曹公明察秋毫，不必申辩！”
青州兵果然提前跑到曹操那里告状，曹操没有听信他们。等见着于禁，听了于禁的汇报，曹操很高兴，对于禁说：“水之难，我方危急，将军能乱而不乱，整治所部，惩治暴行，高筑坚垒，实在有不可撼动之节，虽古之名将，也难以超过你呀！”于是，依据于禁前后立下的功劳，上表天子封于禁为益寿亭侯。
此役曹操失去长子曹昂、侄子曹安民，让他悲痛异常。更让他伤心的是，心腹爱将典韦也战死了。曹操在舞阴没有祭奠爱子和侄子，却为典韦盛大发丧，他还设法找回了典韦的遗体，送回老家襄邑安葬。曹操后来封典韦的儿子典满为郎中，作为自己的近侍。以后他每次经过陈留郡一带时，都要绕道襄邑祭祀典韦。
曹操首征张绣即以失败告终，他从舞阴退回到许县，留下曹洪驻防于南阳郡境内，与张绣对峙。
张绣打退曹操之后，迅速扩大战果，在刘表的支持下，他将曹军曾经占领过的舞阴等地重新收回，把曹洪压缩到南阳郡最北面的叶县一带。曹洪在南阳郡处境艰难，只能勉强守住最北面的防线。
曹操知道曹洪在南边很吃力，但此时他却无法迅速支援，因为在他回师许县不久，天下发生一件大事，让他不能不做出回应。