在皇甫嵩北上冀州的同时，朱也南下南阳讨伐南阳黄巾军。
南阳黄巾军有数万人，其领袖人物是被称为“神上使”的张曼成。中平元年三月间，张曼成率起事的“太平道”教众攻占了南阳郡治所宛城，斩杀了郡守褚贡。然而这支黄巾军并无大志，攻占宛之后坐守孤城一百多天，既不支持近在咫尺的颍川黄巾军波才、彭脱等部，也不积极向四周发展，就这么发愣了一百多天。到六月，缓过气来的东汉王朝发动反攻，南阳太守秦颉率军进攻宛城黄巾军，击杀了张曼成。黄巾余部拥立赵弘为统帅，虽发展到十余万人，但仍仅仅局促于宛城一地，无所作为。朱会同荆州刺史徐等部共一万八千余人，包围宛城，因双方兵力悬殊，从六月攻到八月，一直攻不下来。
朝廷里有人参劾朱，准备换人，多亏司空张温上奏章保他，称：“昔秦用白起，燕用乐毅，皆旷年历载，乃能克敌。”认为他用兵已见成效，临阵换将是兵家大忌，建议继续观察一下。朱在朝廷的催促下，奋力攻城，击杀了赵弘。黄巾军又推举韩忠为首领，继续占据宛城抵抗汉军。
朱在宛城外建立营垒，起土山以临城中，观察动静。汉军虚张声势鸣鼓攻宛城西南，朱自率主力五千人悄悄运动到城东北。黄巾军缺乏军事常识，大部队都集中到西南准备迎击汉军，而东北防守出现了空隙，朱乘虚而入，攻破宛城大城。
韩忠见大城已破，只得率残部退守小城，并向汉军求降。汉军司马张超、荆州刺史徐、南阳太守秦颉等人都同意接受投降，但主将朱认为黄巾军起于内部叛乱，不同于外敌。如果接受投降，就等于纵容了叛乱分子有利就造反，不利也可以投降保命的侥幸思想，必将造成更多的新叛乱，因此拒绝了韩忠的投降。
据守小城的黄巾军见投降无路，只得拼死守城。朱见黄巾军死守不下，遂撤围不攻。韩忠见汉军撤围，率军突出城外准备转移，黄巾军一出城就遭到汉军围攻，被斩首万余人，韩忠本人也被南阳太守秦颉所杀。其余黄巾军见无法突围，又退回城中，推孙夏为首领。
汉军急攻，未来将闻名天下的猛将，现在的小军官司马孙坚，率众先登，攻克城池。孙夏率部溃围而走，汉军追至西鄂精山，又一次大破黄巾军，斩首万余级。
孙坚，字文台，吴郡富春人。十七岁时，其父带他乘船前往钱塘，路遇海盗胡玉等打劫商旅，在岸上分赃。行船恐惧，皆不敢进。孙坚对父亲道“此贼可击，请讨之！”其父大吃一惊，这是你干得了的吗？小孩子家，瞎闹腾什么！见父亲不允，孙坚自行提刀上岸，大呼小叫，东西指麾，盗贼们大吃一惊，以为官军大队来了，纷纷逃散。孙坚追击，斩杀一人。从此，这个十七岁的少年便声名大显。后又自幕精勇千人，随官军讨平自称“阳明皇帝”的会稽妖贼许昌父子，以勇猛闻名，随即被朝廷授官盐渎丞，进入仕途。此次“黄巾起义”，朱慧眼识人，力请以孙坚为佐军司马，他果然立下赫赫战功。
至此，几支最主要的黄巾军，都被一一扑灭了。为了纪念讨平黄巾的赫赫武功，汉灵帝决定改元中平。