晋州位于釜山以西六十公里，是全罗道和庆尚道之间的要冲，九万日军已经在釜山集结完毕。消息传到了汉城，朝鲜官军纷纷要求出战，李如松命令众军不得出战。
刘铤大骂道：“倭寇撤出平壤你不追赶，倭寇撤出汉城你不追赶，你到底是在剿倭还是在赶倭，现在倭寇就要攻打晋州了，你却作壁上观，你来朝鲜是干什么的？你不去，老子自带本部兵马前往。”
一直信奉游击战的义军将领郭再佑说：“日军势大，我们不宜跟其硬拼，可让晋州府使徐礼元带领全城百姓撤出晋州，等倭寇撤出晋州后再回来。”
郭再佑的劝说并没有起到作用，众位朝鲜将领群情激昂，纷纷要跟倭寇决一死战，柳成龙也无法劝说众将。
江华岛义兵将领金千镒最先率领三百义兵奔赴晋州，其他各路朝军纷纷跟进：庆尚道右兵使崔庆会率兵五百，忠清道兵使黄进率兵七百，副将张润率兵三百，高从厚率兵四百，金海府使李宗仁率兵五百纷纷向晋州进发。
各路朝鲜义军向晋州开进，众朝鲜将领众志成城、同生共死、群策群力，誓与晋州共存亡，晋州八千军士正在加固城防，作战前准备。此时，刘铤的五千兵马正从南原向晋州挺进，半路上被立花宗茂、小早川秀包截杀，一番恶战后，刘铤部退回，如此同时，加藤清正率九万大军正迅速向晋州推进，途中攻下咸安、宜宁，都元帅权慄兵败退至南原，沿途百姓纷纷涌向晋州，聚集在晋州的百姓已达六万。转瞬间，日军九万军队已经兵临晋州，各藩国旗帜迎风招展，日军迅速将晋州围得像铁桶一般，城外日军开始伐竹造梯，包围圈外日军布置了数路人马防止明军的援军。
六月二十二日，攻城开始。加藤清正带领四万人马开始四面攻打晋州城。朝军在晋州被围之前，在城池周围挖了几十个大陷坑，几百名日军瞬间掉进坑内，被坑内削尖的竹子穿破身体。接着，几万日军提着沙袋塞满陷坑和护城河，前锋日军开始登城，朝军用佛朗机炮对着城下日军猛轰。密密麻麻的日军将竹梯搭在城墙上向城上攀登，朝军的炮火、弓箭、石块抵挡不住，眼见日军就要登上来了，金千镒让人将一捆捆燃烧的柴草点燃向日军队伍中抛去，日军队伍密集，一时间，成片的日军被大火包围，金千镒又让人将成桶的油泼下，城下火势越来越大，日军被烧得四处乱窜，很多日军被同伴连累的烧死，后方日军纷纷后撤，日军阵形顿时大乱。
稍倾，日军组织了第二次进攻，为了防止朝军火攻，日军纷纷用城南的南江之水浇湿全身，金千镒看见后，在城头上“哈哈”大笑。
“拿石灰来。”金千镒喊道。
城上朝军把一铁锹一铁锹的石灰撒了下去，在微风的吹拂下，石灰都沾在了日军的身上，日军立刻跑到南江边上清洗，日军队伍又是大乱。
二十三日，加藤清正指挥日军发起潮水般的冲击，金千镒连夜让人在城上布置好巨石、滚木和装满油的桶，待到日军攻城时，朝军将巨石、滚木全部推下，攻城日军纷纷坠落城下，血肉模糊。待到日军又来攻城，朝军将一桶桶清油自城头泼下，接着便是火把，城下火起，朝军又将一切可燃之物扔了下去，城下日军被烧得嚎嚎大叫，待到大火烧尽，城下尸体已经累积达一尺之厚，此刻，晋州城外已是臭气熏天。加藤清正睁着血红的眼睛撤兵。
二十四日，双方俱疲，加藤清正改变战术，不再派大部队上前，改派小股日军轮番攻城，消耗朝军火炮和箭镞。在加藤清正指挥下，不断有日军攀上城墙，双方开始在城墙上混战，城墙上尸体遍地，一直到下午，日军攻势减弱，才渐渐退去。
二十五日，日军在晋州城东门外用石块垒起了一座高地，高地比晋州城池还高出五米。日军在高地上居高临下，守城的朝军立刻暴露在日军的眼皮底下，守城的朝军纷纷被高垒上的日军用铁炮打死，在高垒上日军的掩护下，城下日军开始攻城。看此情形，金千镒让人拉来一门大将军炮，对着日军的高垒一轰，日军堆砌的高垒瞬间坍塌，垒上日军掉了下来。
二十六日，日军的进攻仍在继续，朝军的炮弹、石头、箭镞已经消耗得差不多了，城内民众纷纷拆了房屋，将拆出的砖块拿到城墙上，城内不分男女老幼，皆上城来帮忙，一时之间，众志成城。
二十七日，日军出动龟甲车，日军士兵推着几辆龟甲车不断撞击着城墙，为了防止朝军扔石块，日军在龟甲车上铺上厚厚的木板。朝军又将油泼在龟甲车上，用火烧。
二十八日，日军又以龟甲车撞城门，朝军在城门后堆满了石头、圆木，一直到城门被撞破，日军也无法进入城内。晌午时分，日军从东北城头攻入，朝军慌忙前来抵挡，眼看越来越多的日军攻上城来，忠清道兵使黄进带着十几个士兵拿着刀向攻上城来的日军杀去，一番血战，黄进身边的士兵全部战死，蜂拥而上的日军拿着蘸满鲜血的倭刀将黄进围了起来，黄进从怀中取出一根竹管，拔掉了头，原来是引火之物，黄进点燃了捆在身上的炸药，方圆五米内的日军全部报销。
傍晚天降大雨，日军退去，城内人人都松了一口气。
二十九日，大雨仍在下，日军冒雨攻城，加藤清正指挥士兵用攻城车疯狂的撞击着东北方向的城墙，攻城车内的日军用锤子和镐头在城墙上凿洞，在不断的撞击和凿击下，城墙的一角塌陷，日军蜂拥入城，加藤清正下达了大屠杀的命令，九万日军对城内六万百姓亮起了屠刀。残存的朝军将士和城内百姓展开了殊死抵抗，老人、妇女、儿童都参加了战斗。
城内所有人都依托房屋和街巷阻击日军，成群穿白衣的百姓拿着木棍、石块向日军呐喊着冲去，一排排的百姓都倒在日军的铁炮之下，百姓们扔出去的石头也给日军造成很大的伤害。为避免自己的亲人被杀害，很多小孩子都死死抱住日军士兵的腿。
义军将领金千镒带着自己儿子金象乾，并崔庆会、高从厚面北跪拜，然后跳入南江，以死殉城。金海府使李宗仁跟日军一路拼杀，退到了南城墙上，日军的铁炮手围了上来，眼看日军就要开火，李宗仁将手中的刀甩了出去，刀在空中转了几个圈，最后划破两个日军的喉咙而落地，李宗仁转身跳下了南江。朝将金俊民挥舞大刀，一人杀死十几个围攻他的日本兵，最后撞墙而死，副将张润一直在城内跟日军血战，最后被铁炮打死。
日本兵从北面和东面杀进城来，城内到处都是日军的喊杀声、百姓的哀嚎声和孩子们的哭声，大量的百姓不愿意被日军杀死，纷纷带着妻子、儿女往南跑，登上了南城墙，望着城下滚滚的南江，百姓们纷纷跳了下去。日军杀戮后，晋州城内六万百姓无一幸免，许多孩童捡起地上的刀慷慨就义，日军放火烧毁民宅，所有树木被砍倒，整个晋州城变成一片废墟。此时，天上的雨仍然在下，天空阴沉沉的，还伴随有雷声，晋州城内尸体遍地，血流成河，雨水浸泡着死尸，南江上塞满了百姓的尸体，整个江水为之所阻。
几日后，天空放晴，加藤清正在南城边的矗石楼举行庆功宴，日军拉来了一批朝鲜伎生前来助兴，席间一位叫朱论介的十九岁女子抱住一个日军将领滚入南江，加藤清正大怒，将所有的女孩全部杀死。第二次晋州之战，朝军阵亡八千，日军阵亡六千。