张彦卿的儿子张光祚跟随父亲登上城头，望见周军气势强盛，城池危在旦夕，于是哭泣着劝谏张彦卿道：“如今敌强我弱，实在很难支持。城外又没有一个人来救援。我们徒死无益，不如出城投降算了。”张彦卿没有回答，转头对诸将问道：“那边有敌军来攻，你们看见了没有？”
诸将一听，急忙扭头去看。张光祚也掉头去瞧，不料此时张彦卿拔出宝剑，突然向张光祚劈去，咔嚓一声，头随刀落。诸将听到声音，慌忙转过头来查看，但见一颗血淋淋的头颅，早已摆在城上，大家自然惊讶不已！
张彦卿却流着泪，对诸将说道：“这是我的爱子，他刚才劝我投降敌人。我受李家厚恩，绝不会辜负我主，这里就是我战死之地！你们如果贪生怕死，想去投降，尽可自便，但是你们不要来劝说我。如果你们胆敢劝我投降，请看我儿子的首级！”
诸将听完，都很感动，于是没有人再敢提投降两字。他们苦守四十多日，突然听到城外一声怪响，好像天崩地塌一般。城上守卫的士卒，瞬间升到天空，城墙坍陷了数十丈。到了此时，已经是堵不胜堵，后周军队从这个缺口杀入，一拥而进。
原来柴荣亲自督战了一个多月，心情焦躁异常。于是他命令军士在城墙上挖了一个大窟窿，然后在里面埋藏火药，用线引出，接着点燃引线，终于把城墙炸塌。张彦卿依然在城内率部进行巷战，打到黄昏的时候，已是枪断刀缺，他还是不肯罢休。
不久，张彦卿退到了州府的走廊。此时弓箭刀剑都用光了，张彦卿举起绳床来搏斗而死去，还杀死周军数十人。不过他也受了重伤，大喊一声：“臣已力竭了！”于是自刎而死。郑昭业也被周将所杀，剩下的南唐将士一千多人，个个战死，竟然无一投降。如此一来，周军自然伤亡不少。柴荣顿时大怒，下令屠城。从州署衙门到百姓的房屋，都被付之一炬，军民死了一万多人。