不是反叛朝廷。呼延灼大受感动，说：“待我回到东京，向朝廷为你讨一道招安文书。”宋江说：“将军回不得了。高俅那小子心地狭隘，专记人的小过失，林教头、杨制使无什么过错也被他逼得走投无路，何况你折了三员大将、一万人马，怎会留你性命?如今韩滔、彭、凌振都入了伙，将军不如也坐把交椅，待朝廷招安，再尽忠报国。”呼延灼沉思半晌，认为宋江说得有理，就跪拜下来，情愿入伙。宋江就让李忠、周通把踢雪乌骓马还给呼延灼。众人商议一番，定下攻打青州之计。
当晚，秦明、花荣、孙立、燕顺、吕方、郭盛、解珍、解宝、欧鹏、王英十个头领，换了青州军士的衣甲，跟上呼延灼，来到城下，大叫开门。慕容知府闻报，上了城楼，问：“将军怎么逃出来的?”呼延灼说：“我被他们的陷马坑捉了，押在后寨。却有我原来的部下，暗中放了我，又偷出马匹衣甲，跟我来了。”慕容知府放了心，便命放下吊桥，开了城门，骑马迎到城门口。呼延灼等人进了城，秦明忽然一棍把慕容知府打下马来，解珍、解宝就放起火来，欧鹏、燕顺奔上城，一阵乱杀。宋江见城里火起，指挥大军杀进城来，一面传令：不得伤害百姓。众头领占了府衙，封了钱库粮仓，从大牢里救出孔明与孔宾一家。救灭了火，把慕容知府全家斩首。随后开仓放粮，犒赏三军。李忠、周通回山收拾人马，施恩、曹正也回二龙山，与张青夫妇将山寨收拾了，放了一把火。三山头领加上呼延灼，共十二位新头领，加上三山人马、青州的降卒，数千人马开回梁山。