1948年3月，山东兵团取得了周张战役的胜利，鲁中和渤海两个解放区之间只有潍县还在敌人手中。我军只要攻克潍县，就能使鲁中和渤海两大解放区连成一片，进一步孤立济南守敌。当时在潍县据守的敌军是张金城的整编第45师，兵力两万多人，此外还有张天佐和张景月率领的反动民团武装，两股敌军加起来总兵力达到了4万多人。 6park.com
 6park.com
潍县的城墙都是由大青石修建的，墙高13米，厚8米，一般的炮弹根本打不穿。敌人为了守住这个战略要地，围绕城墙修建了三道防线，除了大量的子母堡之外，还有许多不易发现的暗堡。如此多的火力点和坚固的城防工事，给山东兵团攻城带来了不小的难度。
为了打好山东兵团成立以来的第一次城市攻坚战，许世友投入了54个团近13万人参战。其中9纵、渤海纵队和鲁中军区部队一部及炮兵部队共22个团用来攻城，7纵及渤海军区第3军分区和西海军分区外加胶东军区主力用来阻挡济南和青岛方向的援军，13纵为兵团总预备队。 6park.com
 6park.com
1948年4月2日，潍县战役正式打响。经过16天的激战，山东兵团攻城部队扫清了外围，逼近城垣。18日，许世友下令对潍县发起总攻。200余门口径不一的火炮同时开火，敌人的许多明堡被摧毁。但由于城墙太厚，炮火没能炸开缺口。无奈之下，许世友只得拿出了红军时期的老办法，下令部队挖坑道，准备在坑道里埋设炸药，将城墙炸塌。
几个月之前，徐向前率领华北兵团打临汾，也是采用挖坑道的办法来对城墙进行爆破。这中间敌人多次对坑道进行破坏，攻城部队差点就功亏一篑。山东兵团之前从未挖过坑道，因此速度比较慢，挖坑道的过程中也遭到了敌军炮火的破坏，不少坑道还没挖好就被炸塌了，一些战士因此伤亡。 6park.com
 6park.com
见挖坑道行不通，许世友又下令攻城部队组织爆破小组用炸药包对城墙进行爆破。但敌军十分狡猾，在城墙上修建了许多暗堡，攻城部队派出的爆破小组还没有接近城墙就付出了不小的伤亡代价，这一招也失败了。许世友又想出了一个办法，让战士们把炸药包绑在木杆上向城头送，打算以此来摧毁敌人在城头上修建的暗堡。
但潍县城高13米，普通的木杆根本够不到城头，不少炸药包在半空就爆炸了，几乎没起到作用。连续攻击失利，部队还付出了一定的伤亡代价，许世友急了，准备组建敢死队，架云梯强行攻城。红军时期，许世友曾经7次参加敢死队，两次担任敢死队队长，这也养成了他勇猛的作战风格。 6park.com
 6park.com
此时他见部队迟迟无法打开突破口，心中着急，于是就打算组建敢死队强攻。但敌人的火力很猛，城墙上面又有许多暗堡，如果一味强攻的话，可能会付出比较大的伤亡代价。时任华野副政委兼山东兵团政委的谭震林拦住了许世友，没有让他组建敢死队，而是下令暂停攻城，召开班以上干部会议，群策群力想办法。
在这次诸葛亮会议上，一个名叫宋文章的班长想出了一个好办法，他建议在木杆顶端装上滑轮，借助滑轮的力量可以轻易地把炸药包送上城头。许世友立即找人进行试验，发现确实可行，随即在攻城部队中推广、演练。我军暂停攻击后，张金城给王耀武发报，称山东兵团“伤亡甚大，已放弃攻城企图”。 6park.com
 6park.com
王耀武收到电报后十分高兴，还在济南召开了庆祝大会。山东兵团经过多天的准备和演练之后，一切就绪，4月24日零时21分，许世友下令发起总攻。在炮火掩护下，79团8连和4连同时投入爆破攻城。8连官兵在副连长曲月平的带领下，冒着敌人的弹雨迅速架好炸药杆，将炸药拉升到高大的城墙上，拉燃了导火索。
这一招果然有效，随着巨大的爆破声，城墙被炸开了一道数米多宽的大口子，塌下来的土石堆成了一个斜坡。曲月平带着战士们顺着斜坡迅速攻上城头，控制了突破口两侧。与此同时，4连也爆破成功，并控制了一个突破口。许世友见状大喜，当即下令后续部队跟进。 6park.com
 6park.com
敌人为了阻挡我军进城，拼命向突破口反扑。在敌众我寡的情况下，8连的官兵们英勇奋战，连续打退了敌人的5次反扑，牢牢守住了突破口，战后获得了“潍县英雄连”荣誉称号。靠着8连官兵们用生命守住的突破口，后续部队源源不断地冲入城内，和敌人展开了激烈的巷战。
在巷战中，山东兵团并没有和敌人死打硬拼，而是发挥自己夜战的特长，运用迂回包抄的办法逐步消灭敌人的有生力量。经过一个晚上的战斗，西城守敌大部被消灭，陈金城率残部逃往东城。西城比东城高出好几米，许世友命令炮兵居高临下对东城守敌开火，张天佐和张景月的反动民团死伤惨重，这伙人平时没少祸害老百姓，现在终于受到了应有的惩处。
炮击过后，战士们对东城发起总攻，张天佐被我军击毙，张景月和陈金城装扮成伙夫出逃。陈金城被外围巡逻的战士们识破身份后活捉，张景月侥幸逃脱。经过20多天的战斗，山东兵团成功解放潍县，消灭敌军4万余人，济南成了一座孤岛。5个月后，毛主席亲自点将，许世友出任济南攻城总指挥。 6park.com
 6park.com
他吸取了潍县攻坚受挫的教训，为攻城部队配备了强大的炮兵火力，最终仅用八个昼夜就攻破了济南并活捉了王耀武。之后许世友由于伤病等原因缺席了剩余的解放战争，连淮海战役这样重要的大决战都未能参加，这对他来说，是一个不小的遗憾。