甘宁引大军直接开到合肥城下下寨，曹休紧闭城门，不敢出战。甘宁观之，城墙比皖城的高出许多，请来李营长商量如何破城。李营长也是头疼，面对高墙无奈地说：“合肥城墙高，用抛石机难于奏效，吾营重型抛石机不多，只有用冲城车撞开城门。”
军师徐庶赞同李虎的看法，并鼓励李虎：“请李营长奋力破城，吾派弓弩兵用强弓压制城楼之敌。”
公元209年1月15日清晨，攻城战打响了。甘宁将部队放在南门，集中力量攻打南门是因为事先做了侦查，南门的城墙更有利于砲兵攻击，重砲营也放在了南门方向。
甘宁下达了攻击的命令，李营长令重砲连轰击城门右则城墙上的敌人，以掩护冲城车向前推进。
攻城战首先用了两辆冲城车进行冲击，两部车并排而行，每车配有三十人，冲城车是没有动力的，需要人力推动。李营长登上其中一辆，手持盾牌，指挥士兵推车而进。
敌人很快就发现了靠向城门的冲城车，城楼之上，箭如雨下，一齐向冲城车射来，打得冲城车的顶棚铁甲“嘭嘭”作响，越向前，敌箭越密集。
徐庶令弓弩手予以反击，牵制敌弓箭兵，重砲连的几辆重型抛石机对冒出头来的弓箭兵给予了猛烈的还击，一时将敌弓箭兵打得抬不起头。
李虎营长催促士兵加速前行，因为是上坡路，冲城车的速度差强人意，李营长心急，跳下车帮着推车前行，车速加快了，很艰难地到达城门下，此时已有五名士兵腿部中箭，其中三名倒地后被敌人弓箭射死，另一辆冲城车行至半途，地形所限，被困不能前，车上士兵弃车而返，只剩一辆冲城车攻击城门。
李营长在城门前指挥士兵用冲击重锤撞击大门，一下，二下，三下……撞击声犹如雷鸣，城墙都有所震动，但是城门只是撞脱表层铁皮，中间实木难以撼动，门板上留下了一个个小坑。城楼之上落石不停的往下坠，打得冲城车变了形，时间在一点一点的过去，如果在城门前拖的时间太久，李营长这二十来人有全军覆没的危险。李营长一看这样下去不是办法，令士兵先撤回再说，于是纷纷撤离城门，撤退时，又被射死六人，李营长也身负两箭才回到本营。
李营长不顾箭伤，首先向甘宁详细地汇报了情况，说明不能再战的缘由，甘宁认真听取汇报后，安慰李营长说：“李营长，汝做得很对，及时撤下了是很正确的，汝已经很好地完成了任务。”
甘宁军团停止了攻击，整顿人马以待来日。
下午，负责两翼保护的王威、张虎回到了中军大营，同时带回来了薛悌、薛棕的二万人。
甘宁、徐庶热情地接待了薛悌、薛棕两兄弟，晚上，甘宁一边设宴接待薛悌、薛棕，一边召开攻坚会议。薛悌听了李虎的攻城经过后，献计说：“只要城门的表皮剥落了，用火烧城门可也。”
李营长兴奋地说：“这个简单，交给吾砲兵营就能完成，抛石机可以发出火弹。”
第二天，甘宁重新部署攻城部队，令王威、张虎担任突击部队，并负责砲兵营的安全。李营长再次组织新的攻势，几十台抛石机喷着火舌，将一串串的火球射向城门，很快大火就把城门烧得洞开，王威、张虎一马当先，奋勇向前，快步冲向城门，此时王威的八角紫金锤发挥了威力，对着烧红的城门一通地猛砸，为入城大军开出一条通道，甘宁令旗一挥，大军掩杀入城。
城内顿时大乱，南门失守的消息一传十，十传百地蔓延开去，守城的将士丧失了抵抗的意志，曹休一看形势不妙，打开北门，脚底抹油——溜了，甘宁军团攻占全城。
甘宁、徐庶进城，安抚百姓。甘宁任命了地方官吏，发布安民告示，整顿地方治安。
甘宁大军取得合肥大捷，首功当归砲兵营，计入功劳薄。薛悌献计，火烧城门，功劳也不小，甘宁保举薛悌庐江太守之职。
徐庶提议说：“吾军自渡江作战以来，征战连连，每战必克，今取了合肥，物资钱粮得到很大补充，可休整部队，来日再战。”甘宁也认为应该休整，命令杀猪宰羊，大宴三天，犒劳三军。甘宁嘱咐李营长好生养伤，并补充了一百余人给砲兵营。于禁在濡须坞完成了对曹军的合击后，安然地回到本部，徐庶在合肥一带招募了万余新兵，加上五万俘虏，以及薛悌、薛棕的二万人马，甘宁军团在合肥拥兵十六万。十六万将士日夜操练，准备来日再战，不敢有半分松懈。
徐庶还在合肥加紧训练信鸽，以便尽快和主公联络。按照刘备的意图，徐庶扶植拉拢当地士族豪强，任命了刘详、杨弘等地方豪杰为合肥官员，融洽了地方关系，加紧了对合肥上下的政治宣传教育工作，为创建根据地打下了夯实的基础。
甘宁军团在合肥休整了半个月，军队的元气得到了很好的恢复，新旧军队的磨合也很令人满意。
却说曹休兵败合肥，退守寿春，憋了一肚子气，曹休在合肥拥有十万精兵，败走北门，只带出了三千余人，零零散散败回来的有万余人，曹休此生还未打过如此大的败仗，他发誓一定要夺回合肥。
公元209年2月，春节刚过完，曹休就调淮南郡太守蒋济引兵二万，加上寿春纪灵、雷薄所部四万，以及自己二万残兵，共计八万余人，聚集寿春，兵发合肥。
打探到消息的斥候回报甘宁，甘宁召集军事会议应对时局。
会上，徐庶分析说：“吾军养兵休战，就是为了能在袁术旧地站住脚。经过这段时日的休养，吾军元气已经恢复，正要寻曹休决战，现在曹休自己找上门来，吾正好与其一战，将其有生力量在这次战斗中予以消灭，只要消灭了曹休，我们就是寿春的主人了。
“纪灵、雷薄是袁术旧将，不会为曹休卖力的，蒋济临战经验不足，而曹休与我军作战，败了一场又一场，失败的阴影笼罩全军，八万残兵不足惧。吾军要做到的是：勿轻敌，勿急躁。吾的计策是：兴霸引三万人马伏于界首，文则引三万人马伏于芦溪，待敌攻城之时，两支伏兵齐出，让其首尾不能兼顾，吾引中军杀出，敌必败。”
甘宁自信满满：“界首地形平坦，而且是个小镇，人马多了容易暴露，宁带一万人足已。”
徐庶建议：“界首离合肥远，兴霸还是带一万铁骑为好。文则带三万步兵，分两队伏于芦溪东西两厢。”
甘宁、于禁各自回归本队做出城的准备。徐庶令李营长将四个连的兵力分布于四个城门之后，王威守城西、张虎守城南、薛悌、薛棕守城北、刘详、杨弘守城东，自领中军接应。