1948年9月24日济南失守后,国军总部以为华东野战军需要长时间休整,未能料到华东野战在济南战役损失不大,能迅速南下进攻徐州,结果大意轻敌。粟裕为迷惑国军,特意在山东开了十几台大功率电台,不停向外发出指令,国军误认为华东野战军主力依然在山东。使徐州剿匪总司令部部署调整、兵力调动也趋缓慢。1948年11月1日中共中央军委决定中原野战军7个纵队,共约15万人,以及部分地方部队与华东野战军共同进行淮海战役,参战兵力达到60万人。实际上,约50万解放军开始从不同方向秘密夜行,在国军不知情下扑向徐州。徐州剿匪总司令部总司令官刘峙作战无能,故在战斗前,国军布阵极为不利,与解放军作战处于被动及被分割攻击。国军尚未按“徐蚌会战计划”南移,1948年11月5日,刘峙见国军各兵团均已报告在正面发现解放军主力有扑向徐州之势,便遵从蒋介石之意,将徐州周边部队向徐州收缩靠拢,然后再图向淮河一线撤退。命令黄百韬第7兵团、李弥第13兵团退回徐州东郊,经蒙城向蚌埠调动的孙元良第16兵团经宿县北上退回徐州,邱清泉第2兵团退回徐州西郊,死守徐州。1948年11月6日,国军调动华中剿匪总司令部的12兵团进至太和、阜阳地区东援,徐州、蚌埠战场国军兵力增加到70万人。 华东野战军按计划于1948年11月6日夜间发起淮海战役,各部队向预定目标开进,发现国军正在收缩,当即转入追击。黄百韬第7兵团因奉令等海州第9绥靖区的第44军西撤,推迟至7日西开。华东野战军借这此延误,追上正在渡大运河的第7兵团,负责殿后之第7兵团第63军、第100军83师被迅速歼灭。黄百韬见势不,希望李弥第13兵团协助撤退。李弥拿出刘峙命令,执意按计划回撤,拒绝援助。1948年11月8日,防守运河一线之第3绥靖区四分之三以上之官兵,在中共地下党员、绥靖区副司令官何基沣、张克侠率领下,举行贾汪起义。之后,解放军迅速通过第三绥靖区防区。10日,解放军先头部队、山东兵团主力,歼灭第7兵团西撤之先头师,切断第7兵团退路。第7兵团渡过大运河后,走到碾庄时,第64军军长刘镇湘建议,依靠第13兵团在碾庄留下的军事工事,与解放军大战一场。同时,国防部发来电,称可交战,如能击退敌人再走亦可,这样第7兵团就在碾庄犹豫了一天,最后决定迎战解放军。结果解放军行军速度超出预料,在一日之内,华东野战军三个纵队,就攻占碾庄与徐州之间曹八集等各据点要道,11日,华东野战军将第7兵团合围于碾庄地区。此时徐州南方战况,由于宿县之孙元良第16兵团北撤徐州,而协防宿县之刘汝明第4绥靖区也向南撤。由于刘峙指挥慌乱,蒋介石决1948年定11月10日把杜聿明调回任徐州剿匪总司令部副总司令兼前进指挥部主任,具体负责指挥作战;同时命令邱清泉第2兵团和李弥第13兵团由徐州向东攻击,为黄百韬第7兵团解围。在蚌埠,以第9绥靖区改组建第6兵团,以第4绥靖区改组建第8兵团,两兵团将协同沿津浦铁路两侧向宿县推进。至此,徐州、蚌埠战场国军兵力增加到80万人。