这种地形，在有经验的军人眼中一眼就可以看得出来，在作战时是有利于防守的。
碾庄原来是李弥兵团的驻地，李弥的十三兵团司令部驻在曹八集，第九军军部就设在碾庄。李弥认为这里打起仗来的时候是一个很可利用的地方，就利用原来的有利地形修筑了不少工事。这些工事根据地形和村落构成主阵地和卫星阵地，密布明碉暗堡，在各阵地之间都有交通壕和盖沟连接，在各个村庄内外又有由几道交叉火网组成的自成体系的工事。李弥兵团奉命向徐州靠近，两天前刚走，大部队走后，留守部队一直等到黄百韬兵团到来后才完全撤走。李弥兵团所修筑的工事都被完整无缺地留了下来，在碾庄的工事为黄百韬兵团所利用，而在曹八集和大许家的工事则被我华野所利用。李弥兵团同时为淮海决战的国共双方准备好了水平相当不错的工事，而且马上就投入使用，这在淮海战场上也不能不说是一桩趣事。
黄百韬到碾庄时，还不知道他已经被四面包围。11月9日上午，他还在指挥大部队从碾庄西撤，忽然听到距碾庄很近的曹八集枪声大作，派人前去查询，才知道曹八集已经被解放军占领，自作主张想跑得快一点的四十四师提前出发先到了曹八集，已被全歼。不久黄百韬又得到空军的情况通报：“共军有三万余人正从宿羊山（在碾庄西北10公里）跑步南下；另有万余人正从铁路由南向西疾进。”这时他才知大事不好，但已无法确定下一步该怎么办。11时许，他终于接到了刘峙转来的蒋介石的命令：
着该兵团在碾庄圩地区准备决战。已命黄维兵团经宿县、宿迁渡过运河，挺进运河东岸进行外线反包围；又已令杜副总司令率邱、李两兵团东援。
这个命令，是蒋介石这时对徐州战场所下的一道最重要的命令。徐州地区的国民党军队在这以后也在按这道命令去做，但想做并不等于就能做到。黄维的确接到了上述命令，可是他率领的十二兵团从蒙城出发后就受到我中原野战军的阻击，到了双堆集即被包围。至于杜副总司令，即杜聿明，是在黄百韬接到这份电令之后两天，亦即11月11日，才到徐州上任。而在这一天，黄百韬兵团已经被华东野战军完全包围。
黄百韬这时才完全明白他的处境，只好在碾庄召集各军的军长会议，布置各军立即在各村庄原有工事的基础上继续构筑工事，架设电线，准备作战。他的部署是：兵团司令部设于碾庄不动；二十五军在北边的秦家楼、太平庄、尤家湖一线布防，向北防御；六十四军在东边的鲁家楼、前阎桥、火烧房子一线布防，向东防御；四十四军在陇海线上布防，向南防御；一○○军在西边的贺台子、彭庄一线布防，向西防御。黄百韬这时最害怕的是北边“跑步南下”的大量华东野战军，所以急切地要求徐州派空军轰炸运河上由华野架设的便桥（在碾庄北面的运河段大致呈东西流向，与陇海路平行），因为他从空军的通报中得知：
“已架设十几座便桥”。徐州的确派出飞机多次轰炸，可是我华野部队在当地老乡的支援下随炸随修，在整个战役中运河上的交通始终畅通无阻。黄百韬又要求空军轰炸东边运河上的铁桥，空军也去炸过，扔下了不少炸弹，但一颗都没有命中。
碾庄以西是曹八集，曹八集以西是大许家，大许家距碾庄只有15公里左右。陇海路在大许家有一个车站，就在大许家稍北有一座小土山，相传是当年关羽投降曹操之处。山上有一个火神庙，华东野战军的临时指挥部就设在这个小庙里。将指挥部设在前沿，耳中要听到枪声，这是粟裕指挥作战的作风。作为统兵数十万的一方统帅，甚至曾经把自己的指挥部设在敌人的机枪射程之内，以至毛泽东不得不在数千里之外给他发出电令：“华野指挥位置太靠前，应立即后撤！”
从11月11日开始，华野的四纵、六纵、八纵、九纵、十三纵这5个纵队在特种兵纵队的配合下，向碾庄地区的黄百韬兵团发起了一次又一次的进攻。八纵在东边，九纵在南边，六纵在西南边，十三纵在西边，四纵在北边。开始进攻时，进攻的重点放在敌军中战斗力较弱的南边的四十四军和西边的一○○军。13日，陇海线上的四十四军全军溃败，铁路以南的村庄和铁路线上的碾庄车站均被我军占领，四十四军退至铁路以北，以后再退至大芽庄。18日晚，四十四军的一五○师师长赵壁光率残部2000多人向我军投降。17日，防守碾庄西北方向的第一○○军被我击溃，由原来据守的彭庄、贺台子一线退至大芽庄，军长周志道负伤。
我军虽然取得了一些进展，把敌人的防线愈压愈小，可是在这不大的区域内所消灭的敌人并不多。在这种情况下，身陷重围的敌人困兽犹斗，抵抗极为顽强。黄百韬兵团的约10万大军被围困在一块不大的战场上，所以火力相当集中，100米左右的阵地就有20多挺机枪；由于敌人基本上都有可以利用的工事，防守起来比较方便，而我军的进攻地带基本上都是平旷的开阔地，在进攻时十分吃亏。八纵在东边向六十四军展开进攻时，用了六十五团和六十六团两个团攻打一个不大的村庄鲁家楼，而敌人只有一个四七五团，激战一昼夜，竟然只攻占了半个村庄。
到第三天鲁家楼才被全部拿下，但六十六团政委李树桐却牺牲在第一线，有的连队打得只剩下两个人。所以，我军的进攻进展很慢，弹药消耗很大，兵员伤亡很大。我军对敌人的进攻打得相当坚决，相当勇猛，在发起进攻3天之后，单是陶勇率领的四纵，就已经伤亡了4200多人。
当粟裕向陶勇了解伤亡情况时，陶勇开始还不愿说实话。可是陶勇不知道，粟裕不仅到了四纵的阵地，也去了九纵的阵地，不仅认真研究了我方的进攻，还几次在第一线研究了敌人的防守工事和防御打法。不仅如此，他还亲自到战地医院去掌握了我军伤亡情况的第一手材料。粟裕已经在考虑新的战术方案了。
当陶勇向粟裕如实报告了战场上的具体情况之后，粟裕根据他这3天之中的仔细思考，在11月14日召开了围攻黄百韬兵团各个纵队负责人会议，决定改变打法。这是因为，在部队出发前，强调的是一个快字，要求各纵队要尽可能快地抓住敌人，要求部队抓住敌人之后就坚决进攻，以免把敌人放走。当时要求过大家在抓住敌人之后要大胆穿插，分割包围，可是由于在猛追敌人过程中，不少部队都打乱了建制，过了运河之后还未能来得及调整就进入了战斗，各级指挥员还在按原来的“大胆穿插，分割包围”的要求在打。其实，目前所遇到的情况与出发前预想的情况已经大不相同，现在敌人是紧缩于一团，利用李弥兵团留下的工事在层层设防，拼死固守。我军如果再用猛打猛冲的办法，只能带来更多的牺牲。多年来打惯了运动战，而现在却是打典型的阵地战，部分指战员还不能根据情况的变化尽快改变自己的战术。所以，粟裕要求各纵队立即改变打法，不能打得太猛，不能要求速决，眼下摆的是硬骨头，要磨出尖牙利齿，一口一口地啃。同时，对包围圈中的敌人也不能四面八方都打，粟裕的策略是“先打弱敌，后打强敌；攻其首脑，乱其部署”。
粟裕在会上一点拨，各纵队负责人回去再一传达，广大指战员全都开了窍。第二天，即11月15日，战场上进攻的枪炮声突然停止了，取而代之的是挖掘坑道的声音，运送木料的声音，打桩垒土的声音。粟裕要指挥他的大军打一场阵地战，一步一步地向前推进，一口一口地将黄百韬兵团吃掉。
粟裕在14日的会议上还作了一个决定，围攻黄百韬兵团的指挥任务交给山东兵团政委谭震林和副司令员王建安具体负责。这是因为，在这时的徐州战场上，更为重要的任务已经不是围攻黄百韬，黄百韬已经被团团包围，只要没有强大的援军，黄百韬是死定了。现在最重要的任务，是阻击和消灭杜聿明对黄百韬兵团的援军。
黄百韬的司令部设在碾庄一家烤酒的糟房里。他虽然对自己部队的拼死抵抗感到满意，但是，看着这狭小的包围圈中日益增多的伤兵和死尸、日益减少的粮食和弹药，嗅着处处可闻的血腥味，听着部下不断报告的共军阵地上正在夜以继日地挖掘纵深坑道和各种工事的消息，他一点也不乐观。虽然在每天空投下来的国民党的喉舌《中央日报》和国民党军队系统的喉舌《扫荡报》上印着他的半身像，印着蒋介石给他的嘉奖令，但是他对此毫无兴趣，因为这些安慰对于他的性命攸关的现实没有任何帮助。在黄百韬的心中现在有两把刀在不断地刺着、绞着：第一是北边在最关键的时刻和最关键的地方出现的贾汪起义，华东野战军南下的大门被一下子敞开了，使得粟裕的几十万大军毫无阻碍地成几路纵队向他压了过来，他周围的包围圈愈来愈紧、愈来愈厚，让他失去了突围求生的任何可能；第二是蒋介石所计划的、由新上任的杜聿明所指挥的援救大军能否将他救出去。他已是身经百战的人了，震惊全国的孟良崮战役给他的印象太深了，国民党军队的王牌军整编七十四师被全歼时，他正是战区指挥官，骄横一世的张灵甫可以说就是在他的眼皮底下困在华东野战军的包围圈中而被击毙的。黄百韬知道自己是冲不出去的，很可能就会在今天的包围圈中步张灵甫的后尘。现在，他只能盼望强大的援救兵团，而这些援救兵团会不会出兵不出力，来一个见死不救呢？
