3 月底，蒋介石命东线国民党军队第一集团汤恩伯部、第二集团王敬久部，第三集团欧震部，势成三路，向华野进攻。到4 月中旬，敌军打通了津浦铁路徐州至济南段和兖州至临沂的公路，占领了鲁西南大部地区。
  粟裕多次设计调动敌人，未成。
  国民党军“五大主力”中之三大主力，即整编第七十四师、整编第十一师和第五军，均在山东战场。其三路集团就是分别以三大主力为骨干组成的。
  4 月28日，顾祝同命汤恩伯进占河阳、青驼寺、蒙阴等地。 29 日，粟裕又以4 个纵队向桃墟、青驼寺地段之敌出击，拟分割汤恩伯兵团。但一经接触，汤恩伯便命兵团主力后缩，退据蒙阴至临沂公路
  的山区。
  5 月3 日，进占新泰的整编十一师给粟裕提供了一次战机，粟裕速令4 个纵队包围新泰，包围之势还未定型，王敬久兵团主力又增援赶到，并对我进行反包围。
  粟裕对陈毅道：“这样的情况，对我们是极为不利的，不能速战而胜，反而有被王敬久包围的危险。我看还是主动撤吧。”
  陈毅点点头：“只好如此了。不过，还是要和他们捉捉迷藏。”
  毛泽东在此时也来电告诫：“不要轻敌，不要分散兵力，对于密集之敌，要有极大的耐心，要掌握最大兵力，不过早惊动敌人后方，让敌人大胆前进，总有歼敌机会。当然，希望华野能再打两三个战役后转入外线。”
  陈毅、粟裕等进一步研究后，立即发布命令：主力再后退一步，各纵集结于莱芜、新泰以东待机，一纵和七纵停止南下。
  粟裕说：“我军的这一行动，能给敌人一个错觉，顾祝同会以为沂蒙公路一带我主力已转移至泰安地区或淄川、博山地区。”
  陈毅道：“这样汤恩泊会狂起来，抢头功。”
  谭震林说：“因为他进攻山东以来还未败过，该败了。”
  汤恩伯毕业于日本士官学校，与蒋介石攀了同窗和同乡，当过黄埔军校的教官，又受到其“义父”浙江省主席陈仪的提携，官运亨通，平步青云。
  这次蒋介石让他担任主攻，他更觉得春风得意，跃跃欲试。
  3 月底，他在临沂誓师，口吐狂言：“本人同共产党打了20多年的交道了，专制其山大王战术。何谓山大王战术？你不打，他就跑出捣乱觅食，一打就钻山沟。不久前他们在莱芜拣了便宜，并不说明他们有什么了不起，了不起的队伍是不会躲到山沟里去的。本人没有李仙洲的雅量，既不会手软，更没有便宜好送，要奉送的是一记铁拳。从而打掉陈毅的主力，把陈毅这个山大王捉拿归案。”
  在“送”便宜方面，后来事实证明，汤恩伯比李仙洲更是有过之而无不及，拱手将国民党军中王牌之王牌七十四师“送”给了我军。
  七十四师为“五大主力”之首，是蒋介石苦心经营多年的“精锐”之师。
  七十四师原由七十四军整编而来。
  七十四军本是打日本的产物。“七七”事变爆发后，国民党为对付日寇的肆虐，在汉口组建了一支新军——七十四军。蒋介石派他的贴身侍卫出身的俞济时任第一任军长。
  七十四军刚刚组建，战阵未历，就遇到一场恶战——“八一三”淞沪抗战。在战斗中，该军官兵表现英勇，作战顽强，立了战功，不仅受到蒋介石嘉许，亦为舆论所赞扬。
  1939年7 月，七十四军军长俞济时另有重用，被任命为国民党独一无二的机械化军——新五军军长，七十四军五十一师师长王耀武成为该军第二任军长。
  也许是俞济时、王耀武深得蒋介石器重的缘故，反正蒋对七十四军恩宠有加，另眼相看。抗战胜利后，蒋介石把七十四军调往南京，驻扎孝陵卫，卫戍首都，“御林军”名声鹊起。
  国民党整军会议后，第七十四军改编为七十四师，辖五十一旅、五十七旅、五十八旅共3 万多人。当时，蒋介石遂选这个王牌师的师长时，有好几个人艳羡不己。其中李天霞依仗钱大钩作后台，争夺这个位置。在老长官俞
  济时、王耀武的力保下，悍将张灵甫才得以出任师长。
  此时的七十四师，已是清一色的美械装备，长期受美国顾问训练，时称国民党部队五大主力中之主力。在蒋介石眼里份量尤重，宋美龄经常代表蒋介石到该部视察，抚慰官兵，俨如蒋家卫队。
  国民党编纂的人物传记，是这样评价少年张灵甫的：灵甫幼时嬉游，多习战阵，自任指挥，援以坐卧进退之方，辄能中矩，入学就读，成绩冠同曹。
  民国初年，肄业长安中学，感于军阀割据列强环伺，每值校中集会，辄慷慨陈词，忧时奋之心，溢于言表，闻者动容，为长安学生爱国运动之中坚。
  1934年，胡宗南任国民党军队陆军第一师师长，奉蒋介石之命令，率部从湖北黄陂追击红四方面军。张灵甫时任该师五团三营营长，后被提升为独立旅一团中校团长。
  红军到达陕北后，胡宗南奉命“围剿”陕北革命根据地。这时，张灵甫率部追击红一方面军至甘肃岷县，从马上摔下，跌伤了腿，将部队交给副团长指挥，自己到西安养伤。
  张灵甫怀疑他的妻子有外遇，枪杀妻子。女方娘家愤而向法院上告，但被官官相护的法院压着状子不办。后来，在各界群众的强烈呼吁下，由西安妇女协会出面，女方娘家再次写出状子，经张学良夫人于凤至转给南京的宋美龄，强烈要求严惩杀人凶手，为妇女伸张正义，维护女权。这一事件惊动了蒋介石，蒋看信后很生气，骂道：“娘希匹，不争气！”立即电令胡宗南，将张灵甫解往南京监禁法办。
  胡宗南视张灵甫为心腹爱将。现在，既然老蒋发话，他也只好抓人。但他既没绑，也没派人送，而是由张灵甫独自到南京去。张一路经过洛阳、郑州等地，因带的路费少，走了不到一半路程就囊空如洗。这时，张灵甫不甘为乞，想起来还有一个特长可以谋生，便以卖字来摆脱困境。他自幼就模仿于右任的字体练习写字，从军以后也一直没有歇笔，因而写得一手好字。当时，南京有好多商号的招牌都是出自他的手笔。这次，他每走一段路程就从集镇上找来宣纸写几幅，走一路，卖一路字。到南京后，他请求见蒋介石，但蒋拒绝接见，将他关进了“模范监狱”。当然这个为蒋立过功的团长并没有被当作牢犯看待，他还享有一定待遇。实际上关他入狱，不过是掩人耳目罢了。他在狱中仍可自由地活动，每天除了吃饭、睡觉，就练习写字，倒也轻松，甚至还将所写的字送给监管人员作纪念。这样关了一年多，蒋介石一直没有让有关部门审理。
  “七七”事变后，南京国民政府下令，所有服刑官兵，除“政治犯”外，一律服军役，戴罪立功，并保留原来军衔。王耀武写信向蒋介石求情：“现在抗战需要干部，莫不如让他出来戴罪立功。”此信正中老蒋下怀。随即。
  张灵甫被秘密释放了，返回七十四军五十一师的王耀武手下任上校候差员，并将原名“张钟灵”改为“张灵甫”。
  “八一三”淞沪会战伊始，张灵甫就被委任为七十四军五十一师一五三旅三○五团团长，随王耀武开赴前线。在战斗中，虽左臂负重伤，仍裹伤指挥，左右劝其渡江就医，犹言：“昔项王兵败势蹙，犹不愿渡乌江，余宁忍辱遽渡长江乎？当与敌决生死以践誓言。”后经长官部再三劝谕，始怏怏离队就医。
  张灵甫后来又多次参加会战，斩获甚多，职务升到七十四军少将副军长。
  1944年下半年，张被选送到陆大将官班受训。毕业后不久，即被升任七十四
  军军长。 1946 年4 月，张灵甫以七十四军军长之身兼首都警备司令之职，成为戍守京都之重将，“深得中枢倚重”，一时炙手可热，权倾一时。
  蒋介石挑起全面内战后，张灵甫由徐州绥靖公署副主任李延年指挥，率整编七十四师向苏北新四军进攻，连克宿迁、泗阳、淮阴、淮安等城。李延年曾吹嘘说：“有10个七十四师，就可以统一中国。”王耀武也得意忘形：“中国军队只有七十四师能战，是我亲手培养起来的。”10月19日，张灵甫又率部进犯涟水，受到华东新四军迎头痛击。但他很不甘心，于12月16日再犯涟水城。由于新四军兵力太少，死战后终于放弃了涟水。这时，张灵甫更加不可一世，以为新四军不堪一击。他向蒋介石夸下海口：“委座，把新四军交给我张灵甫吧，有我七十四师，就无新四军的葬身之地。”
  汤恩伯在临沂誓师之后，便指挥一兵团小心翼翼地进入沂蒙山区，这里山势险峻，怪石嶙峋。特别是那种叫做“崮”的石头山，峥嵘突兀，山顶上寸草不生。这种“崮”较著名的就有72个之多，其路之险，有如蜀道，机械化部队行动极为困难。汤恩伯辗转有日，别说“打掉陈毅主力”了，就连解放军的一个连队都没有碰上。
  汤恩伯无计可施，心烦意乱。
  但此时陈毅的心情却比汤恩伯要好得多，有词为证：“临沂蒙阴新泰，路转峰回石怪。一片好风景，七十二崮堪爱。堪爱，堪爱，蒋军进攻必败。”
  不知汤恩伯的部下从何处得到了陈毅的这首词。汤恩伯读后，暴跳如雷，大叫：“我不消灭你陈毅，我就不是汤恩伯。”