还在辽沈战役刚刚开始、中央九月政治局会议刚刚结束之时，毛泽东就预测：根据过去两年作战的成绩和整个敌我形势，认为建设五百万人民解放军，在大约五年左右的时间内（从1946年7月算起）歼敌正规军共五百个旅（师）左右（平均每年一百个旅左右），歼敌正规军、非正规军和特种部队共七百五十万人左右（平均每年一百五十万人左右），从根本上打倒国民党的反动统治，是有充分可能性的。
  仅仅在毛泽东说了上番话的两个月之后——1948年11月，形势的发展使他又十分愉快地否定了两个月前自己对革命胜利时间作出的估计，他说：我全军9、10两月的胜利，特别是东北及济南的胜利，业已根本上改变了敌我形势，7月至现在四个多月的作战，共歼敌军近百万人。国民党全军（连近月补充者在内）现已不足300万人，我军则已增至300余万人。9月上旬（济南战役前）中央政治局会议时所作的五年左右建军500万，歼敌500个正规师，根本上打倒国民党的估计及任务，因为9、10两月的伟大胜利，已经显得是落后了。这一任务的完成，大概只需再有一年左右的时间即可达到了。
  前后估计上虽然仅差两个月，但根本上打倒国民党的时间，却整整提前了两年的时间。这个两年，使得当时世界上的许多军事家都大惑不解，也让后来众多的历史学家难以研究明白。
  为了适应革命战争形势迅猛发展的需要，更有力地推动全国解放的尽早到来，中央军委在我军的历史上，首次提出了整编全国军队，统一全国解放军组织和番号的要求。1948年11月1日，中央军委颁布了《关于统一全军组织及部队番号的规定》，指出：“根据中央政治局九月会议关于战略任务更进一步地由游击战争过渡到正规战争的要求，中央军委关于全军组织和部队番号，特作统一规定，通令全军一体遵行。”
  该规定把野战军分为四个，以地名区分，即中国人民解放军西北野战军、中原野战军、华东野战军、东北野战军。
  1949年1月底，人民解放军取得了举世著名的辽沈、淮海、平津三大战役的胜利，国民党在长江以北的军队损失殆尽，借大的北中国成为共产党的天下，蒋介石的100多万残存部队退守长江以南。扫平南中国，彻底打倒蒋家王朝已指日可待。这样，以地名命名中国人民解放军野战军番号已不合时宜。因此，中央军委遂又明令全军，取消野战军用地区化分的办法，把原西北野战军改编为第一野战军，司令员兼政治委员彭德怀，副司令员张宗逊、赵寿山，参谋长阎揆要，副参谋长王政柱、李夫克，政治部主任甘泗淇，副主任张德生，下辖第一、第二兵团共6个军。把原中原野战军改编为第二野战军，刘伯承任司令员，邓小平任政治委员，张际春任副政治委员兼政治部主任，李达任参谋长，段君毅任后勤部司令员兼政委。下辖第三、第四、第五兵团共9个军。把原华东野战军改编为第三野战军，陈毅力司令员兼政治委员，粟裕为副司令员兼第二副政治委员，谭震林力第一副政治委员，张震为参谋长，唐亮为政治部主任，钟期光为政治部副主任，下辖第七、第八、第九、第十兵团共15个军。把原东北野战军改编为第四野战军，林彪为司令员，罗荣桓为政治委员，副政治委员为邓子恢，谭政任政治部主任，陶铸为政治部副主任，萧克为第一参谋长，赵尔陆为第二参谋长，聂鹤亭、陈光为副参谋长。
  在此次整编中，中央军委把原华北军区的部队改编为华北野战军，直属中央军委指挥，未设野战军一级领导班子，下辖第十八、第十九、第二十兵团共11个军。1949年3月17日，中央军委决定组织以徐向前为司令员兼政委的太原前线司令部和以徐向前为书记的党的总前委，统一指挥第十八、第十九、第二十兵团。
  此次整编，是中国人民解放军发展史上的重大转折。
  第二野战军，是在抗战初期八路军一二九师部队的基础上发展起来的。
  在八年的抗日战争中，一二九师从原来的万余人发展到30多万人，建立了广大的晋冀鲁豫根据地，使地方的武装力量也得到很大发展。又经过三年解放战争的战火锻炼，这支部队更是被铸造得能征善战，成为一支无敌雄师。
  抗日战争转入大反攻时，为了最后消灭日本侵略者及其走狗，并制止内战危机，1945年8月11日，中共中央发出指示，要求各战略区编组“超地方性的正规兵团”。8月20日，中央军委决定，各战略区就现有兵力的二分之一或五分之三，编为野战兵团，以适应形势发展的需要和实现游击战向运动战的转变。
  刘伯承、邓小平按照中央军委的指示精神，令所属太行、太岳、冀南和冀鲁豫的八路军部队，分别编组成一至三万人的野战兵团。
  同时，中央决定成立晋冀鲁豫军区，任命刘伯承为司令员，邓小平为政治委员，滕代远、王宏坤为副司令员，薄一波为副政治委员，张际春为副政治委员兼政治部主任，李达为参谋长，王新亭为政治部副主任。军区辖冀鲁豫、冀南、太行和太岳四个二级军区，以及刚起义的三十八军第十七师，共29万余人。
  1945年9月初，晋冀鲁豫军区，以冀南军区主力编为冀南纵队，太行军区主力编为太行纵队，太岳军区主力编为太岳纵队。10月7日，冀鲁豫军区主力编为第一纵队（辖第一、第二、第三旅），杨得志为司令员，苏振华任政治委员；冀南纵队改称第二纵队（辖第四、第五、第六旅），陈再道任司令员，宋任穷任政治委员；太行纵队改称第三纵队（辖第七、第八、第九旅），陈锡联任司令员、彭涛任政治委员；太岳纵队改称第四纵队（辖第十、第十一、第十三旅），陈赓任司令员，谢富治任政治委员。同时，晋冀鲁豫军区另组25个团的架子，调往东北。
  1945年11月10日，原定以第一纵队为基础另组25个团的架子调往东北。但后来因形势发生变化，第一纵队在开往东北途中到晋察冀军区时，即留在该军区担负作战任务。
  11月11日，在邯郸战役中起义的国民党新编第八军改名为民主建国军，高树勋为总司令，加入晋冀鲁豫军区序列。
  11月中旬，以太行军区主力组成第六纵队（辖第十六、第十七、第十八旅），王宏坤兼司令员（后由王近山代司令员），段君毅任政治委员；以冀鲁豫军区主力组成第七纵队（辖第十九、第二十、第二十一旅），杨勇任司令员，张霖芝任政治委员。同期，因中央军委拟调第四纵队（不含第十一旅）
  去东北，组成第八纵队（辖由第十一旅改称的第二十二旅、新组建的第二十三旅、军区独立旅改称的第二十四旅），谢富治任司令员、王鹤峰任政治委员。12月初，中央军委决定第四纵队不去东北，仍留大岳军区。随后，第四纵队与第八纵队（不含第二十四旅）合并，称为第口纵队（仍辖第十、第十一、第十二、第二十三旅），陈赓任司令员，谢富治任政治委员。第二十四旅改为太岳军区独立旅。
  这时，各二级军区的主要负责人是：冀鲁豫军区司令员王秉璋，政治委员张玺；冀南军区司令员杜义德，政治委员李菁玉；太行军区司令员秦基伟，政治委员李寻峰；太岳军区司令员王新亭，政治委员聂真。
  1946年5月15日，国民党第三十八军副军长孔从洲率第五十五师于河南巩县起义，后与第十七师汇合，被命名为西北民主联军第三十八军，孔从洲为军长、汪峰为政治委员。
  至1946年6月中旬，晋冀鲁豫军区部队，除精简整编和调往其它地区的以外，尚有野战军五个纵队，连同地方部队共27万余人。
  从1945年秋季开始，晋冀鲁豫军区正规兵团和地方部队对日寇进行大反攻，同时对国民党军的进犯给予了坚决的回击，曾先后在上党地区歼灭国民党军队十三个师，在邯郸地区歼灭沿平汉路北犯的国民党军两个军，并争取一个军起义。这两次作战，打击了蒋介石发动内战的嚣张气焰，保卫了抗战的胜利果实，对争取和平民主和支援我军在东北的展开起了重要作用。
  在国民党与我党签订和平停战协定后，晋冀鲁豫军区部队除坚决执行和维护停战协定，击退敌人对我解放军的蚕食和偷袭外，各部队展开了大练兵运动，并积极参加地方减租减息和生产运动；为对付国民党发动全国内战作了充分的准备。
  1946年6月，国民党军队在美帝国主义的支持下，向解放区发动全面进攻。晋冀鲁豫军区处于解放区南线的中央，除要粉碎敌人对本区的进攻外，还担负着前与中原、左与华东、右与陕甘宁我军进行战略配合和策应的重要任务。据此，军区于6月、27日，以第三、第六、第七纵队（后增加第二纵队）和冀鲁豫军区主力一部组成野战军，由刘伯承、邓小平率领，担负豫东方向的作战任务。接着，于7月14日，组成野战军指挥部，由邯郸开赴冀鲁豫前线指挥作战。军区的工作由膝代远、薄一波等负责。
  1946年7月至10月，晋冀鲁豫野战军，在刘伯承、邓小平的指挥下，连续取得东陇海、定陶、巨野和鄄城等战役的胜利，予敌以沉重打击。