新组建的部队兵员成份也有严重不纯的问题。“八。一五”后，先期出关的部队，根据中央的指示和控制东北的实际需要，扩编了大量的兵员，使部队迅速膨胀起来。当时参军入伍的，一是工人、学生；二是一些溃散的散兵游勇；三是成建制的伪满军队；四是打着八路军旗号、由国民党先遣军组织的武装。许多武装游杂，本是要配合与迎接国民党军接收东北的，那知共产党的队伍腿长，先于国军一步进了东北，他们不得不随机应变，也扯起了“共”字的旗号。准备时机一到，再掉转枪口。
  即使是那些真正的工人、学生也有在关键时刻丢下枪不干的。因为，日本人在东北统治了14年，真正的东北老百姓当了14年亡国奴，不但经济上受剥削、压榨，而且，在政治上与人格上亦受到极大压抑。东北解放后，许多血气方刚的年轻工人、学生积极要求参军，有的想通过当兵混个一官半职。
  可是，当国民党军进入东北后，这些人受到欺骗宣传，以为国民党军才是真正的“中国政府军队”，而八路军不是“正牌”，加之，“国军”装备的是飞机、大炮等崭新的美式武器，身着整齐的美制军装，足登皮鞋，肩章耀眼，而共军这边则破衣烂枪。于是乎，在战火迫近之时，弃枪逃跑、甚至反水的人渐渐多起来。
  辽西阻击战失利后，林彪在发给“东北局、李、吕”的一封电报中说：“在东北新成立之十多个旅，成分皆极坏，皆缺乏政治认识，流氓、土匪、宪兵、伪军甚多，真正的工农成份，亦被带坏。这些部队所见之李运昌部（三个旅），亦元战斗力，对群众纪律极坏，不但不能发动群众，反而使群众对我不满；不但不能消灭敌人，反而助长敌人士气；不但不能打土匪，且受土匪勾引。”
  从1945年12月底至1946年1 月初，东北人民自治军（后改称东北民主联军）统计，仅10天左右，“先后叛变者有：吉林1.2 万人。合江5000人，龙江约3000人，牡丹江3000人，松江1 万人，辽北3000人，嫩江3000人，李运昌部亦叛变不少，先后叛变共约4 万余人。”
  1945年12月底，东北人民自治军根据中共中央的指示改变战略部署，决定：除将四分之三的主力部队集结于阜新、黑山地区之外，其他部队以师（旅）为单位，开始有重点地分兵于西满、北满、东满的广大地区进行剿匪及发动群众，建立根据地的工作。其中，由林彪直接指挥的新四军第三师，山东军区第七师和第一师，作为机动作战部队，活动于法库、康平等地。
  黄克诚带着新四军三师一部，由阜新北上，分散于西满的洮南、通辽、彰武、库伦；杨国夫的第七师一部及刘其人渤海军区新编师，分散于北满的肇州、肇源、肇东等；罗华生的第二师，冀鲁豫军区第二十一团扩编之第二十五旅，分散于盘石、双阳、海龙、敦化等地。由山东军区第三师和第六师及第五师一部组成的东北人民自治军第二、第三纵队分散于南满各处。由抚顺抽调的陕甘宁晋绥联防军第三五九旅，则开往哈尔滨、牡丹江和佳木斯之间广大地区，执行剿匪、发动群众、建立根据地等巩固战略后方的任务。1946年1 月14日，东北人民自治军改称东北民主联军。当时黑土地上冒出了很多号称“自治军”“救国军”的武装。这些武装打着“救国”的旗号，干的是土匪的勾当。共产党开进东北的部队也以“自治军”自谓，造成鱼龙混杂，良莠难分，在老百姓眼里，共产党的武装就是“胡子”（土匪）中的一股大“胡子”。所以才改旗易帜以示区别。
  新改称谓的东北民主联军，仍以林彪为总司令，彭真任政治委员，周保中、吕正操、萧劲光为副司令员，罗荣桓、陈云任副政治委员，萧劲光兼参谋长，陈正人为政治部主任。为了前线作战和后方建设的需要，东北民主联军总部分为“前总”和“后总”，林彪带“前总”在辽西前线指挥作战，罗荣桓主持“后总”的工作。为了适应军事、政治斗争的需要，东北民主联军对各部队和各军区组织机构进行了调整：将陆续成立的锦热、辽宁、辽东、辽西、吉林、辽北、松江、三江、嫩江、北安十个军区，重新调整划分为北
  满、南满、东满、西满四大军区，并下属若干省军区和军分区。此时，整个东北民主联军的部队，除了山东一师和新四军三师第七旅仍归“前总”直接指挥外，其余主力部队均划归各军区指挥。其中，东满军区所属部队有：以八路军山东军区二师为基础扩编的第二十二旅、二十三旅；山东滨海支队为基础扩编的第七纵队，下辖第十九、二十旅；原第二十五旅改编为警备第二旅；以及第二十四旅和吉黑纵队等。
  西满军区则以原新四军第三师的部队为基础，进行扩编和整训，另外还辖有由晋绥部队第三十二团和冀热辽部队第十五团扩编而成的保安第一旅。
  南满军区的部队有：以八路军山东军区第三师、警备第三旅及冀热辽第二十一、二十三旅合编而成的第三纵队；以山东军区第六师、第五师及胶东地方武装各部合编的第四纵队；另以原晋绥第三十二团一部为基础扩编的保安第三旅。
  北满军区则以原冀热辽第十九旅及松江军区一部编入山东第七师，下辖第十九、二十、二十一旅；原陕甘宁三五九旅扩大为六个步兵团和一个骑兵团；此外，新成立的有嫩江警备第一、二旅，北安警备第一、二、三旅。
  如何组织、协调、指挥这支新组建的军队，这副沉重的工作重担，压在了罗荣桓的身上。改称为东北民主联军后，罗荣桓的职务虽然从东北人民自治军第二政治委员改任副政治委员，可实际上的东北民主联军政治工作，仍然由他负责。
  自罗荣桓受命后就经常考虑着各部队之间的团结问题。只要见到自己的部属，不管是老部下或新部下，罗荣桓总要告诫他们注意各部队之间、各地区干部之间、新老部队之间、先后到达东北的部队之间、以及总部指挥机关与各部队、各地区干部之间的团结问题。
  12月下旬，在罗荣桓的建议下，总部发出了以彭真、罗荣桓署名的电报，要求各部队一定要加强团结，互相支持。在电报指示中，还特别强调指出：“先到东北的部队应照顾全局，竭力帮助后到的部队；主力部队应以最谦虚的态度去团结扶助新编成的部队。”随后，东北民主联军政治部又发出了《关于目前部队政治工作的指示》，进一步强调了各部队之间的团结问题。
  当然，要求下面部队领导做到的，他这个东北民主联军的政治委员首先应该做到。对于罗荣桓来说，严于律己，不仅是参加革命后长期从事政治工作所形成的工作作风，而且也是数千年中国传统对他的熏陶与染濡。罗荣桓自幼饱读诗书。在中国的传统文化中，讲求“修身、齐家、治国、平天下”。
  也就是说：领导者或统治者“治国”“平天下”的“王道”之术，应该从自身做起，强调以“德行”、“操守”立威，以个人的人格力量去影响驾驭部下。在调整、组编民主联军的工作中，罗荣桓十分注意自己的言行。
  一次，他的老部下，山东军区第一师副师长李梓彬来看望病中的罗荣桓。
  在汇报工作的谈话中，李梓彬谈到了部队所面临的许多困难：缺少装备、新枪都被别的部队拿走，没有经费、给养严重不足等等。
  罗荣桓沉思了片刻，缓缓他说道：“你们是山东来的老部队，是主力，一定要做出好样子，发扬老传统，同兄弟部队搞好团结。不管是对老部队或新扩编的部队，不管谁指挥，都要主动搞好团结，听从调遣。内部团结搞好了，才能打胜仗，打好了仗，什么都有了。关于这个问题，我要给梁兴初和梁必业同志写封信。”
  梁兴初、梁必业分别任一师的师长和政委，是部队的主要领导。罗荣桓
  写信给他们二人，并不是不相信李粹彬，而是要让下级有个准确的文字依据，完整准确地理解上级的意图。红军时期，罗荣桓在红一军团当政治部主任时，梁必业还当通信员。一次，梁必业送一份文件给罗荣桓，罗荣桓收下文件后，梁必业非要罗主任打一个亲笔签名的收条不可。可当时战斗正激烈，手头连张纸都没有，于是，只好让梁必业伸出手来，在他的手心上签了个名才算完事。
  今天，罗荣桓在亲笔信的末尾，端端正正地签上了自己的名字，好让自己那位十分认真的下级一丝不苟地遵命办理。
  正当处在后方的罗荣桓大做部队间团结工作的同时，在前线的总司令林彪，却正为辽西的战事绞尽脑汁。
  部队撤出锦州后，在锦州至义县间的小镇——上下齐台，林彪又部署了一次作战。结果，伤亡大不说，还打成了击溃战。
  在节节退却的路上，林彪冥思苦想着对付国民党军的良策。
  自进入东北始，作战对象与作战环境都发生了重大变化，部队由过去那种依托根据地打游击战转变为打没有根据地条件下的运动战。过去打日本鬼子，老百姓全力支持，游击战打得得心应手。如今作战对象是代表国民党政府“接收”东北的美械部队，不但火力强，情报也准确。在此形势下，部队在作战方针、战术指导和部队编组等各个方面，都必须与当前的情况相适应，才能打败敌人，扭转不利的战局。