集宁一战失利，华北的国民党军调整部署后开始转守为攻，并将矛头直指华北我军占领的最大城市——张家口。与此同时，国民党东北保安司令长官杜幸明指挥7 个师，从8 月21日起分别由天义（今宁城）、凌源、山海关、锦州向承德、青龙、建昌进攻。9 月初，敌第十一战区也集中兵力向冀东解放区发动进攻。从华北到东北，国民党军摆开了全面进攻的架式，北中国上空一时间战云密布。华北战场上，聂荣臻终日站在地图前思考着。他知道，部队在大同外围连续作战，损耗较大，需要及时补充、整顿。张家口地处要塞，敌人有非得不可的野心。东面孙连仲的第十六、第五十三、第九十四军已经沿平绥路向怀来进犯，西面傅作义的4 个师22个旅已经集结于集宁、大同一线，随时可能东犯。这些天，国民党的飞机还不时地对张家口进行轰炸扫射。如果一味固守张家口，敌人一定会集中兵力多路强攻，那时候，晋察冀军民将
  不得不在不利的条件下与优势敌人对抗，就会陷入被动。
  放弃张家口？聂荣臻心里有一种说不出的感觉。每当这念头出现时，他便有这种感觉。张家口可是我军付出血的代价后直接从日军手里解放的，放弃，部队会怎么想。
  可死守张家口，等于我军背着包袱迎战强敌，我军优势将拱手让给敌人。
  经历过无数血与火考验的聂荣臻在充分权衡了利弊后，果断地向中央军委建议，撤离张家口，以争取主动。
  陕北，毛泽东平静的脸上并未流露出过多的惊讶。聂荣臻的想法与他的想法多少有些不谋而合。眼下保住部队，争取胜利是第一位的，一城一地的得失不应看得太重。正是这一点，透出了毛泽东与蒋介石军事上的根本不同。
  中央军委完全赞同聂荣臻的意见，并且根据苏中的经验强调指出，晋察冀主力应“以歼灭敌有生力量为主，不以保守个别地方为主，使主力行动自如，主动地寻找好打之敌作战”。
  不出聂荣臻、徐向前等人所料，撤离张家口的消息一传出，便在部队中引起了不小的波澜。张家口是晋察冀军民亲手从日本侵略者手里解放出来的，现在要主动转移，许多指战员都有不同想法。
  有人提出，张家口不应该放弃，要敢于与敌对垒。当年冯玉祥固守过张家口。
  “我们不能背这个包袱！”动员会上，聂荣臻操着四川口音，再次强调他的决心，“战争是长期的，在万一不利的情况下，不作孤注一掷，不为一城一地所束缚，这不是说轻易放弃一切城镇。比如张家口这个大城市是压在我们肩膀上的大包袱，并非绝对不能不弃，但决不能轻易放弃。敌人进攻张家口，能守就尽量守，形势不利就只进行掩护作战，不坚守。现在敌人几路同时围攻张家口，我们为什么还要背这个包袱呢？撤离张家口，就把这个包袱丢给了敌人，我们就有了主动权。”
  正当我军紧张地部署撤离张家口时，蒋介石又做了一个小动作，过早地揭开了晋察冀军区打张家口保卫战的序幕。
  国民党军队占领集宁、承德和冀东各县城以后，北平行辕主任李宗仁决心“彻底摧毁热、察、绥根据地，收复张垣（即张家口），打通平绥路，巩固华北。”蒋介石为了在国民党代表大会上吹嘘胜利，急于想打通平绥铁路，抢先占领张家口。于是，命令第十一战区李文兵团的第十六军、第五十三军分别从南口和怀柔地区沿平绥铁路向怀来发动进攻；命令第十二战区傅作义所属的第三十五军、暂编第三军及一个骑兵师、两个骑兵总队零两个旅在集宁、大同一线待机行动，摆出了一副东西对进、会攻张家口的架势。
  在这种情况下，晋察冀军区首长判断敌人可能以康庄、怀柔地区的两个军为主，全力向西进攻。集宁的敌人可能在东线敌人占领怀来后沿平绥路东进，与西进之敌会师于柴沟堡地区。
  这是一个歼灭敌人的机会。初战小胜，助长了国民党军骄狂的气焰。几路分兵，无疑给我军提供了一个各个歼敌的良机。晋察冀军区决心以歼灭康庄、怀柔西犯之敌为目的，在撤离张家口之前先进行一场张家口保卫战。
  接到晋察冀军区的报告后，中央军委以最快的速度回电表示同意，并具体要求晋察冀野战军司令员萧克、政治委员罗瑞卿组成前线指挥部，直接指挥这次战斗。当时，晋察冀野战军参谋长是耿飚，政治部主任是潘自力，整个领导机关和直属队都驻在怀来。下属4 个纵队，颇具战斗力，指挥员都是
  经过长征和抗日战火考验的老红军。
  第一纵队司令员杨得志，政治委员苏振华。该纵队有3 个旅，实力最强。
  第二纵队由郭天民任司令员兼政治委员。
  第三纵队司令员杨成武，政治委员李志民。
  第四纵队司令员陈正湘，政治委员胡耀邦。
  萧克和罗瑞卿经过反复研究，决定以郭天民的第二纵队主力在怀来、延庆地区正面抗击敌人进攻，以杨得志、苏振华指挥的第一纵队和第二、第三纵队各一个旅隐蔽集结于怀来之南地区，待机出击。
  为了分散敌人的兵力，配合平绥路作战，第三纵司令员杨成武和冀晋军区政委王平指挥6 个旅的兵力，在平汉铁路北段发动进攻。
  9 月29日，敌李文兵团的4 个师在370 多架次飞机和数百辆坦克的掩护下，趾高气扬地向怀来发起进攻。当地面部队遭到我军阻击时，敌人的飞机对我军陆地、交通线及后方基地进行狂轰滥炸。敌人虽在火力上占有绝对优势，但进攻速度缓慢。
  蒋介石沉不住气了，先前他已夸出海口，若不能速战速胜，他将如何向世人交代。为了避免在国民党代表大会上丢丑，蒋介石又派出他的参谋总长陈诚和北平行辕副主任陈继承亲自到南口，部署新的进攻。
  陈诚一到北平便别出心裁，调敌第九十四师主力从北平附近经横岭向怀来迂回。对此，罗瑞卿和萧克早有准备，很快调杨得志、苏振华指挥5 个旅零1 个团在敌行进途中两次设伏，痛痛快快地歼灭了1600多敌人。
  蒋介石眼看着李文兵团抢占张家口的愿望要落空，情急间又重演故伎，手写一纸命令，把张家口划归第十二战区的博作义管辖。
  在西线按兵不动的傅作义看到蒋介石的嫡系部队与我军激战，受到重大伤亡，无法接近张家口，正暗暗得意。接到蒋介石把张家口划归第十二战区的手令，不由得冷笑一声，迅速调集2 万多人的部队，从集宁向张家口的侧背迂回。对此，我军估计不足，傅部第二天就占领了张北。
  由于东西两面的敌人一步一步地向张家口靠拢，晋察冀野战军既不好打西面的敌人，也不好打东面的敌人，杨得志所部抓一把就走，但也只是取得歼敌一营、一团的胜利。这种胜利只有战术性的意义，对全局不起作用。因此，张家口失守已成定局。前指鉴于形势，按战前预定的计划，果断下达了撤离张家口的命令。
  撤出张家口的命令下达以后，担任掩护任务的军区教导旅询问要不要在市发电厂放置炸药？正准备撤离的聂荣臻连忙摇摇手，说：“发电厂不能破坏，飞机场也不要炸毁，张家口及其附近的城市设施都不要破坏。部队撤出以后，群众还要在张家口过日子。撤离张家口是暂时的，不用多久，张家口还将回到人民手中，这些设施暂时留给敌人，也免得再解放这座城市时重修。”交待完这番话，聂荣臻才缓缓离开指挥所。
  天上悬挂着一轮明月，市内闪耀着点点灯火。聂荣臻走上街头，随着往外疏散物资的胶轮车和驴驮子，随着稀稀疏疏的行人，离开了塞外山城，向根据地走去。
  月亮很圆，像有送别之情。出了这座要塞古城，聂荣臻眼前还隐隐约约地看到了那耸入高空的太平山，那古老的城墙，那缓缓流淌的大洋河……
  傅作义再次为蒋介石立下大功。当傅军部队进入张家口以后，蒋介石被
  一时的胜利冲昏了头脑，当天下午就下令召开国民大会，对国民党军队进入张家口大吹大擂，“共军已总崩溃”，“可在三个月至五个月内，完全以军事解决问题”，反动气焰越发嚣张。为此，延安《解放日报》曾于10月13日发表社论指出：“我们全解放区一切军队，一切人民，一定要彻底粉碎蒋介石的进攻，收复张家口、承德、集宁、菏泽、淮阴以及一切失地，而蒋介石今天的一切罪恶必将自食其果。”
  撤退途中，部队士气难免受些影响。聂荣臻偶然听到有的机关于部对撤离张家口心里想不通，感情上过不去，常常三三两两的议论，部队进驻涞源的那天傍晚，聂荣臻看到两名战士为张家口的弃守问题争吵起来，其中一人怒气冲冲地说：“八年抗战，钻了八年山沟；好不容易从日本侵略者手中夺回张家口，为什么又要让给国民党？为什么还要再钻山沟？”有人在一旁帮腔说：“如果要我指挥，就像冯玉祥那样，决不离开张家口。”
  聂荣臻再次意识到了问题的严重性。虽说撤退前已经向有关人员讲清了张家口失与得的关系，但真的离开了张家口，部队思想疙瘩还不少，战士有看法，干部也有不同意见，有人甚至由此而缺乏战胜蒋介石的信心，这个问题不解决，将影响部队以后的作战。
  1946年10月22日，聂荣臻主持晋察冀中央局在涞源召开扩大会议。