1937年7月7日,盧溝橋打響了抗戰全面爆發。由於河北軍閥宋哲元對抗國民政府,所以他不做戰前部署一味退讓。結果日軍突然發動全面襲擊,雖然29軍官兵在一度在天津等地頑強反攻,但還是在二三周內失去了平津地區。
宋哲元盡全力拒絕中央軍進入河北,蔣介石用盡全力才讓包括53軍在內的國軍10萬大軍趕到保定會戰爆發。雙方鏖戰10日日軍傷亡近萬人,國軍傷亡2萬多人。轉而在石家莊中日兩軍又激戰半個月,這就是石家莊戰役。石家莊戰役後日軍繼續向南推進,湯恩伯20軍團為主的國軍繼續抵抗。雙方從10月12日激戰到12月底,日軍佔領河北境內平漢線的冀南大部分地區兩軍沿著衛河對峙。
在平漢線激戰的同時,河北境內的津浦路上,中日兩軍也在激戰。馮玉祥和鹿鐘麟為正副指揮,兩軍從8月打到9月底,戰況一度對國軍很有利,卻因為宋為保存實力一再拒絕執行命令,擅自南撤戰敗退到山東境內。在國軍幾十萬大軍在河北境內激戰的時候,同時也在部署將來在敵後作戰的部隊。
宋又用盡全力不允許中央軍涉足河北省,加上地方政府完全是宋哲元的,所以河北敵後武裝力量基本都只能由宋哲元來部署。部署主要包括這幾方面,七七事變後,宋哲元在蔣介石許可下,下令在保定組織河北民軍,張蔭梧擔任河北民軍總指揮,主要負責冀中地區的作戰。張在極短時間內就建立了10個團的民軍武裝,隨後在河北,山西東南,河南北部和東部不斷襲擊日軍,但傷亡也巨大最後僅剩1個團。
自從七七抗戰開始以後,中共北方局就利用以前潛伏下來對付國軍的地方黨和武裝力量,以抗日為旗號招兵買馬拉部隊,建立自己的控制區武裝割據。當時冀中的定縣,蠡縣,無極縣等都建立了中共的遊擊武裝,稍後派孟慶山趕赴冀中整合各部,建立了中共冀中抗日遊擊隊,當時的名稱叫做河北遊擊軍。孟慶山本人是老紅軍能力很強,不過這支武裝的實力有限。
呂正操18歲時報名加入了東北軍,被分配到衛隊旅一團三營九連當兵。由於有一定的文化基礎,在部隊招考文書時被選中,調旅部副官處當文書;很快受到了張學良的賞識,被推薦報考東北陸軍講武堂,並考取了第五期。1925年畢業後,他當上了張學良的少校副官。在七七事變爆發時,呂正操是東北軍的一個團長是張學良的心腹,也是張學良私人團體抗日同志會的一員。張學良扶持呂正操,萬毅,高福源,孫銘九之流的年輕軍官加入這個會,目的在於更換老的東北軍高級軍官,建立絕對忠心於自己的武裝力量消除舊東北軍的派系。
在西安事變期間,由於張學良和中共走的極近,甚至有明確資料表明張學良已經入黨化名李宜,那麼自然他的部將呂正操,高福源等人也不例外。1937年2月,呂正操正式加入中共,當時北方局給他的命令就是尋機將部隊拉走,加入八路軍。
53軍軍長萬福麟是個老軍閥,他一向認為呂正操有問題,但也希望後者帶的一個團脫離出去,以減弱53軍的實力始終沒有下狠手。在這個期間,呂正操將全團幾乎所有軍官換成了黨員。七七事變以後呂正操的目的並不是跟著萬福麟抗日,借著撤退的機會投靠了八路軍。當時53軍奉命南撤,進行保定會戰,呂正操的691團負責全師的殿后正好逃走。不過從政治角度考慮國共合作,最終沒有用八路軍的旗號,而是自己編了一個所謂人民自衛軍。
691團基本完整2個營的兵力,東北裝備非常好,部隊有大量輕重機槍,還有迫擊炮,甚至2門平射炮。呂正操隨即和共產黨冀中遊擊隊孟慶山部會合,在河北地下黨組織的幫助下,很快站住了腳。站住腳以後,呂正操就開始所謂獨霸冀中的計畫。開入冀中後呂正操以鐵血手段吃掉異己部隊,逐步控制了整個冀中。呂正操軍閥軍官出身性格暴躁。冀中根據地正式建立以後,對於地主富商,甚至普通的富農中農,都是嚴厲打擊和壓榨。呂正操初到冀中沒有自己控制的政府,需要的錢款只能在當地使用武力。
他們的自衛軍佔領了日寇還沒有控制的深澤,安平,安國幾個縣城,而冀中共產黨遊擊隊孟慶山則控制了高陽,安心,任丘,蠡縣的大部分地區,兩軍會合,實力就不小了。隨後立即開始所謂的打擊漢奸行為。大體是看誰有錢就扣一個漢奸的帽搶錢。如果不給直接槍斃。軍隊需要武器彈藥,這在河北並不算難事。當時中國地方其實並不禁槍,匪患地區政府甚至鼓勵民眾自備武器。中日兩軍大規模激戰過遺留很多武器。呂正操通過地方情報網知道哪些人有槍,就命令他們限期交出不然槍斃,這樣反復幾次就把對方榨幹了。
對於糧食就派部隊下鄉借糧就是搶糧食,很快吃光一個村再換下一個。這樣搞得人民活不下去怨聲載道。後來賀龍來到冀中以後,還有大量的當地民眾向賀龍告狀。當然,這一切還只是建立政權的初期,真正建立自己的政權以後,就通過地方行政機構強行攤派即可。呂正操開始為了爭取地方力量支援通過選舉的方式。所謂的人民選舉的縣長根本沒有權力,必須聽從呂正操安排的一個副手。幾個月後就找個漢奸罪,直接廢除老的政府換成八路軍自己的。
當時冀中的武裝力量很多,但包括原本控制冀中十三縣的張蔭梧在內,也沒有什麼正規軍。而呂正操是唯一的正規軍,就戰鬥力來說具有很大的優勢。當時冀中的武裝力量大體包括四類:國民政府留下的敵後遊擊隊;地方實力派和軍閥組織的抗日武裝;聯莊武裝以村莊為單位的自衛武裝;會道門武裝力量。會道門最弱人數有4萬人不堪一擊。聯莊武裝總兵力有七八萬,卻分散成上千個村莊一盤散沙。唯一對呂正操有威脅的就是前兩個。呂正操儘量和平收編不願意的消滅。
諸如軍分區司令朱占魁是地方武裝力量歸順。尹松山本來是冀東保安隊,七七時候冀東保安隊集體起義歸順國民政府,尹松山就帶著200多部下來到高陽抗日。當時中共冀中遊擊隊孟慶山部實力有限,所以跟他保持很好的關係一同抗日。呂正操正規軍來了要求收編,尹松山不願意被抓住槍決,名義是處決大漢奸大土匪,其實尹松山是抗日的。
處決尹松山以後,周邊一些實力派畏懼呂正操的威力,先後歸順,這樣自衛軍迅速擴充到5000多人。呂正操隨後連續吃掉了深縣,深澤的兩股地方力量近4000人,然後幹掉了安國境內,隸屬孫殿英的國軍敵後遊擊隊高建勳部。後來連饒陽縣境內國民政府正式任命的武裝力量向修文也吃掉了。向其實是親共的還有不少共產黨員,這樣部隊繼續擴充到2萬。
消滅了主要敵人以後,呂正操開始收編聯莊武裝和會道門武裝。派出部隊武力打擊很快解決了。到了1938年底,聯莊武裝被收編近3萬人增加到6萬人。此時是冀中根據地的鼎盛時期,正規軍兵力高達6萬多人,相繼建立了38個縣的抗日政權。東起津浦路、西至平漢路、北起平津、南至滄縣石家莊路之間的冀中根據地初步建立起來,並成為晉察冀邊區抗日根據地的重要組成部分。
1938年4月1日,成立了冀中行政公署,由江青的前夫黃敬任書記。5月4日,成立八路軍冀中軍區。人民自衛軍與河北遊擊軍合編為八路軍第三縱隊,由呂正操任縱隊和軍區司令員。由此,冀中徹底成為八路軍的地盤。建立自己的獨立王國以後,就開始冀中肅清託派消滅異己。開始呂正操畢竟是剛加入中共,對這一切不太瞭解對肅托不積極。
8月,為使“肅托”工作深入發展,晉察冀軍區政治部派“肅托”工作小組到冀中進行監督檢查。其實就是聶榮臻派人監督呂正操,以消滅不可靠的部下。第一個倒楣的就是高順成。高順成本來是抗日部隊,多次打擊過日偽軍。當地老百姓也比較擁護他號稱萬人之眾。後呂正操到了冀中高歸順自衛軍,成為遊擊第1師。高在歸順後仍試圖保持一定的獨立性,呂正操在軍區設局將高順成打死後抄家,他有個外甥高甯子當團長因為怕他報復,派了兩個連堵在他家門口騙出來槍斃了。
段士增是第二師師長因為不是老八路出身,擁護他的部下太多被定成“託派”。有關領導幾次來電話,命令孟慶山將段士增、楊萬林、崔樹凱3人處決。在冀中“肅托”過程中,孟慶山的河北遊擊軍的一些幹部戰士都被殺,如河北遊擊軍政治部主任侯平,第8路軍總指揮劉可忠,第5路軍副總指揮張靜明。呂正操的人民自衛軍的幹部戰士也難倖免。人民自衛軍政治部主任李曉初也被定為“託派”,處決後又涉及到200多人。同時被殺害的還有冀中軍區供給部長熊大縝等人人自危。
柴恩波是獨立二支隊隊長,也是投靠八路軍的地方武裝。1939年2月20日,上級下達命令,調柴恩波的獨立二支隊去冀中軍區首府肅寧整編整訓。柴恩波暫時按兵不動。當時賀龍已經率領120師主力來到冀中。賀龍一再命令柴立即趕到肅寧。柴決定接受國民政府委任的“冀察遊擊軍第一師師長”和“冀中剿匪總司令”的頭銜。賀龍出動120師正規軍主力猛攻柴恩波。柴恩波最終投靠了日成為偽軍。
國民政府給八路軍劃定的地盤為山西省,八路軍擅自進入河北山東都屬於抗命。呂正操打下冀中後下一步,自然是對付國軍的敵後武裝部隊。當時日軍在華北兵力不多,主力都調到南方對付國軍去了。即便是偶爾遇到日軍八路也輕易絕不敢碰,況且其主要敵人也並非前者。