晋西北军区成立于1940年11月，贺龙为司令员，关向应为政治委员，续范亭为副司令员。9月，晋西北军区改为晋绥军区，120师兼晋绥军区，属联防军司令部建制。 历史沿革
1937年抗战爆发后，日寇入侵山西境内。受中共中央和毛泽东主席指示，贺龙与关向应等率八路军120师主力从陕西富平县出征，挺进抗日前线，进入晋西北管涔山脉地区，展开抗日游击战，开辟了晋西北抗日根据地。之后不久，续范亭等率部也进入晋西北地区。到1938年1月，120师由出师时的8200人增至2.5万人，晋西北各县都建立了1000至2000人的抗日自卫军或游击队。 1938年后半年，120师派出由李井泉等率领的大青山支队向绥远挺进。以大青山为依托，建立了绥西、绥南、绥中三块游击根据地，并逐步同晋西北根据地连成一片，构成晋绥抗日根据地。同年12月，发展壮大的120师主力进入冀中进行对日作战。 1940年1月，晋绥边区抗日民主 政权——晋西北行政公署在蔡家崖成立。中共中央决定成立晋西北军政委员会，作为统一领导晋西北、晋西南、大青山地区各项工作的最高领导机关，由贺龙任书记，关向应任副书记。