在鲁东，面对日伪军的疯狂“扫荡”，清河特委和山东纵队第三支队转移到淄博一带山区活动，徐向前、朱瑞明确指示，第三支队应撤出胶济铁路以南的小块山区根据地，全力坚持清河平原游击战争。
据此清河特委和第三支队又回师清河区。到1940年底，横跨小清河南北，直至鲁北沿海和黄河入海口的清河抗日根据地基本形成，全区面积2.1万平方公里，人口110万。
在鲁中，山东纵队第一、二、四支队一直活跃在沂蒙山区和泰山区，多次粉碎日伪军的扫荡，进行了五井反击战、孙祖伏击战、杨家横包围战等著名战斗，扩展了鲁中区西南部的泰、泗、宁边区和北部淄河流域根据地，巩固扩大了临费边区，与鲁南、滨海、清河等区打通或加强了联系。
此时何挺的部队调入鲁中，何挺也担任支队长的重要职务。
在鲁东南，特委和山东纵队第二、九支队积极创建根据地，到1940年底，新开辟了18个区、600多个村庄，莒县、日照以南，陇海铁路以北，沭河以西，黄海以东的鲁东南根据地正式形成。
在湖西，苏鲁豫支队和第三大队转战陇海路南北，多次粉碎日军的“扫荡”，还反击了朱世勤、冯子固等顽、投势力两万余众的联合进攻，逐渐稳定了该区形势，巩固了微山湖东西两岸大片地区，并北向金乡、巨野间开辟了部分新区。
苏鲁豫支队和山东纵队陇海南进支队等部还开辟了苏皖边区抗日根据地，后划归中原局领导。
政权问题是革命的根本问题，也是抗日民主根据地形成的主要标志。
然而，山东各地抗日武装在创建根据地之初，由于对建立抗日民主政权重要性的认识和经验不足，也由于国民党顽固派的种种阻挠，因而在能控制的地区，并没有把各级抗日民主政权普遍建立起来。
而国民党部队特别是沈鸿烈省政府则凭借其正统的名义，在全省所能影响的地区普遍建立并加强旧式政权。
以沈鸿烈为代表的山东顽固势力还把我党我军坚持团结抗战、一再忍让的态度视为软弱可欺，屡次制造fǎn • gòng 摩擦。
对此，1939年5月19日，中共中央明确指示：在政权问题上，“应认识无论八路军或地方游击队，如无政权则决不能发展巩固与建立根据地。因此，已得的政权决不应放弃，并还应努力争取新的县区政权”。
5月24日，山东分局根据中央指示作出了加强抗日根据地建设，加紧建立抗日民主政权的决定。
7月，山东分局又发出恢复县、区、乡政权的指示，提出建立的政权要保证党的领导，县、区、乡长兼八路军游击大队长、中队长、分队长。
此后山东民主政权出现了大发展的局面。如鲁中地区先后建立了莱芜、博山、临朐、新泰、沂水、益都、章丘、泰安、费县、蒙阴等10个县政府及莱南行署、沂南行署、泰安办事处3个县级政权，连同此前建立的淄川县共14个县级政权。
清河区除原有的齐东外，又先后建立了长（山）桓（台）临（淄）益（都）四县边区行政联防办事处、临淄县政府、益寿临广四边行政办事处、邹长（后划分为邹平、长山两县）、广饶、桓台、寿光、蒲台县政府及益北行署。
鲁北建立了陵县、商河、无棣、阳信、禹城、临邑等县政权。
到1940年夏，区级民主政权已达352个，抗日民主政府政令所及的区则达到636个。
随着山东各抗日根据地的发展和各地抗日民主政权的建立，建立全省统一的行政机关、参议会、各群众抗日团体的领导机关提上了议事日程。
1940年7月26日，山东省国大代表复选大会，山东省民众总动员委员会成立大会，山东省工、农、青、妇、文化各界总会成立大会和山东省各界救国联合会成立大会的联合大会，在沂水南部青驼寺隆重开幕。
大会历时一个月，选举产生了全省的民意机关——山东省临时参议会，进步人士范明枢任参议长；选举产生了全省统一的行政机构——山东省战时工作推行委员会，黎玉任主任委员（当时称首席组长）。
还选举产生了工、农、青、妇、文化各界抗日群众团体的负责人。随之，战时工作推行委员会在全山东抗日根据地颁布了一系列抗日民主法令和法规，推进抗日民主政权建设。
到1940年底，山东共建成鲁西、清河两个行政主任公署、12个专员公署、79个县政府，辖有鲁中、鲁南、滨海、胶东、清河、湖西、鲁西、冀鲁边和苏皖边等地区，人口约1200万，面积3600平方公里。
山东统一的抗日民主政权的成立和各级抗日民主政权的建立，标志着山东抗日民主根据地的形成。