1938年10月以前，日军[RiJun]由于将主要兵力用于正面进攻作战，划山东[ShanDong]为乙防卫区，依托重要交通线和城市实施“点线”占领，对山东[ShanDong]的控制力并不强。所以，这时期山东[ShanDong]抗日武装力量得到了较大的发展。
　　1938年10月，广州、武汉失守后，抗战转入战略相持阶段，华北等沦陷区逐步成为日军[RiJun]的战略重心区。11月，日本陆军部提出了“确保占领区”、“恢复治安”、“支持亲日政权日趋巩固和发展”的作战指导原则，要求华北迅速恢复河北省北部、山东[ShanDong]省、山西省北部等重要地区的治安。为此，日军[RiJun]开始由华中、华南向华北调动兵力。到1939年初，华北方面军增至10个师团、8个独立混成旅团，加上骑兵集团、航空兵团等达25万余人。在山东[ShanDong]方面，1938年11月编成华北方面军第十二军，军司令部设于济南，司令官为陆军中将尾高龟藏，负责山东[ShanDong]全省及江苏、安徽北部地区的防卫。1938年底，原南下广州作战的第五师团转回青岛，负责鲁东地区防卫。至1939年2月，第十二军的兵力配备为：第五师团（驻鲁东）、第二十一师团（驻徐州）、第一一四师团（后为第三十二师团，驻兖州地区）、独立混成第五旅团（驻青岛）、独立混成第六旅团（驻鲁南）、独立混成第十六旅团（驻兖州、泰安一带）。另在冀鲁边有方面军直辖的独立混成第七旅团，鲁西一带有第一一○、第三十五师团等。日军[RiJun]力量的增强，为日伪加强对山东[ShanDong]的控制，进行攻势作战提供了条件。1939年初，日军[RiJun]华北方面军为改变“点线”占领的局面，以加强“面”的控制，“确保当时占领地区的安定”，“使华北在政治和经济方面都能独立经营。尤其应该承担开发和获得日本国内扩大生产所需重要资源的重任”，提出了 1939年度“治安肃正”作战计划，分三期推行各项治安肃正施策：第一期，1939年1月—5月；第二期，1939年6月—9月；第三期，1939年10月—1940年3月。日军[RiJun]发动对鲁南的作战即是第二期作战计划的一个重要组成部分。

　　当时，山东[ShanDong]抗战方面的情况是：共产党领导的抗日武装，初步建立了鲁中、胶东、冀鲁边、清河、湖西等抗日根据地。1938年6月，山东[ShanDong]党组织领导的基干部队初步整编，使用八路军番号。11月，黎玉、张经武率大批干部来山东[ShanDong]。12月，八路军山东[ShanDong]纵队[ZongDui]成立，张经武任指挥，黎玉任政治委员，所属部队约2.45万人。山东[ShanDong]人民抗日武装由分散走向统一。山东[ShanDong]纵队[ZongDui]指挥部和中共山东[ShanDong]分局驻沂水县王庄一带。国民党方面，1938年11月，国民政府军令部重新调整战略区划，增设鲁苏战区，以于学忠为总司令，统一指挥山东[ShanDong]全省及苏北地区的党政军。1939年春，于学忠率所部两个军由皖北阜阳、颍州一带向苏北、鲁南地区移动，3月底4月初突破日军[RiJun]拦阻陆续进入鲁南，集结于沂水、莒县、诸城一带，设战区总部于沂水县上高湖（今属蒙阴县）。与此同时， 1939年初由鲁北进入鲁南的国民党山东[ShanDong]省政府主席沈鸿烈也把省政府机关驻地设立在沂水境内的东里店。东里店位于沂河上游河畔，是沂山、蒙山、鲁山交汇处丛山环抱的古镇，人口约200多户。省政府主要机关的房舍就建在镇北的山坡上，省政府四散的军政人员开始向这里汇集，地方一些军政机构也陆续在这里设立办事处或联络站，安置电台。这也带来东里店人口和商业活动的一度兴盛，小饭店、小旅舍、小商店在东里店沿街设立，鳞次栉比，一时间，人气颇盛，人称“小济南”。就这样，出现了山东[ShanDong]共产党和国民党党政军首脑机关齐聚鲁中沂水的局面，一派兴旺。
　　这种状况，对于日军[RiJun]来说，显然不是好现象。以沂水为中心的鲁中山区地处山东[ShanDong]战略腹地，向西、向北可威胁日军[RiJun]战略动脉津浦、胶济铁路线，向南可直出临沂和重兵驻守的徐州与陇海线。为消除心头大患，驻山东[ShanDong]日军[RiJun]第十二军根据华北方面军“治安肃正”作战计划，决定利用部队换防兵力双重配置的机会，发动以鲁中南山区的八路军和国民党军队、机关为重点的鲁南作战（即“キ号作战”），作战时间为6月7日至25日；作战目的为“剿灭上述中国军队，并对该地区进行肃正”，同时，在进攻地区的要地部署兵力；作战部队为：以第五师团为基干，配以第二十一、第三十二、第一一四师团及独立混成第五旅团各一部，共2万余人。这是日军[RiJun]对鲁中山区进行的首次大“扫荡”。
　　6月4日，日军[RiJun]从临沂、太平邑、新泰、莱芜、临朐、安丘、诸城附近同时开始行动，冒酷暑向莒县、沂水附近分进合围。日军[RiJun]进击的主要路线是：由淄川、博山、安丘、诸城向南，由泗水、新泰、莱芜向东，多路逐段展开，逐段合击，在所有道路上埋伏小部队，大张罗网，然后压缩包围圈；进击的目标是驻沂蒙山区的国民党和共产党的党政军首脑机关及其主力部队，主要目标是鲁苏战区总部和山东[ShanDong]省政府所在地东里店一带。
　　6月7日，日军[RiJun]相继出动15架次飞机首先轰炸东里店，炸死 300余人，4000多间房舍化为灰烬。6月9日，自北面进攻的日军[RiJun]占领了沂水、莒县；自西南、南面进攻的日军[RiJun]亦进至大河店、河阳、坦阜、南麻一带。10日，日军[RiJun]再次出动飞机轰炸东里店及鲁苏战区总部驻地和山东[ShanDong]纵队[ZongDui]部队驻地。11日，日军[RiJun]占领东里店、坦埠、鲁村等地，西、北、南三面数路之敌会合于沂水。6月 15日，日军[RiJun]增加兵力，继续围攻集结、游移于沂水、蒙阴北部山区的各支抗日部队。至25日，鲁南各县城及主要村镇悉为日军[RiJun]占领，原来未配驻兵力的各县城，日军[RiJun]都建立了据点。
　　面对日军[RiJun]，各部队、机关立即紧急行动起来，展开反“扫荡”。参与作战的主要是八路军山东[ShanDong]纵队[ZongDui]和鲁苏战区所属东北军部队，并有一些合作。
　　中共山东[ShanDong]分局和山东[ShanDong]纵队[ZongDui]对反“扫荡”进行了严密部署，并采取了机动灵活的策略。6月6日，山东[ShanDong]分局发出关于反“扫荡”工作指示，要求各级进行紧急动员，广泛发动民众参战，破坏道路，放哨侦察，传送情报，运送伤兵及粮秣；扩大游击部队，建立游击小组，进行群众性的袭扰，以“麻雀战”消耗阻滞敌人，打击与相机消灭小股敌人；领导和机关人员分散到各部队，指导反“扫荡”斗争，协助地方开展武装斗争；坚持内线与外线作战相结合，打击“扫荡”之敌。山东[ShanDong]分局、山东[ShanDong]纵队[ZongDui]指挥部率领特务团等少量部队，转战于沂水、蒙阴一带，坚持内线作战。主力部队迅速跳出日军[RiJun]包围圈，转移至外线作战。第一支队活动于新泰、蒙阴、泗水之间；随山东[ShanDong]纵队[ZongDui]指挥部活动的第二支队转移至费县日军[RiJun]的侧后；第四支队控制泰莱边的莲花山区；活动于鲁东南地区的山东[ShanDong]纵队[ZongDui]第一支队第二营进入沂蒙区参加反“扫荡”斗争。
　　在内线作战中，6月8日，保卫山东[ShanDong]纵队[ZongDui]兵工一厂的回民连，在绳庄与日军[RiJun]大部队展开激战，22名指战员英勇牺牲。9日，山东[ShanDong]分局和山东[ShanDong]纵队[ZongDui]指挥部撤出王庄，经沙地战斗后，翌日晨，转移到沂水梭峪村，遭到日军[RiJun]进攻。纵队[ZongDui]特务团和分局警卫排为掩护分局和纵队[ZongDui]指挥部转移，占据常庄附近一座山头与日军[RiJun]血战竟日，打退日军[RiJun]多次进攻。日军[RiJun]调来飞机轰炸增援。特务团和分局警卫排伤亡很大。特务团副团长曹洪胜、政治处主任王永才等在战斗中牺牲。在此紧急情况下，刚转移到常庄的东北军第五十一军军长牟中珩，接受郭洪涛的建议，派两个连兵力冲上山头，用机枪猛扫日军[RiJun]，终迫日军[RiJun]撤退。此后，内线部队又在沂水保安庄、龙湾、王家庄及蒙阴朱家坡、官桥、新泰龙须庄等地，袭击日军[RiJun]据点，侧击前进之敌，跳出日军[RiJun]合击圈。6月下旬，山东[ShanDong]分局和山东[ShanDong]纵队[ZongDui]指挥部转移到蒙阴县坡里，日军[RiJun]来犯，山东[ShanDong]纵队[ZongDui]特务团阻敌于黑头洼，激战竟日，打退了日军[RiJun]。在抗日根据地内坚持斗争的游击队及自卫团，也普遍行动起来，捉拿汉奸，并寻机袭扰日军[RiJun]。沂水第二区的群众武装捉汉奸多人，打死日军[RiJun]数人。
　　转移到外线的山东[ShanDong]纵队[ZongDui]各部队，广泛开展游击战。6月上旬，第四支队三营于莱芜寨里以东温石埠伏击日军[RiJun]运输队，缴获新式电台1部，步枪100余支，军用雨衣400余件，歼灭日军[RiJun]特务队长以下10余人。当日军[RiJun]东犯东里店及王庄之际，旋以一部转到日军[RiJun]侧后，在十字涧、公庄、旋福峪，不断打击、袭扰日军[RiJun]，迫使日军[RiJun]不得不以强大兵力用于护卫龙廷、土门、旋福峪及新汶公路。6月18日，山东[ShanDong]纵队[ZongDui]一部出袭历城柳埠日军[RiJun]据点，威胁历城、泰安。21日，日军[RiJun]集结1000余人由邹县、南驿、吴村等地分四路奔袭第四支队南下挺进支队司令部驻地解甲河。担任警戒任务的基干第一营二连及第四连的一个排，为掩护支队机关及其他部队转移，在小山据险抗击，遭敌重兵包围，指战员浴血拼杀，毙伤日军[RiJun]200余人，终因众寡悬殊，加之敌炮火猛烈，被围我军除一部被接应突围外，支队司令部作战科长王坤、副教导员王志耕、特派员黄文山、副连长陈华堂以下47名指战员壮烈牺牲。6月23日，活动于博莱边的山东[ShanDong]纵队[ZongDui]第四支队第三营及先遣大队，袭击进占莱芜苗山之敌。当时正在河边洗澡、休息的日军[RiJun]，在突如其来的攻击下，伤亡惨重。日军[RiJun]指挥官旋即组织部队分数路反击，我军退至山岭抗击。日军[RiJun]连续冲锋七八次，发射炮弹300余发，均未奏效。激战至晚上8时，日军[RiJun]退至后坡村。翌日，博山、莱芜之敌增兵数百，分三路向我军进攻，激战竟日，各自退回原防。此次战斗，毙伤日伪军100余人，俘敌10余人，缴获颇多。我军伤亡20余人。与此同时，山东[ShanDong]纵队[ZongDui]第一支队于滋（阳）临（沂）、新（泰）汶（大汶口）公路沿线，主动出击，曾袭占卞桥，克复华村，侧击新汶路张家栏子、大刘杜、南流泉之敌，破坏交通运输线，给日军[RiJun]以沉重打击，第一支队基干三营营长魏培德英勇牺牲。
　　在反“扫荡”中，山东[ShanDong]纵队[ZongDui]为团结于学忠部、沈鸿烈部抗战，也曾带领和掩护他们突围，帮助收容失散人员，充分表现出团结友军抗战的真诚。
　　鲁苏战区方面，面对强敌，总部决定的方针是，在不放弃根据地原则下，化整为零，不打硬仗，以团为单位，避免决战，避实击虚，划定活动地区与敌人打游击战。这一作战部署限制较多，战区所属部队各自为战，虽多有斩获，但也蒙受了重大损失。
　　按照战区部署，第五十七军主要活动于莒（县）日（照）山区及山东[ShanDong]、江苏交界地区。日军[RiJun]“扫荡”开始后，第五十七军军长缪澂流带着军部，以第一一一师第三三三旅保驾，逃到西山区躲避“扫荡”，留下第一一一师师长常恩多率第三三一旅在莒（县）日（照）山区坚持。6月9日，南部之敌攻占大店、河阳、坦埠、南麻一线。常恩多指挥第三三一旅阻敌前进，激战一整天，率部撤往甲子山区。日军[RiJun]一部尾追不舍，在甲子山北麓黄墩附近将第一一一师一部合围。常恩多命令少校参谋王大伦率第六六六团第二营侦察前进，于黑夜从日军[RiJun]结合部缝隙钻出，安全突围。此后，部队在日莒公路两侧来回活动，多次跳出日军[RiJun]合围圈，拖得日军[RiJun]追击部队疲于奔命。终于在莒县东九里坡丘陵地带设伏成功，毁日军[RiJun]汽车12辆，毙伤日军[RiJun]100余人，缴获枪支弹药一批。1939年 8月18日《大众日报》刊登了这一消息。牟中珩第五十一军军部及直属部队主要活动于沂水北部沂鲁山区一带，所属第一一四师活动于蒙阴以东，沂水以西，博山以南，沂蒙公路以北地区。牟中珩率所部与日军[RiJun]周旋时，与山东[ShanDong]分局、山东[ShanDong]纵队[ZongDui]在葫芦峪相遇。山东[ShanDong]纵队[ZongDui]主动让出村西头房子。牟中珩派作战科科长张子镇和副官王再天前往联系，交换敌情，并研究下一步行动。山东[ShanDong]纵队[ZongDui]指挥张经武出面接见，没谈多久，天就亮了，村东头发现敌情。张子镇和王再天见正在抵抗日军[RiJun]进攻的一支小分队，连一挺轻机枪也没有，便说服军长牟中珩派出第五十一军特务营一个连接防，激战两小时，击退日军[RiJun]。接着侦察员回来报告：日军[RiJun]援兵正分两路向葫芦峪进犯。牟中珩让参谋处长徐维齐带着张、王二人再次前往山东[ShanDong]纵队[ZongDui]，研究突围路线。决定第五十一军向西转移，山东[ShanDong]纵队[ZongDui]向北转移。由于山东[ShanDong]分局、山东[ShanDong]纵队[ZongDui]指挥部机关手头无兵可用，牟中珩借给一个排，带两挺轻机枪，掩护山东[ShanDong]分局和山东[ShanDong]纵队[ZongDui]机关转移。
　　6月7日，西路进攻蒙阴的日军[RiJun]，直逼活动于这一带的方淑洪第一一四师师部及三四○旅六八○团。这一地区是日军[RiJun]进攻的中心地区。日军[RiJun]占领蒙阴县城后，方淑洪即率师部与六八○团沿沂蒙公路向东转移，一夜行军，到达沂水以西三十里铺附近，得悉沂水县城亦被日军[RiJun]攻陷后，折向西北方向，转移到鲁村附近。刚住一天，博山之敌3000余人又出动南犯。方淑洪为避免决战，率部向蒙阴以东、沂水西北地区转移。由于受到划定活动范围的限制，方淑洪率部就这样转来转去，在日军[RiJun]的空隙间穿插行动。 24日，方淑洪所部在沂水焦家上庄附近，遭到多路敌人进攻，突围中六八○团与师部失掉联系。方淑洪只好冒着大雨率师部及直属部队，向东南转移，翌日晨，遭遇日军[RiJun]。方淑洪指挥仅有的一个特务连，一个骑兵连，加上一个半武装的工兵营，掩护师部和通信兵营转移。部队沿山沟向东南转至冯家场附近时，在一条峡谷里与大股日军[RiJun]迎头相遇。方淑洪指挥骑兵连、特务连及在身边的卫土，与敌拼杀。由于武器装备和地形均处于劣势，方淑洪指挥士兵与日军[RiJun]苦战3个小时后，伤亡过半。方淑洪战死。
　　山东[ShanDong]省政府方面，由于对形势的突然变化缺乏充分的准备，日军[RiJun]在首先轰炸了东里店后，即陷入一片恐慌，省政府机关人员和护卫部队大多分散、隐蔽，躲避日军[RiJun]的攻击。沈鸿烈率一部分人由教导团护卫，频繁游移于蒙阴、沂水北部山地，后被冲散，吴化文速调一个营支援，也被打垮。沈鸿烈所领导的山东[ShanDong]省政府在这次反“扫荡”中几无作为可言。
　　6月25日，日军[RiJun]包围攻击集结于蒙阴北部山地的于学忠部后，除第五师团留驻于鲁中南山区继续“扫荡”外，基本结束了这次作战。7月初，留驻日军[RiJun]依托占领据点进行分区“扫荡”。7月下旬，“扫荡”之敌撤退。
　　日军[RiJun]这次鲁南作战，给鲁中山区以极大的破坏，受损失最重的是沈鸿烈的山东[ShanDong]省政府。日军[RiJun]“扫荡”期间，国民党山东[ShanDong]省政府失去了刚营建起来的东里店驻地，省政府机关人员基本星散，基层政权纷纷垮台。至8、9月形势稍趋稳定，省政府机关干部陆续集中，但办公地点仍是流动的，先是自鲁村、茶峪移驻广河峪，后转至临朐西南东峪、寺头及吕匣店子一带，几无定所，直到1940年夏秋，方才稳定于临朐南部山区吕匣店子一带。
　　于学忠部于1939年秋冬，重新集结于沂（水）、蒙（阴）、莒（县）、临（朐）、日（照）一带。于学忠在沂水县西北部、沂山南麓的圈里设立战区总司令部。
　　中共山东[ShanDong]分局、山东[ShanDong]纵队[ZongDui]经受了大战的考验，不仅积累了作战经验，而且进一步发展。7月，利用日军[RiJun]收缩、撤退之机，展开反击，收复失地。同时，根据中共中央与山东[ShanDong]分局关于努力争取政权的指示精神，在日军[RiJun]“扫荡”过后，国民党地方政权纷纷垮台之际，积极建立抗日民主政权。7月，建立了临淄县抗日民主政府；8月，建立了莱芜县抗日民主政府和莱南行署；9月，建立了博山、临朐县抗日民主政府；10月，建立了新泰、沂水县抗日民主政府。