1938年2月，中国共产党领导的山东人民抗日救国军第三军(八路军山东纵队第五支队的前身)的20多名将士，在胶东半岛的牟平县雷神庙，遭到100多名日本海军陆战队士兵的包围，全体将士浴血奋战七八小时，毙伤日军50余人，最后成功突围。这是中共军队同日军在胶东半岛的第一战，打响了胶东抗战的第一枪，也是中共军队同日本海军陆战队在整个抗战时期都极为罕见的战斗，并且取得了不俗的战绩，大大鼓舞了中国军民的抗战士气。

　　1935年11月29日，中共胶东特委组织文登、牟平、海阳、荣城等县的农民以昆嵛山为中心，分东西两路举行了震撼山东的“一一•四”暴动，起义部队的番号定为“中国工农红军胶东游击队”，共千余人，分5个大队。暴动发起不久，就遭到国民党反动派的残酷镇压，幸存下来的30多名红军游击队员转入昆嵛山区，坚持斗争。

　　七七事变后，统治山东的国民党军阀韩复榘不战而逃。1937年12月24日，在中共胶东特委书记理琪的领导下，以昆嵛山红军游击队员为骨干，在文登县天福山举行了武装起义，宣告山东人民抗日救国军第三军正式成立，因人数仅80余人，只成立了第一大队，这标志着胶东第一支由中共领导的抗日武装的诞生。1938年1月，理琪又组织了威海起义，将第三军扩大为两个大队，同时成立了第三军司令部，理琪任司令员，林一山任政治部主任。

　　1938年2月3日，日本海军陆战队在烟台登陆，胶东的国民党官员降的降、逃的逃。5日，日军占领了距烟台30公里的牟平县城，拼凑了伪县政府、公安局和商团，任命汉奸宋健武为伪县长。然后，日军没有留下防守力量，又西去经福山、蓬莱，先后占领了黄县、招远、掖县等地，几天内，胶东地区牟平以西便沦入了敌手。一时间，人心浮动，不少群众产生了畏敌和悲观失望的情绪。

　　在日军占领牟平前夕，原国民党牟平县保安大队大队长张建勋就把队伍拉到昆嵛山后的龙泉汤一带。共产党员贺致平积极向张建勋宣传中共的抗日民族统一战线政策，张建勋遂提出可以联合中共军队攻打牟平城，贺致平写信向理琪报告了这一情况。理琪接信后分析了形势，认为打牟平城有利条件很多：一、伪政权刚刚建立，立足未稳，我军乘虚奔袭，可操胜券；二、可扭转群众悲观失望情绪，提高抗战胜利信心；三、可以锻炼丰富我军的作战经验，鼓舞战斗意志；四、可以夺取敌人的武器武装自己；五、和友军协同作战，可以扩大我军政治影响，有利于扩大和巩固抗日民族统一战线。于是，理琪决定由他和林一山亲率第三军司令部和第一大队袭击牟平城。