金门、厦门沦陷后，福建沿海随时可能被日军侵占，泉州、福州等地成为福建沿海抗日的前沿。为争取抗日的合法地位，1938年夏，泉州中心县委利用当时国民党当局为备战在沿海组建抗日自卫团队的有利时机，以“泉州抗敌后援会”的名义，邀请晋江、南安两县交界的24个乡的28个联保主任到南安县深坑后林墟举行联席会议，同时应邀的还有爱国民主人士数10人。会议达成共识，各联保应迅速组织民众成立自卫武装抗日，“晋南联乡抗日自卫队”由此成立。自卫队由民主人士蒋坤灿为司令，实为泉州中心县委掌握的武装。“晋南联乡抗日自卫队”一度迅速发展到2000余人（其中常备团有800多人枪）。1938年8月，福州误传日军已在福清高山等地登陆。新四军驻福州办事处和中共福州工委通过闽侯县长的统战关系，借此控制掌握了闽侯县第三区国民兵团的武装，并秘密组建了拥有30多人枪的下洋抗日游击队，还培训了一批抗日骨干。为了加强长乐等地沿海抗日武装工作，由中共福建省委书记曾镜冰单线领导的秘密共产党员刘润世，利用担任长乐县国民兵团副团长、县抗敌后援分会副会长的职便，定期轮训乡自卫队、保安队副职以上干部及18至45岁壮丁，前后训练了8个中队、千人以上。1940年6月，中共莆田县委派张伯庭到莆田忠门发动群众，在东坑、月塘周围30多个村庄组织了一支200多人的抗日武装，在忠门村设立了“抗日办事处”。这些抗日游击队的队员多为当地贫苦的农民、渔民和船工，他们憎恨日军的暴虐，痛心国土沦丧，抗敌士气旺盛，不怕牺牲。平潭岛光复后，在福州求学的中共党员曾焕乾返回家乡，组织了一支由青年学生参加的抗日武装“平潭抗日游击队”。这些武装大多拥有“合法”名义，且以过去的老苏区或老游击区为依托建立抗日基地，由地方党组织直接领导，有广泛、坚实的群众基础，这就为福建沿海抗日游击战争创造了很好的条件。值得一提的是，党组织采用“白皮红心”的策略，派遣党员去当联保主任、保甲长，并通过他们以及旧关系去团结其他联保主任和保甲长。随着共产党的抗日民族统一战线新政策所产生的政治影响，在共产党组织周围吸引、聚集了一大批爱国人士和进步青年，这也为后来壮大抗日武装创造了有利条件。

上述抗日武装的组建，为福建沿海抗日斗争积蓄了武装力量，为福州沦陷后的沿海武装抗日游击战争发挥了重要作用。