随着烟台党组织不断扩大，党的领导由分散活动发展到统一领导的时期。

1928年2月，中共党员宋海秋在莱阳县石龙沟村建立了党支部。3月，李伯颜在莱阳县水口村建立了胶东第一个党的县委——中共莱阳县委员会，中共莱阳县委隶属中共山东省委，李伯颜任书记兼组织委员，孙耀臣任宣传委员。中共莱阳县委成立后，以水口村为秘密活动中心，先后在莱海边区建立了4个党的地下联络点。至5月，全县党员队伍已扩大到300余人，莱海边区党的活动呈现出一派生机勃发的势头。

中共莱阳县委成立不久，就组织了“胶东抗粮军”，于6月联合莱阳地方武装，一度攻占莱阳县城，打开监狱，释放了被押的群众。

1928年春，徐约之、延伯真在烟台建立了中共烟台支部，11月改为烟台特支。党中央对烟台党组织，特别是对驻烟台的国民党陆军暂编第21师刘珍年部队中党组织的工作非常重视。1929年，中共中央军委书记周恩来先后派柳克明（柳直荀）和胡克波（胡允恭）到烟台传达指示，强调烟台党的工作重点是搞好地下党的工作；力争刘珍年对我们的工作给予方便；在烟台设立军事、地方、警察三个特支。根据这一指示，调整和加强了烟台地方党组织和刘珍年部队中的党组织。

1930年春，中共烟台临时市委成立。从1928年秋至1930年4月，烟台党组织由于与中共山东省委失去联系，曾接受中共顺直省委的领导。1930年4月，中共山东临时省委为加强烟台市委的工作，将中共烟台临时市委改为中共烟台市委。1932年7月，张静源重建中共莱阳县委。8月，8月，王心一、鲁自嘉建立中共牟海县委。11月，中共牟平特支建立。1933年1月，中共牟平县委建立。上述党组织为以后建立中共胶东特委奠定了组织基础。