中国共产党作为中国最先进的阶级——工人阶级的政党，一经成立就集中力量开展工人运动。1921年8月11日，在上海成立了中国劳动组合书记部，张国焘担任书记部主任。这是党领导工人运动的第一个公开机构。《中国劳动组合书记部宣言》号召“已成立的劳动团体加入这个书记部与我们共同进行”，开展对资本家的斗争。随后，在北京、汉口、长沙、广州、济南先后设立了分部。1922年8月，总部从上海迁往北京，也建立了上海分部。党集中力量开展工人运动，在各地开设工人夜校，创办工人刊物，组织产业工会。以1922年1月香港海员罢工为起点，中国共产党领导掀起了中国工人运动的第一个高潮。在持续的13个月里，全国发生大小罢工100余次，参加人数在30万以上，充分显示出组织起来的工人阶级的力量。

为加强中国工人阶级的内部团结，1922年5月1日，中国共产党以中国劳动组合书记部的名义，在广州举行第一次全国劳动大会。到会代表中有共产党员、国民党员、无政府主义者以及无党派人士等共173人，代表全国12个城市、110多个工会和34万有组织的工人。大会接受了中国共产党的政治主张，把反帝反封建作为工人运动的基本目标，在大会宣言中号召全国工人阶级团结起来，削平行帮，消除隔阂，不分地域，不分党派，不分男女老少，联合成一个阶级战线，反对国际帝国主义和封建军阀。会议产生由国民党党员黄焕庭、林伟民、谢英伯和共产党员谭平山、邓培组成的5人主席团。大会决定在全国总工会成立以前，委托中国劳动组合书记部为全国工人组织的总通讯机关，并负责召集第二次全国劳动大会，实际上承认了共产党在全国工人运动中的领导地位。

香港海员大罢工胜利后，香港人民热烈庆贺。

党在以主要精力开展工人运动的同时，积极在学生、农民、青年、妇女以及知识界等各界开展统一战线活动。

早在1919年，周恩来就组织成立了有30多个团体、170多个单位，包括工人、学生、妇女、新闻、教育、工商、士绅、宗教等各界在内的天津各界联合会，这是全国成立最早的联合会，也是具有统一战线性质的组织。

1921年4月，上海《共产党》月刊发表《告中国的农民》一文指出，革命者应面向农民，“要设法向田间去，促进他们的觉悟”，号召农民“集合起来”。中国共产党成立后，共产党人彭湃领导的广东海陆丰农民运动影响深远，为后来农民运动的兴起积累了经验。

1921年8月，党组织在上海帮助中华女界联合会改组，举办平民女校。党的二大通过了关于妇女运动的决议，开展女工运动，组织进步妇女组织。

上海、北京等地党的早期组织在筹建共产党的同时，领导建立了社会主义青年团。党成立后加强青年工作，在整顿和重建的基础上，1922年5月，在广州召开了中国社会主义青年团第一次全国代表大会，中共中央局书记陈独秀、青年共产国际代表达林出席并指导大会，会议通过了青年团纲领、章程等决议案，选举产生了由施存统任书记的青年团中央领导机构。

1922年5月，李大钊、邓中夏、陈独秀等发起组织以反对帝国主义宗教侵略为宗旨的非宗教大同盟，提出了求“反帝”之同、存“信仰”之异的指导思想，反对帝国主义的文化侵略。

这一时期，党还在各地发起民权运动大同盟，广泛宣传反帝反封建的政治主张。