党的由来可以追溯到五四运动后，马克思主义在中国广泛传播，并促使一批早期的马克思主义者涌现。他们深入工人群众中，推动马克思主义与中国工人运动初步结合。为了适应这一需要，无产阶级政党应运而生。
1920 年 1 月，有文章在报刊上呼吁“劳动团体应当自己起来做一个大政党”。同年 6 月，上海共产党早期组织在《新青年》编辑部成立。
经过一系列筹备，1921 年 7 月，中国共产党第一次全国代表大会在上海开幕，宣告了中国共产党的正式成立。