中國共產黨是馬克思列寧主義和中國工人運動相結合的產物。隨著馬克思主義的傳播及其同工人運動的初步結合，隨著一批接受馬克思主義的先進知識分子的出現，建立新型的工人階級政黨的任務提上了日程。
中國共產黨的建立，得到了列寧領導的第三國際(即共產國際，成立于1919年3月)的幫助。1920年4月，經共產國際批準，俄共(布)遠東局派維經斯基等人來華。他們先后在北京、上海會見李大釗和陳獨秀，討論建立共產黨的問題，并幫助進行建黨的準備工作。
中國共產黨的最早組織是在上海建立的。1920年8月，上海共產黨組織正式成立，陳獨秀任書記。它起到了在全國范圍內建黨的發起組和聯絡中心的作用。10月，北京共產黨組織成立，李大釗為書記。1920年秋至1921年春，武漢、長沙、濟南、廣州等地先后建立起共產黨的地方組織。在歐洲和日本，中國留學生和僑民中的先進分子也建立了共產黨的組織。
各地共產黨早期組織成立以后，主要開展了幾個方面的活動:一是宣傳馬克思主義，組織進步青年學習馬克思主義，研究中國的實際問題。二是同反馬克思主義的思潮展開論戰，幫助一批進步分子劃清科學社會主義同其他社會主義派別的界限，最終走上馬克思主義的道路。三是通過在工人中進行宣傳和組織工會的工作，使工人開始接受馬克思主義的教育，階級覺悟有所提高。四是建立青年團組織，組織團員學習馬克思主義，參加實際斗爭，為黨培養后備力量。
各地共產黨早期組織所進行的這些活動，有力地促進馬克思主義的進一步傳播及其同中國工人運動的結合，使在中國建立共產黨的條件基本上具備了。
1921年7月23日，中國共產黨第一次全國代表大會在上海召開。最后一天的會議轉移到浙江嘉興南湖舉行。參加會議的各地代表是:李達、李漢俊(上海)，張國燾、劉仁靜(北京)，毛澤東、何叔衡(長沙)，董必武、陳潭秋(武漢)，王盡美、鄧恩銘(濟南)，陳公博(廣州)，周佛海(旅日)。包惠僧受在廣州的陳獨秀派遣，也參加了會議。他們代表著全國50多名黨員。共產國際代表馬林和尼科爾斯基列席會議。
大會確定黨的名稱為“中國共產黨”。黨的綱領是“革命軍隊必須與無產階級一起推翻資本家階級的政權”，“承認無產階級專政，直到階級斗爭結束”，“消滅資本家私有制”，以及聯合第三國際。大會討論了實際工作計劃，決定集中精力領導工人運動，組織工會和教育工人。大會選舉產生了黨的領導機構――中央局，陳獨秀為書記，李達、張國燾分管宣傳和組織工作。
黨的一大正式宣告了中國共產黨的成立。這次大會是在反動統治的白色恐怖下秘密舉行的，除了會場一度遭到暗探和巡捕的騷擾外，在社會上沒有引起任何注意，好像什么事情也沒有發生。但是，就在這時，一個新的革命火種卻已在沉沉黑夜中點燃起來。從此，在古老的中國大地上出現了完全新式的、以馬克思主義為行動指南的、統一的和唯一的中國工人階級的政黨。
中國共產黨的成立，適應了近代以來社會進步和革命發展的客觀要求，是開天辟地的大事變。中國共產黨作為中國最先進的階級工人階級的政黨，不僅代表著工人階級的利益，而且代表著整個中華民族的利益。中國共產黨從一開始就擁有馬克思主義這個最先進的思想武器，因而能夠為中國革命指明前進的方向。正是這個黨，給災難深重的中國人民帶來光明和希望。雖然這時它的力量還很弱小，但它滿懷信心地以改造中國為己任，為爭取民族獨立和人民解放，實現國家的繁榮富強和人民的共同富裕，開始了艱苦卓絕的斗爭歷程。自從有了中國共產黨，中國革命的面目就煥然一新。
但是，中國共產黨是在幅員廣大、人口眾多、情況復雜、經濟文化落后的半殖民地半封建的舊中國開展活動的，從何處著手進行革命，如何把馬克思主義的基本原理同中國革命的具體實踐正確地結合起來，搞清楚民主革命與社會主義革命的區別和聯系，制定出符合國情的民主革命綱領，需要有一個探索的過程。
中國共產黨成立后，注意在斗爭實踐中運用馬克思主義的觀點，觀察和分析中國面臨的實際問題。黨逐漸認識到，中國人民所受的最大痛苦，還不是一般的資本主義剝削，而是帝國主義的壓迫和封建軍閥的統治。1922年1月，中國共產黨派代表出席共產國際在莫斯科召開的遠東各國共產黨及民族革命團體第一次代表大會。這次大會根據列寧關于民族和殖民地問題的理論，指明中國“當前的第一件事便是把中國從外國的羈軛下解放出來，把督軍推倒”，建立一個民主主義共和國。這對于黨制定當時的革命綱領給予了直接的幫助。
1922年7月16日至23日，中國共產黨第二次全國代表大會在上海舉行。出席大會的代表12人，代表全國195名黨員。大會通過對中國經濟政治狀況的分析，揭示出中國社會的半殖民地半封建性質，指出黨的最高綱領是實現社會主義、共產主義，但在現階段的綱領即最低綱領是:打倒軍閥；推翻國際帝國主義的壓迫；統一中國為真正的民主共和國。這樣，二大就在全國人民面前第一次提出明確的反帝反封建的民主革命綱領。
黨的二大通過的決議案提出把黨建設成為一個革命的群眾性的無產階級政黨的任務，提出中國共產黨是中國無產階級的先鋒隊，是無產階級的忠實代表，旗幟鮮明地展示了黨的先進性。大會通過了黨的第一個章程。
二大還通過決議案，確認中國共產黨是共產國際的一個支部。這在當時是必要的選擇，對后來的中國革命產生過積極作用，但也帶來過消極方面的影響。
二大選出由陳獨秀、張國燾、蔡和森、高君宇、鄧中夏五名委員和三名候補委員組成的中央執行委員會。中央執行委員會推選陳獨秀為委員長。
中國共產黨成立后，建立了中國勞動組合書記部，集中力量從事工人運動。在黨的領導下，以1922年1月香港海員罷工為起點，掀起中國工人運動的第一個高潮。在持續十三個月的時間里，全國發生大小罷工100余次，參加人數在30萬以上。其中，安源路礦工人大罷工、開灤煤礦工人大罷工最具代表性，充分顯示出組織起來的工人階級的力量。
1923年2月4日爆發的京漢鐵路三萬名工人大罷工，使第一次工人運動高潮達到頂點。2月7日，在帝國主義勢力的支持下，軍閥吳佩孚調動軍警在京漢鐵路沿線血腥鎮壓罷工工人。京漢鐵路總工會江岸分會委員長、共產黨員林祥謙和京漢鐵路總工會與湖北省工團聯合會法律顧問、共產黨員施洋等先后被殺害。二七慘案發生后，全國工人運動暫時轉入低潮。
這個時期黨領導的工人斗爭，提供了重要的經驗教訓:第一，中國革命的敵人是異常強大的。為了戰勝強大的敵人，僅僅靠工人階級孤軍奮戰是不夠的，必須爭取一切可能的同盟者。第二，在半殖民地半封建的中國，工人沒有起碼的民主權利，幾乎所有規模較大的工人斗爭都遭到反動軍警的鎮壓，因此，沒有革命的武裝斗爭，僅僅依靠罷工或其他合法斗爭是不行的。中國共產黨人正是帶著這些經驗教訓，進入以國共合作為基礎的大革命時期。
