離湘赴滬后不久，毛澤東又會同共產(chǎn)國際代表馬林等先期到達廣州，和陳獨秀、李大釗、張國燾、譚平山、蔡和森、陳潭秋、羅章龍等，為中共三大做準備工作。一九二三年六月十二日至二十日，中共三大在廣州東山恤孤院后街三十一號召開。毛澤東以湘區(qū)黨的代表身分出席。

會議的中心議題是討論國共兩黨的合作。還在去年八月，中共中央根據(jù)共產(chǎn)國際的意見，在杭州西湖召開特別會議，決定同國民黨實行合作。一九二三年二七慘案留下的血的教訓，使中國共產(chǎn)黨進一步認識到中國的民族民主革命只靠工人階級孤軍奮斗是不夠的，應該爭取一切可能的同盟者。由于孫中山領導辛亥革命取得了成功，國民黨在社會上有威信，又在南方建立了根據(jù)地。孫中山在民國成立后幾經(jīng)挫折，深感中國革命要改弦易轍，對共產(chǎn)黨員同他合作抱著積極歡迎的態(tài)度。西湖會議后，李大釗、陳獨秀等一批共產(chǎn)黨的重要領導人就陸續(xù)以個人名義加入了國民黨。

對這樣做，毛澤東是有思想準備的。四月離開長沙時，他在湖南自修大學主辦的《新時代》創(chuàng)刊號上發(fā)表了《外力、軍閥與革命》一文，提出：中國的反動勢力太大了，外力和軍閥勾結為惡，共產(chǎn)黨和一些“非革命的民主派”都將同“革命的民主派”國民黨合作，以“成功一個大的民主派”。到廣州后，他在《向導》上發(fā)表的文章中提出對中國革命的基本看法：國民革命的歷史使命是“打倒軍閥并打倒和軍閥狼狽為奸的外國帝國主義”，只有“建立嚴密的聯(lián)合陣線，這個革命才可以成功”[1]。從五四時期倡導民眾大聯(lián)合，到這時主張建立聯(lián)合陣線，他的思路是連貫的。

在三大上，對國共要不要合作并沒有什么異議。但圍繞合作的具體組織形式，卻發(fā)生了爭論。張國燾認為，工人階級只能在自己政黨的旗幟下進行革命，不同意全體共產(chǎn)黨員特別是產(chǎn)業(yè)工人加入國民黨，去搞黨內(nèi)合作，否則會取消共產(chǎn)黨的獨立性，也不同意在勞動群眾中發(fā)展國民黨組織。張國燾的觀點成為會議爭論的焦點。多數(shù)人不同意他的觀點。毛澤東在發(fā)言中根據(jù)湖南工人運動的經(jīng)驗，說明搞聯(lián)合陣線的必要性，認為大批工農(nóng)加入國民黨，正可以改造它的階級成分，和資產(chǎn)階級建立聯(lián)合陣線，共同完成民族民主革命的需要。經(jīng)過討論，會議通過了“黨內(nèi)合作”的主張，決定全體共產(chǎn)黨員以個人名義加入國民黨，但仍保持共產(chǎn)黨組織的獨立性。

大會選出九名正式委員、五名候補委員組成新的中央執(zhí)行委員會。陳獨秀、毛澤東、羅章龍、蔡和森、譚平山為中央局（相當于后來的政治局）成員。五個人中有三個人原來是新民學會成員。陳獨秀為中央局委員長，毛澤東為中央局秘書。根據(jù)規(guī)定，“秘書負本黨內(nèi)外文書及通信及開會之責任，并管理本黨文件。本黨一切函件須由委員長及秘書簽字”[2]。

毛澤東第一次進入中國共產(chǎn)黨的領導核心，這時他三十歲，剛好是“而立”之年。

三大后，中央機關暫留廣州。這時起，毛澤東開始接觸國民黨的一些上層人物。他曾和李大釗、陳獨秀到廖仲愷家商談國共合作的具體事宜，還常去培正路簡園譚延闿住處。譚被趙恒惕迫出湖南后，這時擔任孫中山大元帥府的建設部長，正在為討伐趙恒惕做準備。毛澤東通過他加強對國民黨內(nèi)部情況的了解和聯(lián)系，也為中共湘區(qū)委采取聯(lián)譚倒趙的政策創(chuàng)造條件。這時，國民黨本部剛好要派國民黨元老覃振回湖南，毛澤東便托他帶信給李維漢，要湘區(qū)委協(xié)助覃在湖南籌備國民黨組織。當時，在湖南的國民黨員只有邱維震一個人。

此后，毛澤東一直掛念這件事情。九月，中央機關遷回上海辦公，便委派他回湖南貫徹三大決議，指導湘區(qū)委籌備國民黨湖南地方組織。為了便于開展工作，在國民黨中央擔任總務部副部長的共產(chǎn)黨員林伯渠，還給了他一個中央黨部籌備員的名義。

此前，湘區(qū)委接受他的建議，派何叔衡、夏曦、劉少奇和覃振、邱維震成立了籌備組。由于譚延闿率軍討趙，湖南戰(zhàn)事甚緊，工作沒有完全展開。九月，譚敗退廣東，局勢稍稍穩(wěn)定下來。十六日，毛澤東回到湖南，隨即同夏曦商定了籌建和發(fā)展湖南國民黨組織的具體步驟：第一步組織長沙支部，第二步在常德、衡陽等地建分支部，在這個基礎上再成立湖南總支部。二十八日，他寫信給在廣州的林伯渠等，匯報了這個計劃，說當天便“租定房子成立籌備機關（秘密的），多邀信仰三民主義及有活動能力的人入黨”，并建議委任夏曦為籌備主任。在毛澤東的指導下，十月初國民黨長沙支部成立，隨后寧鄉(xiāng)、安源等地分部和湖南總支部也相繼成立，使湖南在大革命時期成為國民黨組織最發(fā)達的省份之一。