十月十三日，毛澤東率領(lǐng)工農(nóng)革命軍主力抵達酃縣水口村，在這里發(fā)展了一批黨員，開展社會調(diào)查。他從得到的報紙上看到南昌起義軍在廣東失敗的消息，放棄了準備退往湘南的想法，堅定了在羅霄山脈中段建立革命根據(jù)地的主張。余灑度和蘇先俊在這里脫離了工農(nóng)革命軍。不久，毛澤東得知湘軍正從茶陵分兩路前來進攻工農(nóng)革命軍，就派第一營黨代表宛希先率第一營的兩個連到茶陵游擊擾亂湘軍后方，打破它的進攻；毛澤東自己率團部、第三營和第一營的一個連在二十二日轉(zhuǎn)入江西遂川縣境。途中休息時，他同副連長張宗遜交談?wù)f：中國革命離不開農(nóng)民，武裝斗爭一定要與農(nóng)民運動相結(jié)合，把農(nóng)民武裝起來。

在遂川的大汾鎮(zhèn)，部隊在清晨突然遭到遂川縣地主武裝靖衛(wèi)團三四百人的襲擊，因為人地生疏，倉促應(yīng)戰(zhàn)，前衛(wèi)的第三營同團部失去聯(lián)系而輾轉(zhuǎn)南下，以后同朱德率領(lǐng)的南昌起義軍余部會合；毛澤東率領(lǐng)團部和特務(wù)連撤退，一直退到井岡山南麓的黃坳，最初收集到的失散人員共四十多人，部隊狀況十分狼狽。當時擔任連指導(dǎo)員的羅榮桓后來回憶說：大家又饑又餓，無精打采，稀稀落落地散坐在地上。要吃飯時，炊事?lián)右才軄G了，沒有辦法，幾個戰(zhàn)士從老百姓家里找來一點剩飯和泡菜辣椒。沒有碗筷，毛澤東和大家一起伸手從飯籮里抓著吃。飯后，毛澤東站起身來，朝中間空地邁幾步，雙腳并攏，身體筆挺，精神抖擻地對大家說：“現(xiàn)在來站隊！我站第一名，請曾連長喊口令！”這種堅強鎮(zhèn)定的精神，立刻強烈地感染了戰(zhàn)士們，提著槍站起來，向排頭看齊。[5]

毛澤東率領(lǐng)這一部分隊伍繼續(xù)向井岡山轉(zhuǎn)移。他的腳被草鞋帶子磨爛，行動很困難，但仍堅決不坐擔架，堅持拄著棍子步行。隨后第一營第一連趕了上來。隊伍行進到井岡山西南的荊竹山下，還有一百多人，在一個小村子里宿營。陳士榘回憶說：“我們知道今天要上山了，當時心里說不出有種什么味道，一方面感覺到我們原來人數(shù)就不多，加上三營被隔斷，顯得更少了；另一方面，看樣子只有上井岡山，能得個地方休息休息，感到高興。”[6]這時王佐派人接應(yīng)他們上山，部隊在十月二十七日到了茨坪。接著，第一營的兩個連也從茶陵趕到茨坪，部隊的人多了。毛澤東等送了七十支槍給王佐部隊。王佐資助工農(nóng)革命軍五百擔稻谷和一些銀元。他們在茨坪住了幾天，又回到北麓的茅坪，開始創(chuàng)建以寧岡為大本營的井岡山根據(jù)地。在井岡山革命根據(jù)地的創(chuàng)建上，袁文才、王佐是有很大功勞的。

工農(nóng)革命軍到了井岡山后的第一件事，就是抓軍隊和地方的建黨工作。沒有一個堅強有力的黨組織形成核心，軍隊也好，根據(jù)地也好，都會松散無力，難以鞏固和發(fā)展。所以，毛澤東把這件事看作一切的根本。

在三灣改編時，一個重要內(nèi)容便是軍隊要在黨的領(lǐng)導(dǎo)之下，并且確定了“支部建在連上”的原則。但那時時間匆促，許多措施還來不及落實。部隊到酃縣水口村后，十月十五日，毛澤東在葉家祠主持了六名新黨員入黨宣誓儀式，各連黨代表都來參加。會場的墻上掛著一塊寫有“ＣＣＰ”的紅布。他詳細地解釋了入黨誓詞的意思，然后帶著六名新黨員舉起右手宣讀入黨誓詞：“犧牲個人，努力革命，階級斗爭，服從組織，嚴守秘密，永不叛黨。”到遂川大汾鎮(zhèn)，另一個連也舉行了入黨宣誓儀式。不久，各連的黨支部都先后建立起來。支部一建立，連隊立刻有了靈魂。支部布置黨員要做好三件事：學習目前的形勢；了解群眾思想狀況，幫助他們解除顧慮；培養(yǎng)和發(fā)展新黨員。連里的政治空氣逐漸濃厚，黨員數(shù)量逐漸增多，各種工作迅速開展起來，顯得十分活躍。

在軍隊內(nèi)部建黨的同時，毛澤東也抓緊地方黨組織的恢復(fù)和發(fā)展。井岡山附近各縣，在大革命時期都建立了黨的組織。黨組織負責人很多是外地回來的學生，也有當?shù)剞r(nóng)會的骨干分子。大革命失敗后，多數(shù)黨組織給打散了。但不少黨員仍在堅持斗爭。毛澤東采取軍隊的黨幫助地方黨發(fā)展的做法。工農(nóng)革命軍進駐茅坪的當天晚上，毛澤東就召集在井岡山“打埋伏”的永新、寧岡、蓮花縣部分黨員開座談會。十一月上旬，又在茅坪召開寧岡、永新、蓮花等縣原黨組織負責人會議。第二年一月攻克遂川后，召開了前委和萬安、遂川縣委聯(lián)席會議。在這些會議上，毛澤東分析形勢，要求大家在斗爭中重建和發(fā)展黨的組織。他還從軍隊里抽調(diào)一批有政治工作經(jīng)驗的黨員干部，到農(nóng)村基層去開展建黨工作。

到一九二八年二月，湘贛邊界各縣黨組織初步恢復(fù)發(fā)展起來，成立了寧岡、永新、茶陵、遂川等縣委，酃縣特別區(qū)委，蓮花特別支部；各縣的區(qū)、鄉(xiāng)兩級大都建立起黨的組織。前委還同萬安縣委建立了聯(lián)系。