1928年3月下旬，朱德、陳毅率領(lǐng)南昌起義保存下來的隊(duì)伍以及湘南起義組成的農(nóng)軍撤向井岡山革命根據(jù)地；4月下旬，朱毛兩軍會師，合編為工農(nóng)革命軍第四軍，后來又改稱為工農(nóng)紅軍第四軍，朱德任軍長、毛澤東任黨代表、陳毅任政治部主任、王爾琢任參謀長。部隊(duì)先編了三個(gè)師，后來又縮編為四個(gè)團(tuán)，有6000多人。這支部隊(duì)是當(dāng)時(shí)紅軍中人數(shù)最多、建設(shè)最好、戰(zhàn)斗力最強(qiáng)的部隊(duì)。

無論是秋收起義部隊(duì)還是南昌起義部隊(duì)，都是通過整頓、整編加強(qiáng)黨的領(lǐng)導(dǎo)和政治工作，才得以保留部隊(duì)骨干并生存和發(fā)展起來的。雖然我們黨在建軍初期，對創(chuàng)建新型人民軍隊(duì)進(jìn)行了艱苦的探索，但是在長期的農(nóng)村游擊戰(zhàn)爭環(huán)境中，各種非無產(chǎn)階級思想經(jīng)常反映到紅軍隊(duì)伍中來。一些來自舊軍隊(duì)的官兵不自覺地延用了舊軍隊(duì)的習(xí)慣、舊的觀念，對于紅軍建立新制度新規(guī)定缺乏正確認(rèn)識。部分官兵不習(xí)慣于做創(chuàng)建根據(jù)地的艱苦工作，主張走州過府、流動游擊；不習(xí)慣黨對軍隊(duì)的領(lǐng)導(dǎo)和集權(quán)制原則，這個(gè)集權(quán)制就是當(dāng)時(shí)對民主集中制的一種稱呼，認(rèn)為在搞家長制；不習(xí)慣政治工作地位的提高，認(rèn)為政治部妨礙了司令部工作。這些不同的認(rèn)識在紅四軍黨內(nèi)引起爭論，1929年6月，中國共產(chǎn)黨紅軍第四軍第七次代表大會召開，但是這次大會沒能夠解決爭論問題，也沒有能夠取得共識，還撤銷了堅(jiān)持正確主張的毛澤東同志的職務(wù)，讓他改到閩西做地方工作。1929年9月，中央政治局召開專門會議聽取和討論陳毅的匯報(bào)，決定由周恩來、李立三和陳毅三人組成委員會，負(fù)責(zé)起草給紅四軍前委的指示信。這封信由陳毅根據(jù)中央的指示精神來起草，最后由周恩審定，到9月28號完成，歷史上把它稱為“九月來信”。“九月來信”指出紅軍的基本任務(wù)：“一是發(fā)動群動斗爭、行土地革命，建立蘇維埃政權(quán)；二是實(shí)行游擊戰(zhàn)爭，武裝農(nóng)民并擴(kuò)大本身組織；三是擴(kuò)大游擊區(qū)域及政治影響于全國”，并且指出：“黨的一切權(quán)力集中于前委指導(dǎo)機(jī)關(guān)，這是正確的，絕不能動搖。不能機(jī)械的引用‘家長制’這個(gè)名詞來削弱指導(dǎo)機(jī)關(guān)的權(quán)力。”

1929年10月，中央要求陳毅帶著“九月來信”返回紅四軍，請毛澤東同志復(fù)職，糾正紅四軍黨內(nèi)存在的問題，這樣就有了當(dāng)年12月召開的古田會議。12月下旬，中共紅四軍第九次代表大會即著名的古田會議召開，古田會議確立了思想建黨、政治建軍的原則。會議根據(jù)中央“九月來信”的指示精神，選舉產(chǎn)生了以毛澤東任前委書記的新的紅四軍前委，通過了古田會議決議。古田會議決議強(qiáng)調(diào)，紅軍是一個(gè)執(zhí)行革命的政治任務(wù)的武裝集團(tuán)，紅軍絕不是單純地打仗的，它除了打仗消滅敵人軍事力量以外，還要負(fù)擔(dān)著宣傳群眾、組織群眾、武裝群眾、幫助群眾建立革命政權(quán)，以至于建立共產(chǎn)黨的組織等項(xiàng)重大任務(wù)。中國工農(nóng)紅軍必須置于中國共產(chǎn)黨的絕對領(lǐng)導(dǎo)之下，每連建一個(gè)黨支部，每班建一個(gè)黨小組，這是紅軍中黨的組織的重要原則之一。必須健全連隊(duì)以上各級黨的領(lǐng)導(dǎo)中樞，在黨內(nèi)應(yīng)當(dāng)例行集中指導(dǎo)下的民主生活，應(yīng)當(dāng)嚴(yán)肅黨的紀(jì)律，反對極端民主化和非組織觀念。紅軍必須建立強(qiáng)有力的政治工作，紅軍必須建立很好的內(nèi)部關(guān)系和外部關(guān)系，實(shí)行官兵平等。

古田會議確立的建軍原則，是共產(chǎn)黨建設(shè)人民軍隊(duì)的根本原則，它解決了在農(nóng)村進(jìn)行革命戰(zhàn)爭的環(huán)境中，如何將以農(nóng)民為主體的軍隊(duì)建設(shè)成為無產(chǎn)階級領(lǐng)導(dǎo)的新型人民軍隊(duì)這一重大問題。所以古田會議就成為紅軍建設(shè)的綱領(lǐng)性文件，對我軍的建設(shè)產(chǎn)生了深遠(yuǎn)影響。

從“三灣改編”到“古田會議”，人民軍隊(duì)初步完成了建軍駐魂的過程，從此我們這支黨領(lǐng)導(dǎo)的人民軍隊(duì)就定型了，最根本的東西就立起來了。當(dāng)然，在我軍發(fā)展的歷程中，黨對軍隊(duì)絕對領(lǐng)導(dǎo)這一根本原則和制度還是受到過挑戰(zhàn)的，就是說在這個(gè)問題上仍然是有斗爭的。

長征途中，張國燾就仗著人多槍多向黨中央要權(quán)，企圖用槍桿子指揮黨，黨中央與之進(jìn)行了堅(jiān)決的斗爭。1927年的10月，中央軍委決定恢復(fù)因國民黨干涉而一度取消的政治委員制度，恢復(fù)師旅政治部和團(tuán)政治處。國民黨要康澤到八路軍中來擔(dān)任八路軍政治部副主任，被中央堅(jiān)決頂了回去。為了趕走日本侵略者，我們黨可以同意紅軍改編為國民革命軍的八路軍、新四軍，同意紅軍官兵佩戴青天白日的帽徽，但是絕不允許國民黨人到我軍來當(dāng)領(lǐng)導(dǎo)。