經(jīng)過(guò)省一級(jí)的改革，地方的民政、財(cái)政、軍事、政法等控制大權(quán)，全都集中到了中央。中書省的職權(quán)越來(lái)越大，有時(shí)竟同皇帝發(fā)生沖突。這使朱元璋認(rèn)識(shí)到：中央機(jī)構(gòu)的改革也勢(shì)在必行。早在登基之初，就有人給朱元璋上奏，列舉了元朝滅亡的種種原因。朱元璋看后說(shuō)道：“你說(shuō)的都不是最重要的，元朝的滅亡在于委任權(quán)臣，下邊事不通過(guò)中書省便不能達(dá)到皇帝手中，上下蒙蔽，造成大臣擅權(quán)跋扈。”洪武十三年(公元1380年)，此話果然言中，丞相胡惟庸在朝中大權(quán)獨(dú)攬，拉幫結(jié)派，排除異己，陰謀政變。朱元璋靠著直接控制的禁軍和特務(wù)組織，才捕殺了胡惟庸及其黨羽，當(dāng)時(shí)被殺者達(dá)三萬(wàn)多人。朱元璋趁機(jī)廢除了中書省和丞相制，對(duì)中央行政機(jī)構(gòu)進(jìn)行了徹底的改革。

廢除了中書省之后，朱元璋提高原屬中書省轄的六部權(quán)力，以六部治國(guó)。并且規(guī)定以后子孫不準(zhǔn)設(shè)丞相一職，如有人敢奏請(qǐng)?jiān)O(shè)丞相者處以極刑。這個(gè)規(guī)定在明朝后來(lái)的帝王中，沒(méi)有一個(gè)敢違背的。這樣，朱元璋既是皇帝，又兼行丞相職權(quán)，從而使他成為中國(guó)封建社會(huì)中最為集權(quán)的皇帝。

廢除了中書省和丞相后，大大小小的政務(wù)都全部集中到朱元璋的手中。這樣，他每天要處理的事非常多，需要有人輔佐。因此，朱元璋在廢除丞相后，便設(shè)置了殿、閣大學(xué)士，讓他們隨侍左右，以備顧問(wèn)，但不能參與政務(wù)，也就是說(shuō)他們只相當(dāng)于皇帝的私人秘書。

將帥和軍隊(duì)之間的關(guān)系，歷來(lái)是皇帝最為傷腦筋的事情。打仗必須靠軍隊(duì)，軍隊(duì)則必須有統(tǒng)帥，但是，將帥手中握有重兵，易產(chǎn)生驕悍、不易控制的狀況。以往的皇帝為解決這個(gè)問(wèn)題，采取了“兵無(wú)常將，將無(wú)常兵”的措施。朱元璋將元朝統(tǒng)兵的樞密院改為大都督府，節(jié)制諸軍務(wù)。但不久，他仍覺(jué)得大都督府權(quán)力太大，便又將其一分為五，即前、后、左、右、中軍都督府，讓他們互相牽制。都督府管理軍隊(duì)、軍政，但必須聽從兵部的命令。兵部有發(fā)布軍令、銓選軍官之權(quán)，卻不能統(tǒng)率軍隊(duì)；都督府有統(tǒng)率部隊(duì)的權(quán)力，卻無(wú)權(quán)發(fā)兵、調(diào)兵。如果有戰(zhàn)事，皇帝下令，兵部傳令，都督府率兵打仗。這樣，兵權(quán)也集中到了皇帝手中。

司法監(jiān)察機(jī)關(guān)在元朝叫御史臺(tái)，專門審察、彈劾百官。朱元璋改御史臺(tái)為都察院，職權(quán)是糾劾百官，辨明冤枉。都察院設(shè)左右都御史，統(tǒng)轄監(jiān)察御史。監(jiān)察御史官職不高，權(quán)力很大，對(duì)各級(jí)官員都有權(quán)力彈劾、告發(fā)。

經(jīng)過(guò)一系列的政權(quán)機(jī)構(gòu)改革，朱元璋把全國(guó)的軍政大權(quán)都集中到中央，最后歸自己一人掌握，使封建皇權(quán)專制制度達(dá)到最高峰。在他的苦心經(jīng)營(yíng)下，自己的統(tǒng)治機(jī)構(gòu)更加完善，威懾力量更加強(qiáng)大。朱元璋自己也認(rèn)為這一套統(tǒng)治制度是極為嚴(yán)密的，是確保朱家王朝“萬(wàn)世一統(tǒng)”的最好的制度。他特地編訂了一部《明皇祖訓(xùn)》，要求他的子孫必須世代遵守，不得改變。

發(fā)現(xiàn)貪官污吏，堅(jiān)決治罪

在對(duì)待官吏上，朱元璋一面任用官吏為自己的統(tǒng)治服務(wù)，一面用嚴(yán)刑峻法，懲治官吏隊(duì)伍中的不法之徒。朱元璋對(duì)官吏管制之嚴(yán)、打擊之重、誅殺之多，在封建皇帝中是罕見的。

洪武初年，朱元璋召見文武百官，對(duì)他們說(shuō)：“我從前在民間時(shí)，看見州縣官吏大多不愛(ài)恤百姓，他們大多貪財(cái)好色，飲酒廢事，對(duì)民眾的疾苦無(wú)動(dòng)于衷，他們敗壞政令，坑害百姓，加上災(zāi)荒，弱者無(wú)法生存，強(qiáng)者就起來(lái)造反，這都是由于貪官污吏造成的。因此，我恨透了他們。如今要嚴(yán)肅法紀(jì)，發(fā)現(xiàn)官吏貪污、虐待老百姓的，堅(jiān)決治罪，決不寬??！”為了鞏固皇權(quán)，朱元璋開始大力整頓吏治。他將監(jiān)察各級(jí)官吏的規(guī)定布告民間，號(hào)召全體人民對(duì)官吏進(jìn)行監(jiān)督。并下令說(shuō)：“凡是發(fā)現(xiàn)有貪贓害民的官吏，老百姓可以直接擒拿送至京師。如有膽敢阻擋者，即行滅家滅族。”他在《明律》中規(guī)定，如有人犯了死罪，大臣小官用巧言進(jìn)諫，使之免除死刑者，處斬；如刑部及大小衙門的官吏聽從上司主使，不按法律辦事，徇私枉法者，也要處斬，并將其妻子充作奴婢，財(cái)產(chǎn)沒(méi)收入官。朱元璋對(duì)貪污的官吏，處罪特別嚴(yán)厲。