東漢初年，匈奴比較強(qiáng)盛，劉秀無(wú)力與匈奴戰(zhàn)，建武二十四年(48)，匈奴內(nèi)部為爭(zhēng)王位發(fā)生動(dòng)亂，匈奴貴族相互殘殺，呼韓邪單于率領(lǐng)部眾歸附東漢王朝，從此匈奴分為南匈奴和北匈奴。東漢政府設(shè)立匈奴中郎將進(jìn)行監(jiān)護(hù)，并每年給歸附的南匈奴一定的糧食、絲帛等物資，南單于則協(xié)助東漢政府共同抵御北匈奴的侵?jǐn)_，這在很大程度上促進(jìn)了民族間的融合。

南匈奴歸屬漢朝后，北邊諸郡都布滿了南匈奴人及北匈奴的新附之眾。此后匈奴人不斷內(nèi)遷至涼州以東并州以西，后來(lái)集中到并州中部的汾水流域一帶。

和平、安定的環(huán)境有利于南匈奴社會(huì)生產(chǎn)的發(fā)展。同時(shí)，南匈奴人從入塞開始，不僅分布沿邊諸郡，而且與漢族人錯(cuò)居。

這種胡漢錯(cuò)居的方式，帶來(lái)了文化上的融合，對(duì)于匈奴人由以生產(chǎn)組織和軍事組織相結(jié)合的畜牧業(yè)經(jīng)濟(jì)轉(zhuǎn)向農(nóng)業(yè)經(jīng)濟(jì)提供了便利。

公元187年，南匈奴發(fā)生內(nèi)訌，此時(shí)正值黃巾軍起義，董卓“挾天子以令諸侯”，各地封建割據(jù)勢(shì)力并起，漢朝無(wú)暇顧及匈奴。于是，南匈奴一部參加了農(nóng)民軍的打土豪活動(dòng)，主要活動(dòng)區(qū)域在今河南省黃河以北、山西省南部地區(qū)。公元195年，南匈奴參與了中原封建軍閥的混戰(zhàn)，沿黃河而下，東漢大學(xué)者蔡邕之女蔡文姬就是這一時(shí)期被擄掠去匈奴的。此時(shí)，南匈奴已經(jīng)占據(jù)黃河流域諸多郡縣。

公元202年，南匈奴首領(lǐng)歸附曹操。曹操為了北方的穩(wěn)定，先后將南匈奴分為五部（注2）每部擇立貴族為帥，另選漢人為司馬對(duì)其進(jìn)行監(jiān)督。同時(shí)，曹操還把并州的中下層匈奴人編入漢族。這樣，南匈奴上下完全編入曹魏政權(quán)，中國(guó)北方完成了實(shí)際的統(tǒng)一。

但該措施讓匈奴的很多下層人民淪為奴隸，因此魏晉時(shí)期，黃河流域出現(xiàn)了很多地區(qū)販賣匈奴人和其他雜胡為奴隸的事。以至“五胡十六國(guó)”時(shí)期，匈奴后裔劉淵利用這些下層奴隸的反抗情緒，建立了“后漢政權(quán)”。但在西晉時(shí)期，各族人民往往打破民族的界限聯(lián)合起來(lái)，共同反抗各族統(tǒng)治階級(jí)的壓迫和剝削。