東漢初年,匈奴徹底分裂為南北二部。這是匈奴史上的一個(gè)轉(zhuǎn)折點(diǎn)。
建武二十二年(46年),匈奴單于輿死,匈奴貴族為爭奪單于之位又鬧了起來。單于弟、左賢王蒲奴繼位,而一直在覬覦單于位的右奧鍵日逐王比,因不得立,憤恨不已。比是呼韓邪單于之孫、烏珠留單于之子,駐牧在匈奴的南部。這時(shí),匈奴中連年發(fā)生嚴(yán)重的旱、蝗災(zāi)害,赤地千里,草木枯槁,人、畜疫病流行,死亡過半。蒲奴派遣使者向東漢請求和親,希望得到東漢朝廷的援助。同年,比秘密地派漢人郭衡奉獻(xiàn)匈奴地圖給朝廷;次年,則向東漢請求內(nèi)附。二十四年(48年)春天,匈奴南邊八位部落大人商議,準(zhǔn)備擁戴右奧鍵日逐王比為單于,并且到五原塞向守衛(wèi)邊塞的漢將官表示,愿意永遠(yuǎn)作朝廷的藩屏,抗御北方的敵人。漢光武帝得報(bào)后,欣然同意。這年冬天,比便自立為單于,并襲用其祖父的稱號,也叫呼韓邪單于。這部分由呼韓邪單于比率領(lǐng)內(nèi)附的匈奴有四五萬人,是為南匈奴。
東漢幫助南匈奴在五原西部塞80里處建立了單于庭,在經(jīng)濟(jì)上給予南匈奴大力支持,賜給他們的糧食、衣料、牛羊數(shù)以萬計(jì),后來,南單于徙居西河郡美稷縣,而南匈奴各部落分布到五原、云中、定襄、雁門、代郡等地(即今隴東、內(nèi)蒙古河套、沿舊長城以北及晉北、冀北一帶)游牧。
南匈奴和東漢長期保持著友好關(guān)系,南單于每年正月都要派遣他的兒子到洛陽祝賀,拜謁陵廟。朝廷照例要贈(zèng)送大批的物品,所謂“歲時(shí)賞賜,動(dòng)輒億萬”。邊境的安定既有利于東漢,也同樣有利于南匈奴。南匈奴在和平的環(huán)境中,部落繁盛,人口增長很快,生產(chǎn)力迅速發(fā)展。
當(dāng)南匈奴內(nèi)附的時(shí)候,北匈奴在漠南已經(jīng)很難立足。為了緩和與東漢的關(guān)系,北單于一再表示愿意與漢和親通使,漢廷態(tài)度冷淡。司徒班彪上奏說:“臣以為北單于貢獻(xiàn)越重,實(shí)際上越虛弱;要求和親的次數(shù)越多,說明他越恐懼。”班彪主張堅(jiān)持羈縻的方針,并為朝廷草擬詔答之文,其中說:“單于連連發(fā)生兵亂,國內(nèi)虛耗,貢物只要符合禮節(jié)就行,何必獻(xiàn)上珍貴的馬裘?”文中不無譏刺之意。北匈奴沒有達(dá)到目的,便又侵?jǐn)_河西。于是,東漢聯(lián)合南匈奴、鮮卑、烏桓出兵討伐,北匈奴左支右絀,眾叛親離。這時(shí),丁零和西域諸國也對北匈奴發(fā)起攻擊。建初八年(83年),北匈奴所屬三木樓訾部落大人率眾近4萬人至五原塞內(nèi)附;元和二年(85年),又有北匈奴部落大人車?yán)帽燃娂娞油鋈肴,先后?3批之多。北單于只得退出漠南,遠(yuǎn)引北去。章和元年(87年),鮮卑進(jìn)入匈奴左地攻擊北匈奴,殺北單于優(yōu)留,大獲全勝。屈蘭、儲(chǔ)卑、胡都須等58部、20萬人,到云中、五原、朔方、北地投降東漢。漠北大亂,加上連年遭受饑饉和蝗災(zāi),北匈奴猶如雪上加霜,南下附漢者接踵而至。永元元年(89年),東漢派將領(lǐng)與南單于聯(lián)兵分三路征伐北匈奴,在稽落山(今漠北西北部額布根山)大敗北單于,北單于遁走,北匈奴81部、20多萬人歸附東漢。此后東漢連續(xù)出兵北伐北匈奴,直到永元三年(91年),北匈奴單于狼狽西遁。從此以后,除了零散留在漠北、后來融合到鮮卑中的10多萬匈奴人以外,大漠南北再也不存在獨(dú)立的匈奴族體了。
內(nèi)附的匈奴人的進(jìn)一步南遷,是在東漢永和五年(140年)的時(shí)候。是年,南匈奴發(fā)生動(dòng)亂,左部句龍王吾斯和右賢王互相勾結(jié),聯(lián)兵圍攻西河美稷;又唆使烏桓、羌人,一起騷擾并、涼、幽、冀四州,邊境一時(shí)不得安寧。東漢朝廷不得不把原治平定(今內(nèi)蒙古東勝東南)的西河郡治遷到離石(今山西離石),于是南匈奴單于庭也隨著遷到離石左國城(今山西離石北)。同時(shí),原治膚施(今陜西榆林東南)的上郡郡治遷到夏陽(今陜西韓城南),原治臨戎(今內(nèi)蒙古噔口北)的朔方郡治遷到五原(今內(nèi)蒙古包頭北)。這樣,居住在這些郡的少數(shù)民族也都一股腦兒地遷進(jìn)內(nèi)地了。其中,尤以遷進(jìn)并州的為多,汾水流域各地,到處有匈奴人的部落,也有羯人、鮮卑人聚居的村落,從而極大的改變了這一地區(qū)漢族與少數(shù)民族人口的比例。