到了汉武帝刘彻登上皇位后，西汉才开始逐步改变了对匈奴长期以来的示弱态度。

公元前119年，汉武帝以几乎举国之力，派遣实力强大的骑兵部队进入到匈奴的境内与匈奴骑兵主力展开决战。汉军在此役中大败匈奴骑兵主力，歼灭匈奴军队九万余人，霍去病封狼居胥山，禅于姑衍，登临翰海。

至此，经历了漠北之战，匈奴实力大损，无力再对汉朝形成大规模的威胁。

为汉武帝所败的匈奴，退居漠北分裂为五部。

公元前53年，南匈奴首领呼韩邪率众投降西汉。

公元前36年，西汉诛灭北匈奴郅支单于。

在东汉时，匈奴再次分裂为南、北匈奴。

公元48年，南匈奴首领醢落尸逐鞮率众投降光武帝刘秀，被安置在河套地区。而北匈奴还是叛服不定，让东汉下决心摧毁北匈奴。

原有历史上，汉和帝刘肇永元元年即公元89年，窦宪大败北匈奴，班固在燕然山南麓勒石，铭刻《封燕然山铭》纪功。

后来南匈奴在五胡十六国时期建立了前赵政权。