在匈奴逐漸退出歷史舞臺的時候，另一支中國歷史上重要的北方游牧民族--鮮卑族逐漸走上了歷史的舞臺。鮮卑族是繼匈奴之后在蒙古高原崛起的古代游牧民族，據說起源于東胡部落，興起于大興安嶺地區。秦末漢初，東胡被匈奴冒頓單于打敗，分為兩部。分別退保烏桓山和鮮卑山，均以山名作為族名，形成烏桓族和鮮卑族，一度受匈奴部族奴役。因此，鮮卑族的某些風俗習慣同匈奴相似。
鮮卑興起前的形勢
公元45年鮮卑跟隨匈奴侵擾邊境，鮮卑才作為民族實體被中原王朝所知，并首次出現在中原王朝史料之中。匈奴被漢朝擊潰而分裂后，鮮卑族逐漸擺脫其控制。公元85年和87年，鮮卑兩次攻打匈奴，反抗壓迫。公元91年，已經退至漠北的北匈奴，被東漢和南匈奴聯合打擊，被迫遷往中亞，鮮卑族趁機占據蒙古草原。
東漢桓帝時，鮮卑首領檀石槐統一鮮卑各部，并開始侵擾東漢邊境。公元177年，漢靈帝派三路大軍，分別從高柳、云中郡、雁門郡出塞，進攻鮮卑。檀石槐命東、中、西三部分頭迎戰，大敗漢軍。然而，檀石槐死后，鮮卑分裂。
東漢末年，漢室衰微，軍閥混戰。不過軍閥們仍能吊打周邊少數民族。233年，鮮卑首領軻比能統一漠南，對曹魏邊境形成威脅。235年，曹魏幽州刺史王雄派遣刺客韓龍將軻比能刺死，鮮卑開始“部落離散，互相征伐”。鮮卑各部獨立發展，東部鮮卑先后形成慕容部、宇文部、段部三部，占據遼西；拓跋部也在拓跋力微的率領下，第三次南遷來到云中。
西晉時期的鮮卑
西晉初期，中原王朝仍對北方游牧民族保持強勢。然而八王之亂開始后，西晉王朝內部混亂不堪，國力衰弱，天下大亂，北方游牧民族紛紛南下，逐鹿中原。此時的鮮卑，也開始參與中原紛爭。鮮卑各部在北方掀起建國高潮，先后建立代國、前燕、后燕、西燕、南燕、南涼、西秦、北魏等諸國。
東晉時期的中國北方是一片大亂，但對于有追求的少數民族首領來說形式是一片大好。至公元351年，在西戎后裔苻堅的帶領下，前秦攻滅了各鮮卑政權，并成為中國歷史第一個統一北方的少數民族政權，第一個由少數民族君王開創治世的國家。并著手南下滅東晉統一華夏，公元383年，前秦皇帝苻堅組織大軍號稱九十萬，南下攻打東晉。東晉王朝以謝安為大將，謝玄為先鋒，率軍8萬迎戰。然而，戰爭中“風聲鶴唳，草木皆兵”，前秦軍隊潰敗。這就是中國歷史上著名的以少勝多的戰例---“淝水之戰”。
淝水之戰后，前秦瓦解，各族紛紛獨立，建立自己的王國。386年，拓跋部，復立代國。后改國號為魏，史稱“北魏”。398年，道武帝拓跋珪遷都大同，稱帝。423年其孫拓跋燾繼位后，采取了多項措施穩定社會，發展經濟。北魏國勢日盛，為其統一北方奠定了堅實基礎。此時，南方的東晉已為劉裕的劉宋王朝所取代，北方則還有西秦、夏、北燕、北涼等割據政權的并立與紛爭，北魏的北邊還有柔然經常南下侵擾。拓跋燾君臨中原，通過攻打劉宋；討伐赫連勃勃建立的夏國；北擊威脅北境安全的柔然；攻滅鮮卑慕容氏建立的北燕以及匈奴人建立的北涼，至439年，統一了北方。自西晉末年以來一百多年北方大亂的分裂局面宣告結束。
拓跋氏統一北方之后，逐步改革，社會經濟由游牧經濟轉變為農業經濟。為了緩和階級矛盾，限制地方豪強勢力，北魏統治者需要進一步消除民族界限，實行漢化政策。然后定都大同仍不在中原核心地帶，從地理和心理上限制了北魏的發展。493年孝文帝拓跋宏，以南伐名義，率二十萬大軍南下，到洛陽后，揚言繼續南下，群臣勸阻，他利用群臣不愿南伐的心理遷都洛陽，并繼續大舉改革。
北魏時期的形勢示意圖
孝文帝的改革和漢化政策，極大地促進了北魏經濟社會的發展，促進了民族大融合，也為隋唐統一全國創造了條件。
