遼朝設北樞密院作為最高軍事機構管轄全國軍隊，另有南樞密院，但無權統兵
北樞密院之下，北、南宰相府具體負責部族的軍民事務，諸行宮都部署司掌管各宮衛的軍民事務。殿前都檢點司具體負責宿衛行宮。五京留守司指揮使司統率本地區的漢軍。
漢地各州的節度使，包括部分刺史，兼掌軍民政，統領管內的節鎮兵、鄉兵，有的還兼領禁軍。節度使司下設馬、步軍指揮使司，專掌節鎮兵。
五京的軍事機構
上京：朱軍都虞司，是統領漢軍的機構；奚王府大詳穩司，是統領奚軍的；國舅司、大常袞司、五院、六院、沓溫司，都是統領契丹部族軍的。
南京：設有元帥府（原南京兵馬總管府），“雜掌蕃漢“，由親王出任大元帥。下設南京統軍司、南京侍衛親軍馬步軍都指揮使司兩個統兵機構，前者領契丹、奚、渤海兵，后者領漢軍。
東京：契丹、奚、漢、渤海四軍都指揮司，也“雜掌蕃漢”
西京：西南路討招司，負責對西夏的防務
此外對西北烏古敵烈等部，對高麗以及對女真也都有專門防務機構負責
二、軍隊分類
遼朝的軍隊主要由部族軍、御帳親軍、宮衛騎軍、五京鄉丁、屬國軍、漢軍等及部分組成
部族軍：建國后，阿保機通過南、北二府以統諸部，其中最強大的是五院部、六院部、乙室部和奚六部，他們皆各自為軍。部族都有軍事首領，契丹各大部族的軍事首領稱王，一般部族則稱節度使。這些部族軍，其上由設在各地的招討司、統軍司和都部署司統轄。擁有頭下軍州的契丹貴族，征發屬下的漢人組成軍隊，稱大首領部族軍。
御帳親軍：直接由皇帝調遣的禁軍，包括皮室軍（又稱“腹心部”）和屬珊軍，兩軍合計五萬多騎。
宮衛騎軍：是由各斡魯朵屬下抽調組成的軍隊。
五京鄉丁：由五京州縣所屬藩漢丁壯組成。
屬國軍：遼朝各屬國的軍隊。
漢軍：主要指契丹統治者收編的中原封建王朝的軍隊，神策元年（916）阿保機收編的“山北八軍”，是遼朝有漢軍之始。漢軍還有按中原軍隊編制自行組建的，如燕京等地的禁軍。諸京禁軍及邊防要地駐軍，稱為“正軍”。
