關于軍機處的成立時間，史料上眾說紛紜，但它始于西北用兵之際是可以肯定的，確切時間當在雍正七年（1729年）對青海準噶爾策妄阿拉布坦用兵之時，由于議政王大臣都是世襲的貴族，沒有實際經驗，早已不熟悉軍國大事；又由于內閣在太和門外，離街市近，人員多，往返遞奏本章容易泄漏機密。所以，雍正帝下令把內閣中三四品以上人品端正、才思敏捷的大學士，由太和門外的內閣，調到隆宗門外（后又遷入隆宗門內靠北、乾清門外靠西的地方）來親承旨意，擬發諭旨。雍正七年（1729年）二月，雍正帝公開向朝臣宣布對西北用兵。六月，為辦理軍需，特派怡親王允祥、張廷玉、蔣廷錫主持其事，并為此發布上諭：“兩路軍機，朕籌算者久矣。其軍需一應事宜，交與怡親王、大學士張廷玉、蔣廷錫密為辦理”，開始正式建立軍機房。雍正八年（1730年），改名“辦理軍機事務處”，也即軍機處。軍機處成立后，議政王大臣會議于乾隆五十六年（1791年）廢止了，內閣變成只是辦理例行事務的機構，一切機密大政均歸于軍機處辦理。
軍機處的地點，最初設在乾清門外，尋遷往門內，離雍正帝寢宮養心殿很近。軍機處辦公的地方不稱衙署，僅稱“值房”。軍機大臣的值房稱為“軍機堂”，初僅板屋數間，后來才改建瓦屋。軍機章京的值房，最初僅屋一間半、后來才有屋五間。由于當初軍機處設置簡陋，在很長一段時間里，沒有人認為它是一個正式衙門。
除了無正式衙門，也沒有印信。雍正十年（1732年）春天，雍正帝命大學士等議定軍機處印信，大學士等擬議印文為“辦理軍機印信”，經雍正帝批準，交禮部鑄造銀印。該印由內奏處保管，印匙則由領班軍機大臣隨身攜帶。另外還打制了鐫有“軍機處”三字的金牌，由值日章京佩帶。須用軍機處印信時，由值日章京憑金牌到內奏處領取印信，隨后，憑金牌向領班軍機大臣索取印匙，并在數人的監督下，才打開印匣取出印信。印信用完后，金牌要交給值班章京，印匙歸還領班軍機大臣，印信則要重新歸還內奏處。這一規章制度顯得有些繁瑣，但它的確是一套嚴密的管理模式。為了達到保密的目的，雍正帝著實下了一番工夫。
清朝時規定，其它人員不得靠近軍機處，皇帝與軍機大臣議事時無關人員不得在旁。宮內人路過軍機處時，都是快步走過。軍機處的工作：1、發折；奏事處將官員奏折下發軍機處；2、接折：軍機章京將奏折送軍機大臣閱；3、見面；軍機大臣將奏折送皇帝處請旨；4、述旨：將皇帝旨意擬成諭旨再交皇帝御覽；5、過朱：皇帝朱筆改定奏折；6、交發：將諭旨下發有關衙門實施；7：開面：諭旨以年月日為序抄錄備案；8、交折：將原奏折交內奏事處；9、月折：將奏折復本每月一編；10、隨手：將諭旨、奏折重點二季一編；11、封柜：將月折、隨手檔收柜題封。
軍機處的官職并不多，僅設軍機大臣、軍機章京兩種職官。軍機大臣俗稱“大軍機”，雅稱“樞臣”。軍機大臣是由皇帝從內閣大學士、尚書、侍郎等官員中特旨挑選，或由軍機章京升任，也可由滿洲皇室親王選任，其名額沒有定數，人數的多少由皇帝一人決定。
從《清史稿·軍機大臣年表》看，軍機大臣最初設了三人，即怡親王允祥、大學士張廷玉、蔣廷錫，后來逐漸增加，最多時達十一人。資歷最深者為“首席軍機大臣”，或稱“領班軍機大臣”，但沒有正式的名義；入值軍機時按資歷深淺的分別稱“軍機處行走”、“軍機大臣上行走”、“軍機大臣上學習行走”三種；“軍機處行走”名目從嘉慶朝後期起即極少使用，僅恭親王奕欣以議政王入值軍機時使用過一次。另有“軍機章京”若干人負責協助大臣處理文書事務。軍機大臣之間沒有隸屬關系，各自辦理皇帝交辦的機要事務，分別對皇帝一人負責。軍機大臣能文能武，出將入相，既能熟悉部院事務，了解地方情況，又能指揮作戰，具有軍事經驗。如鄂爾泰出身進士，先后任佐領、廣西巡撫、云貴廣西三省總督，雍正十年（1732年）任保和殿大學士、兵部尚書，進為軍機大臣。
軍機章京（滿語，意為“官”）是軍機大臣的下屬，俗稱“小軍機”，與“大軍機”相對。軍機章京也沒有定員，由內閣、翰林院、六部、理藩院、議政處等衙署中的中下級官員選任，負責公文收發及滿、漢、蒙古多種文字的翻譯等日常事務。軍機章京初無定額，至嘉慶初年，始定為滿、漢章京各十六人，共三十二人，滿、漢章京又各分兩班值班，每班八人。軍機章京之任命，或稱為“軍機司員上行走”，或稱為“軍機章京上行走”。
軍機處的官員沒有編制，簡放任免都在原單位，人數也視需要而定。軍機處要員能否入選，關鍵是看他們與皇帝的私人關系好壞。當時雍正帝最器重、最信任的軍機大臣除了與之關系密切的怡親王允祥外，還有大學士張廷玉、鄂爾泰、鑾儀使納親等，皇帝巡幸、謁陵、駐園時這些人無不跟隨其后。可見，雍正帝幾乎把軍機處看成了自己的一件隨身物件，走到哪里便帶到哪里，說明軍機處在雍正帝心里是十分重要的。
最後一代軍機大臣（1901年-1911年）
1901年光緒27年：禮親王世鐸、榮祿、王文韶、鹿傳霖、瞿鴻禨
1902年 光緒28年：榮祿、王文韶、鹿傳霖、瞿鴻禨
1903年 光緒29年：榮祿、王文韶、鹿傳霖、瞿鴻禨、慶親王奕匡、榮慶
1904年 光緒30年：慶親王奕匡、王文韶、鹿傳霖、瞿鴻禨、榮慶
1905年 光緒31年：慶親王奕匡、王文韶、鹿傳霖、瞿鴻禨、榮慶、徐世昌、鐵良
1906年 光緒32年：慶親王奕匡、鹿傳霖、瞿鴻禨、榮慶、鐵良、徐世昌、世續、林紹年
1907年 光緒33年：慶親王奕匡、瞿鴻禨、林紹年、鹿傳霖、醇親王載灃、世續、張之洞、袁世凱
1908年 光緒34年：慶親王奕匡、醇親王載灃、世續、張之洞、鹿傳霖、袁世凱、那桐
1909年 宣統1年： 慶親王奕匡、世續、張之洞、那桐、鹿傳霖、戴鴻慈
1910年 宣統2年： 慶親王奕匡、世續、那桐、鹿傳霖、戴鴻慈、吳郁生、貝勒毓朗、徐世昌
1911年 宣統3年： 廢軍機處，成立內閣，史稱皇族內閣
