作為日本陸軍在第二次世界大戰中部隊最高編制的總軍，其司令官一般為大將軍銜，下轄若干方面軍。從1939年至1945年8月日本無條件投降期間，日本陸軍總計設有中國派遣軍、關東軍、南方軍、第一總軍、第二總軍、航空總軍等6個總軍。
1939年以前，日本陸軍的最高編制為軍，下轄數個師團，但中日戰爭開戰后，為適應戰爭需要，日軍大幅征兵擴建陸軍，海軍，在軍之上設方面軍，在方面軍之上設總軍。
其中第一總軍于1945年4月7日由日本原防衛司令部改制而成，司令官為杉山元大將，駐地東京。
第二總軍司令官為畑俊六元帥，駐地廣島，但其在1945年8月6日被美國原子彈攻擊從而遭受了毀滅性打擊。
航空總軍司令官為河邊正三大將，駐地東京。
二戰結束后，除第一總軍改制為復員司令部，專門負責部隊復員工作外，其余總軍均遭裁撤。
