第2军为大日本帝国陆军中之一军。编制于甲午战争、日俄战争、中国抗日战争及太平洋战争之时。
始编制于甲午战争时之1894年（明治27年）9月25日，战后1895年5月31日始解散。
始编制于日俄战争时之1904年（明治37年）3月6日，战后1906年1月12日始解散。
中国抗日战争爆发后之1937年（昭和12年）8月23日编制成军，编入于新设立的北支那方面军之作战序列。主要之作战区域在华北地区。1938年12月15日废军。自1937年8月下旬建立至1938年7月下旬为止，该军总共战死6,199名，战伤20,296名。
中国抗日战争爆发后之1942年（昭和17年）7月4日编制成军，编入于第1方面军之作战序列。主要之作战区域在满洲。1943年10月30日转编至北澳大利亚第2方面军之作战序列。1945年6月30日成为南方军直属部队至终战。
