元帅，于1872年（明治5年）至1873年（明治6年）的为实质的阶级（陆军元帅）。之后废止，到1898年（明治31年）设立元帅府，并将进入元帅府之陆军大将与海军大将给与元帅的称号，直到第二次世界大战结束后废止。目前日本自卫队中并无相对应的称号。
日本的元帅是从1872年7月19日，参议西乡隆盛以陆军元帅的阶级兼任为始。原称为“参议兼陆军元帅西郷隆盛”，29日改称为“陆军元帅兼参议西郷隆盛”（即陆军元帅为本官，参议为兼任；前一个称号反之）。1873年官制改订后取消了元帅官阶，西郷隆盛改叙为陆军大将。
1898年制定了元帅府条例，将功勋卓著的老将给与元帅的称号，并为终身职。第一代进入元帅府的元帅为小松宫彰仁亲王、山县有朋、大山巌、以及西乡从道（陆军3名，海军1名）。1926年大勋位昌徳宫李王去世时也同样给与元帅的礼遇。
基本上，元帅为日本陆海军的名誉称号，官衔为元帅陆军大将或元帅海军大将，通常是部队指挥官退休时才会赐与元帅称号。元帅名义上是天皇的军务顾问，军事参议院当然参议官，也要召开不定期的元帅会议，但对于军队实务上几无影响力。不过到第二次世界大战中，由于陆军规模扩大，方面军之上又增加了“总军”上级指挥层级，因此出现了以元帅称号出任总军部队司令官的例子（寺内寿一，杉山元，与畑俊六）。
日本元帅府建立后共有三十位陆、海军大将列入，明治时代为陆军5名海军3名，大正时代为陆军6名海军6名，昭和时代为陆军6名海军4名。第二次世界大战当中赐与元帅的陆、海军大将各有3名，陆军为寺内寿一，杉山元，与畑俊六；海军为永野修身，山本五十六，与古贺峯一，其中山本五十六与古贺峯一为死后追赠。
