日本未参与于罗马主办的1960年首次残奥会，参与了在自家举办东京的1964年赛事。该国自此参与每届夏季残疾人奥林匹克运动会，及自1976年首次的每届冬季残疾人奥林匹克运动会。 日本曾经2次举行过残疾人奥林匹克运动会，包括东京的1964年夏季残奥会、长野的1998年冬季残奥会。并将于2020年于东京再度举行残奥。日本管理机构为日本残疾人协会。
日本是唯一一个在1964年残奥会上竞争的亚洲国家，也是首届参加冬季运动会的唯一亚洲国家，使它成为第一个参加夏季或冬季运动会的亚洲国家。日本是亚洲国家成绩第二好的国家，仅次于中国，曾获得395面残奥奖牌，包含了118面金牌、134面银牌、143面铜牌。历届成绩排位第17。
日本在1964年东京残奥会上只赢得了一枚金牌（男子双打C类，乒乓球），但之后成绩迅速改善，1968年赢得2面金牌，1972年赢得4面，1976年赢得10面，2004年赢得18面达到顶峰，2008年下滑到5面。冬季赛事中的1998年长野残奥会获得12面奖牌，是成绩最好的一次。
日本最成功的残奥选手是游泳选手成田真由美，她在1996年至2004年之间获得15面金牌，也成为最成功的残奥选手之一。
主办国 (日本)
主办国 (日本)
