柴山兼四郎（日语：しばやま けんしろう，1889年5月1日－1956年1月23日），出生于日本茨城县，大日本帝国陆军军人。最终军衔为陆军中将。
他是柴山定次郎的第三子。1912年5月毕业于下妻中学校，从拓殖大学退学后，又从陆军士官学校（24期）毕业。同年12月，任辎重兵（日语：輜重兵）少尉，隶属于辎重兵第14营。1922年11月，从陆军大学校（34期）毕业。
1923年6月，任辎重兵第14大队中队长，后历任参谋本部勤务、参谋本部员、参谋本部（支那研究员）、参谋本部员。1928年11月，任张学良顾问补佐官。1931年11月起，历任参谋本部员、支那公使馆驻外武官（北平）、参谋本部（欧米出张）、辎重兵第18大队长。1936年3月，晋升为辎重兵上校，并被任命为弘前辎重兵第八联队长。
1937年3月，任陆军省军务课长。后担任天津日本特务机关长，1939年3月晋升陆军少将。同年8月，被派往中支那派遣军总部，历任第11军司令部（汉口特务机関长）、辎重兵监部、陆军辎重兵学校（日语：陸軍輜重兵学校）长。1941年10月，他晋升为陆军中将，并担任辎重兵监（日语：輜重兵監）。
1942年4月，他被提拔为第26师团长。在担任南京政府（汪精卫政权）最高军事顾问后，他于1944年8月至次年7月担任陆军次官。
1944年9月5日，陆海技术运用委员会成立，柴山兼一郎与海军省的海军次官一起担任委员长。该委员会试图将陆上、海上和民用科技一体化，以便于开发特殊奇袭武器。
1945年5月兼任大本营兵站总监。同年7月，他被调入后备军事动员。1948年5月，他因战争罪被拘留，1948年11月，他被判处七年监禁；1951年8月，他被假释。
1953年4月，他以独立候选人的身份参加了参议院全国区第3届日本参议院议员通常选举，但未获成功。同年8月，他出任军人恩给（日语：恩給）全国连合会会长。
