台湾日治时期的台北州立台北第二中学校于1922年(大正11年)5月8日以地方人士之倡议设立,设校于万华的艋舺清水祖师庙(台北市万华区康定路),1925年(大正14年)于台北市中正区创建校舍,翌年夏天落成迁入启用,并订5月17日郑成功登陆台湾之日为校庆。1946年改名为台湾省立台北成功中学,即今日的台北市立成功高级中学。
台北二中以日治史上重要的反日与左派运动闻名。1936年,李沛霖、杨友川、林水旺组织列星会准备发行武装抗日,但活动失败,十六名学生遭日警逮捕,雷灿南更遭日警刑求致死。尔后,吴克泰、林如堉、李苍降等皆受鼓舞于日后投身反日行列。