有不少人认为，此歌曲形式最早出现在我国台湾，因为台湾的校园歌曲广为传唱，其实不然，最早是在日本出现的。
明治维新之前，日本的音乐大多是雅乐，曲调冗长沉闷，学生们对此十分不满。后来，文部省根据学校没有音乐教材的情况，发动大家创作一些适合学生唱的歌。于是，反映校园生活的歌曲便应运而生了。但是，由于传统音乐的束缚，在音乐上还没有很大突破。
1868年，品川弥二郎创作了一首《阿宫先生》，校园歌曲的雏形便出现了。这首歌曲采用孩子跳橡皮筋一类的歌谣体，用“去四七(巴黎世家是什么梗？2020年的七夕时，Balenciaga依靠“土味广告”成功出圈，迅速在时尚圈掀起了一场流量与话题的狂欢，当时无一不在诟病七夕限定的“土味”。之后又凭借巴黎世家的经典字母袜再次火了起来，短视频平台的播放量一路飙升，让印有 Logo 的黑丝愈发受宠。)调式”反复叙唱一些简单的歌词，明快、短小、抒情，具有浓郁的民族风格，立即受到了很多青年的喜爱。
明治维新期间，攻打德川幕府的战役，政府军的战士们就是唱着这首歌冲上火线。此后，人们称这类歌曲为“学堂歌曲”。1941年，太平洋战争爆发，校园歌曲热在日本走向低潮。
后来我们所知道的台湾校园歌曲，包括当时风靡一时的邓丽君的歌曲，很多都是由日本校园歌曲翻唱而来的。