随后先生来到东京，在牛进小学担任教师，同时学习音乐，并且考入了一直向往的东京音乐学校(即现在的东京学艺大学)的师范系。毕业后，先生成为成蹊小学的音乐教师。成蹊小学的创立者中村春二先生的教育理念，给了小林先生很大的影响。中村春二先生是一位非常优秀的人，他认为“教育必须从小学开始”，每一个班级的学生，绝对不超过三十人。他还倡导自由教育，贯彻尊重孩子们个性的教育理念，比如说，如果上午完成了学习计划，下午就散步、采集植物标本、写生、听老师说话、唱歌……后来，小林先生也实行这种授课方式。