明治维新时期，初等教育发展备受政府重视。依据1872年的学制令，先前的寺子屋及乡学均被取消，全国共设小学53760所，小学分上下两等，学制各4年，儿童6岁入学学习。由于这一规定脱离当时政府财力而未能落实。1886年《小学令》的规定则较为符合实际：初等教育阶段分为寻常小学和高等小学两个阶段，年限各4年。寻常小学为义务教育；高等小学则实施收费制。同时在一些贫困地区设三年制简易小学作为补充。小学常设科目包括修身、国语、作文、算术、几何、物理初步、化学、史地知识、体操、图画及唱歌等。高等小学则在常设科目之外，加设一至两门外国语课程。明治维新之后日本初等教育获得快速发展，1873年日本初等义务教育入学率仅为28%，1891年则猛增至50.3%，1907年则达到97.3%。