1902年清政府颁布了由管学大臣张百熙拟定的一系列“学堂章程”，即《钦定学堂章程》(旧称“壬寅学制”)。其中规定：儿童自6岁起入蒙学堂，其宗旨在“培养儿童使有浅近之知识，并调护其身体”。lo岁入寻常小学堂修业3年，其宗旨“在授以道德知识及一切有益身体之事”。蒙学堂和寻常小学堂共7年，规划为义务教育性质。
1904年，在《奏定学堂章程》中的《学务纲要》中最先出现了“义务教育”一词，原文是“初等小学堂为养正始基，各国均任为国家之义务教育。东西各国政令，凡小儿及就学之年而不人小学者，罪其父母，名为强迫教育。”
1906年，学部颁布《强迫教育章程》十条，规定“幼童至7岁须令人学，及岁不入学者，罪其父兄”。这是中国政府计划实行强迫义务教育的第一道正式法令。
1909年，清政府先拟在北京试行强迫义务教育“以为各省之倡”，但调查显示在北京须设立小学堂多处，“一时筹款困难”，决定“先从教育皇室近支子弟为提倡教育之人手”，这是与义务教育的本意相悖的。1912年元旦，中华民国临时政府成立之后，孙中山任命蔡元培为教育总长，并成立教育部。l912年7月10日至8月10日，蔡元培在南京主持召开了全国临时教育会议。9月3日，临时政府教育部颁布了这次会议签订的“壬子一癸丑学制”。该学制明确规定：“初等小学四年为义务教育”。在政府法令中明确规定了义务教育问题。
国民党统治时期，也颁布过一系列的法令，以实施义务教育。例如•，1930年4月，教育部在南京召开了第二次全国教育会议，通过了《改进全国教育方案》，其中第一章为《实施义务教育计划》。这个计划规定普及期限为20年，前5年注重师资的养成及城市乡村义务教育区的开办，后15年注重四年义务教育的推行。规定义务教育经费由中央负担45%，省负担10%，地方负担45%，并指定田赋附税、土地税等为义务教育经费之税源。
