中国古代的教育，城乡差别并不明显。乡村教育的落后是从清末开始的，其根本原因是中国在走向现代化的进程中城乡发展的不平衡，但废科举也是造成乡村教育落后的重要原因之一。
一、科举制是在仓促之间被废止的
鸦片战争后，传统教育的弱点充分暴露，引进西学成为当务之急。至甲午惨败，天下愕然，群起而寻其因，遂集矢于八股和科举。康有为称：“中国之割地败兵也，非他为之，而八股致之也。”（康有为：《请废八股试帖楷法试士改用策论折》，载《戊戌奏稿》）于是清廷先废八股，再停科举，以新学堂代之。显然，把战败之因归于八股和科举，并未抓住问题的要害，落后就要挨打才是定律。在头脑发热情况下做出的废八股和科举的决定，必然是仓促的，这主要表现在，清政府对废科举必须要解决的两个基本问题并没有做好充分的准备。
一是废了科举，教育怎么办？科举是选官制度，本与教育无关，但由于封建政府要培养忠于朝廷之士，需要以封建理论去规范他们的思想行为，从学习上引导他们，因此，科举创立不久，便与教育有了不可分割的联系，由此也埋下了隐患。明清时，科举完全左右了教育，把教育内容限制在狭小的范围之内，使众多读书人钻进了死胡同，脱离了社会与民生。依附于科举的教育不是完整的教育，改革是势所必然。但是，改革不应是简单的废除，而首先要搞清科举和教育各自的功能，处理好二者的关系。科举的功能本是保证公平取士，教育的功能是为社会培养各方面的人才。科举不应左右教育，教育也不能只为选官服务。只有让科举回到原本的、单一的选官功能，才是明智的选择。因此，教育与科举分途，才是新式教育发展的前提和关键。然而，清政府并没有这样的认识，反而想以新学堂代替科举，对学堂毕业生授予出身，一如科举之模式，很大程度上限制了教育的发展。御史陈曾佑看到了问题的症结，指出新学堂之不能发展，乃“学堂、仕进混一之弊”。他认为，学堂只授文凭，虽多至数千人不觉其滥，如尽授以官，则难以为继，“国家最利之事，在人人皆知求学；国家最不利之事，在人人皆思做官。”（《光绪政要》卷三十一）以发展新学堂来普及教育是进步的，让新学堂重新承担科举选官的功能则是行不通的。认识上出现了偏差，其所推行的政策自然难见其效。
二是废了科举，如何善后？废科举是举国之大事，理应做好充分的善后准备工作。由于仓猝定制，容不得清政府过多地考虑善后问题。面对府州县学的停办，面对数百万科举制留下的举人、生员、童生，清政府既没能解决他们的认识问题，也没有妥善安排他们的出路。而在推广新学堂时，也看不到有效的舆论宣传、组织保证、财政支持、师资培训，全凭各地方长官的认知程度各行其是。正是由于缺乏整体规划和有效的善后措施，造成废科举后一段时间内社会思想的混乱，国人普遍缺乏对新学堂的认同。
二、废科举后面临的新问题
由于思想准备不足，措施不力，因此废科举后出现的许多新问题无法得到解决，严重影响了新学堂的发展，更使乡村教育受到严重冲击而陷于困境。
一是旧的教育体系解体后，造成乡村教育的断层。科举时代，乡村普遍设有社学、义学和私塾，与正规的府州县学形成了一个完整的教育体系。这个体系对乡村的文化教育普及起了重要的推动作用。废科举后，旧的教育体系一下子解体了，而新的教育体系一时又无法构建。最初的学堂都设在州县以上的城市，乡村子弟面临无学可上的局面。旧的教育体系中，启蒙教育在乡村占了极大比重，而一旦没有了启蒙教育，乡村子弟就很难考进城里的学堂。实际上，废科举后的一段时间内形成了乡村教育的真空。而这种文化教育的中断，哪怕只有十几年，便是耽误了一代人。
二是传统观念尚未转变，乡村教育难以为继。科举时代的读书观是“读书做官”。诸如“万般皆下品，惟有读书高”、“将相本无种，男儿当自强”一类的宣传，渗透到乡里民间，妇孺皆受其染；而“朝为田舍郎，暮登天子堂”的社会现实，更为世人树立了读书做官的样板。其影响可谓根深蒂固。科举可以立废，观念不可能一下子转变。废科举后，许多乡村人士对新学堂嗤之以鼻，纵有学堂毕业者，乡党亦不以为荣。许多人看不到读书做官的效果，又缺乏对新学堂的正确认识，因而产生了“学而无益”的想法。在传统观念尚未转变，而新学堂又未能触及的乡村，传统的启蒙教育难以为继。
