人工智能（AI）在教育领域的应用，近年来备受瞩目，仿佛一股不可阻挡的潮流，席卷着传统教育的方方面面。从智能教学助手、个性化学习平台，到虚拟实验室、自适应学习系统，AI似乎正以一种前所未有的方式重塑着教育的未来。然而，在这股热潮中，我们是否真正冷静地思考过AI在教育中的作用？它究竟是教育的福音，还是隐藏着潜在的风险？本文将从多个角度对AI在教育中的作用进行冷思考。
一、AI无法完全替代教师
教育，本质上是人与人之间的互动与交流，是知识、情感、价值观的传递与塑造。教师在课堂上的言传身教，与学生之间的互动讨论，这种充满人文关怀与情感温度的教育方式，是AI难以完全替代的。
Neil Selwyn指出：“教育过程和实践可以进行统计建模和计算的方式有限”，许多教学和学习的基本方面无法以数据形式被可靠地捕获，尤其是那些与社会环境、文化背景、个体差异等因素紧密相关的复杂情境。例如，教师在课堂上与学生进行的互动、对学生情感的把握、对学生创造力的激发等，这些都难以通过简单的数据模型来准确表示和量化。AI技术在处理这类复杂、模糊、非线性的教育现象时，往往显得力不从心，容易陷入对教育过程的简化和片面理解。
Neil Selwyn对于ChatGPT技术是这样评论的：像 ChatGPT 这样看似有感知能力的人工智能工具，更准确地，可以理解为以统计学上可能类似于更大块的预先存在文本的方式，组装和重新排列取自互联网的预先存在的文本片段。生成式人工智能——与任何人工智能工具一样——并不比任何其他非人类物体更“知道”或“理解”它在做什么。即使它正在产生看似合理的文本，生成式人工智能语言工具也对其输出的含义没有任何“理解”或“知识”。相反，正如鹦鹉可以在没有任何意义参考的情况下模仿人类语言一样，大型语言模型也可以——尽管使用了关于文本之前如何由人类作者组合在一起的复杂概率信息。因此，充其量，这些都是统计模拟，或者更准确地说，是对人类产生的文本的复制，而没有用于产生原始材料的人类智慧、想象力或洞察力。
人工智能是一种复杂的统计处理形式，AI技术依赖于数据和算法，它能够处理的是那些可以被量化、标准化的教育内容，而对于教育中那些难以量化的情感、创造力、批判性思维等重要元素，AI往往显得无能为力。它无法理解学生内心的困惑与挣扎，无法感知学生的情感波动，更无法像教师那样给予学生温暖的鼓励与适时的引导。
Meredith Broussard说：“数学在具有明确参数的明确情况下的明确问题上运行得非常漂亮。学校是明确定义的对立面。学校是人类建造的最华丽复杂的系统之一。”所以即使是最“技术上聪明”的创新在部署到现实生活环境（如学校）中时，也可能是“社会上愚蠢的”。无论人工智能变得多么复杂，对任何教育事件或时刻中隐含的背景层进行统计建模的任何努力，都将只是对现实生活复杂性的生硬计算近似。正如 Karen Hao当时报道的那样：“即使拥有大量数据，人工智能也无法预测孩子的生活会如何发展。”
因此，在教育中，我们不能过分依赖AI，而应坚守教育的本质，充分发挥教师的主导作用，让AI成为辅助教学的工具，而非主导教育的主体。
二、AI可能加剧教育不公平
AI在教育中的应用，看似能够为教育资源的分配提供便利，实则可能加剧教育不平等。
一方面，发达地区和优质学校拥有更多的资金和技术支持，能够更早、更广泛地应用AI技术，从而进一步扩大其教育优势。而偏远地区和薄弱学校由于资金、技术等条件的限制，难以跟上AI教育的步伐，这可能导致这些地区的学生无法享受到AI技术带来的教育红利，进一步拉大与其他地区学生之间的教育差距。
另一方面，AI技术在应用过程中可能会对某些特定群体产生歧视，如自动评分系统可能对符合历史上获得高分的学生给予更高的分数，或者语音识别系统对非母语口音的学生在语言测试中反复做出作弊的错误判断。这种算法歧视会加剧教育机会的不公平分配，使弱势群体学生处于更加不利的地位。还有，人工智能系统依赖于社会特征和社会现象的统计分类，这可能导致对学生身份、他们的背景和行为的错误表述，从而会加强固化不公正的等级制度和社会阶层。
因此，在推动AI教育的过程中，我们必须高度重视教育公平问题，确保AI技术的普惠性，避免其成为加剧教育不平等的工具。
三、教育内容与形式的同质化风险
AI技术的应用往往伴随着对教育内容与形式的标准化和同质化要求。为了适应AI系统的数据处理和分析需求，教育内容需要被拆解成易于量化和编码的模块，教学形式也需要更加规范化和程序化。例如，我们看到有报道称，学生现在必须以机器可读的方式行事——这可以被描述为“适应算法”。这可能涉及学生必须以计算机可以轻松识别的方式书写或说话，或者以产生人工智能系统可以轻松处理的数据的方式行事。类似地，教师可能必须开发“可解析的教学法”——即易于编纂的教学方式，其结果可以输入到系统中。也许不太明显的是，人们担心教师和学生最终会为了触发适当的算法响应而从事空洞的表演行为。
这种趋势可能导致教育内容的丰富性和多样性受到削弱，教学过程的创造性和灵活性受到限制。如Neil Selwyn所言，“让教育适应人工智能的需求”意味着教育的一些基本调整和重组，可能会导致教育趋向标准化、同质化和狭隘化。长此以往，学生可能会失去对知识的深入理解和批判性思考的能力，教育的个性化和创新性也会受到损害。教育应该注重培养学生的创新精神和批判性思维，鼓励教师进行教学创新，而不是让AI技术将教育内容和形式固化，限制了教育的发展空间。
四、数据隐私与安全的隐患
在AI教育应用中，学生的学习数据被大量收集和分析，这引发了数据隐私与安全方面的担忧。如果这些数据得不到妥善保护，可能会被滥用或泄露，给学生带来潜在的风险。例如，学生的个人信息、学习习惯、考试成绩等数据一旦落入不法分子手中，可能会被用于诈骗、骚扰等不法活动，或者被用于对学生进行不当的标签化和歧视。因此，在推广AI教育的过程中，必须加强数据安全防护措施，建立健全的数据保护制度，确保学生的数据隐私得到有效保障。同时，也需要加强对教育数据的监管，防止数据的滥用和不当使用。
五、教师角色的转变与挑战
AI技术的应用对教师的角色提出了新的要求和挑战。一方面，AI可以承担一些重复性、机械性的工作，如批改作业、出试卷等，使教师能够将更多的精力投入到教学设计和创新上。但另一方面，教师需要适应AI技术带来的教学变革，掌握与AI协同工作的方法和技巧，这需要教师具备一定的技术素养和适应能力。同时，教师还需要关注AI技术可能对学生学习带来的影响，如学生对AI的过度依赖可能导致自主学习能力的下降，教师需要引导学生正确使用AI工具，培养学生的独立思考和自主学习能力。此外，教师在面对AI技术时，还需要保持批判性思维，避免盲目跟风，要根据学生的实际需求和教学目标，合理选择和应用AI技术，确保其真正为教育教学服务。
六、AI技术的生态与环境成本
AI技术的发展和应用需要大量的数据和计算资源，这带来了不可忽视的生态与环境成本。
实际上，人工智能依赖于一系列资源密集型且对地球造成有害后果的提取过程。简而言之，在教育中越来越多地使用人工智能技术会带来巨大的环境成本——涉及到制造数字技术所需的稀有矿物和金属的消耗、支持数据处理和存储所需的大量能源和水，以及处置数字技术产生的快速积累的有毒废物和污染。
训练一个人工智能模型的相关碳排放量可能超过626,000磅二氧化碳，相当于62辆油车行驶12个月的排放量。此外，AI设备的生产和废弃也会对环境造成一定的影响。在教育领域大规模推广AI技术时，我们必须充分考虑其生态与环境成本，寻求更加可持续的发展方式，避免对环境造成过大的负担。教育工作者和政策制定者需要关注AI技术的可持续性，推动绿色AI技术的发展和应用，减少AI技术对环境的负面影响。
AI在教育中的作用并非全然积极，它既有着巨大的潜力和价值，也存在着诸多局限性和挑战。我们不能盲目乐观地认为AI技术能够解决教育中的所有问题，也不能一味排斥和否定其在教育中的应用。正确的态度应该是理性地看待AI与教育的关系，既要看到AI技术为教育带来的便利和机遇，也要充分认识到其可能带来的负面影响和风险。在未来的教育实践中，我们应该注重发挥教师的主导作用，合理利用AI技术作为辅助工具，坚持以人为本的教育理念，关注学生的全面发展，努力实现教育的公平、优质和可持续发展。同时，也需要加强对AI技术在教育中应用的研究和监管，确保其真正为教育事业的发展服务，而不是成为教育发展的阻碍。
本公众号为AI技术推广小站，欢迎关注，一起学习，一起探讨：
本文内容参考自：
Neil Selwyn (2024). On the Limits of Artificial Intelligence (AI) in Education. Nordisk tidsskrift for pedagogikk og. Special Issue on Artificial Intelligence in Education, 10, 3–14. http://doi.org/10.23865/ntpk.v10.6062
