如何走出人工智能教育风险的困局：现象、成因及应对.docx

如何走出人工智能教育风险的困局现象、成因及应对 李世瑾　胡艺龄　顾小清[摘 要] 对新兴技术应用的追问从来都是停留在技术中性论层面教育创新虽需技术支持，但不能只是管中窥豹，必须采用前瞻目光澄清模糊认识和错误做法，主动走出技术应用的风险困局为推进智能教育生态的健康发展，本研究從管控视角廓清了四类典型现象：忽视智能技术还原教育世界的本体风险、遮蔽智能技术表征教育生态的认识风险、轻视智能技术违背教育初心的价值风险、滥用智能技术导致教育治理的伦理风险研究发现，风险成因关键在于：过度掩盖技术应用的内生复杂性机理，尚未厘清技术介入教育生态的普遍性规律;盲目弱化技术重塑教育的脆弱性机理，滋生技术介入教育生态的负向效应;高度忽视教育生态的测不准性机理，缺少风险治理的科学方法与适切路径鉴于此，提出应对智能教育风险的关键出路：共创复杂性治理范式，揭示教育生态的内生规律;厘清主体的协同机制，提升教育生态的抗逆基因;构建多元创新方法论，适应教育生态的动态平衡[关键词] 人工智能; 教育应用; 生态风险; 内生机理; 因应策略[] G434 [文献标志码] A[作者简介] 李世瑾（1993—），女，河南安阳人。

博士研究生，主要从事学习科学与技术设计、智能教育研究E-mail：shijinliEdu@一、问题的提出面对二元智能时代的到来，教育已被卷入这场声势浩大的技术革命中尽管人工智能教育实践的热情与野心日趋高涨，但当技术直接参与人本身的改写和塑造时，教育工作者产生前所未有的慌乱，甚至动摇了教育初心及育人使命技术是建立在流沙之上的双刃剑，对新兴技术的追问从来都是停留在技术中性论层面[1]教育创新虽需技术支持，但不能只是管中窥豹，必须采用前瞻目光澄清若干模糊认识和错误做法，主动走出技术应用的风险困局已有学者对这一问题进行深刻省思舍恩伯格等指出，人工智能技术不是解决一切教育问题的“灵丹妙药”，亟须理性探索人本人工智能的路径和边界[2]安涛从海德格尔技术哲学观检省了“人—技术—教育”一体化的存在论结构[3]李芒等从人工智能教育应用的盲区、禁区和误区出发，强调人工智能教育必须重视人本性和完整性[4]Jim[5]、Williamson[6]等依据教育治理原则探索数据服务的未来趋势邓国民等提出福祉、公平正义、责任和问责等人工智能伦理原则[7]由此看来，学界对人工智能教育的理性抉择已达成共识，但鲜有针对风险管控的突围路径，这无疑将制约教育生态的健康发展。

正如英国著名社会学家大卫科林格里奇所言：“一旦技术应用的风险后果发生时，它已成为经济和社会结构的一部分，对其管控将十分困难[8]因此，本研究从管控视角廓清智能教育的技术风险阈，进一步透析其内生机理，主动突围技术风险的困局，以期为智能技术与教育生态的深度融合觅求镜鉴二、解构：智能教育的技术陷阱智能技术内蕴“造客之术”和“塑主之术”[9]所谓造客之术，即主体在智能场域中无法理性感知到客观环境的存在，对其本原认识存在偏颇所谓塑主之术，即过于强调智能技术的应用价值，无法保持主体思维、意识和情感等方面的主观能动性如何消解智能技术的周边定律、“过滤气泡”等偏见效应[10]，脱离技术奴役的牢笼尤为关键因此，研究重新审视智能教育的边界和限度（如图1所示），为教育治理与管控指引科学方向一）忽视智能技术还原教育世界的本体风险人工智能通过多重意涵指向，试图探索教育世界的奥秘，彰显出更多的“趣悦性”和“个性化”[11]例如，基于深度学习挖掘学习者的交互行为和情感特征[12]、采用人脸识别技术监测学习者的学习质量[13]、基于Spring Cloud的“微课堂”推送个性化学习资源[14]但是，当撕下技术虚伪的“乐观面目”时，其现实应用效果并不尽如人意。

一项关于智能导学系统的元分析结果表明，其对学业成就的提升效果非常有限（ES=0.09）[15]另有研究结果表明，智能教学干预会让表现不佳的学习者感到不适应[16]，甚至加剧了学习者的同质化倾向[17]教育复杂而不可控，人性神秘而不可测[18]人工智能技术虽能汇聚规模化的教育数据，但始终无法全部还原真实的教育世界，这正是技术本体风险的现实映射具体地，一是算法和数据的表征阈值远远小于教育生态范畴，其“样本<总体”的可视化表征显露出人工智能的局限性二是表征形式的节点化和简约化，背离了教育生态的复杂性和系统性试想，当高高竖起的能力标杆被量化为可复制的标准时，恐怕早已遗忘“好的教育”的规范性问题[19]因此，从本体意义上来看，一味忽视“暗箱知识”“缄默知识”以及人的生命成长和价值观等内在品质，无疑将与育人初心相悖此外，算法偏好往往固化甚至放大教育世界的“噪音数据”或“干扰数据”，抹杀教育的整全性和人本性，甚至成为教育质量测评的“杀伤性武器”由此看来，技术工具的肆意狂妄，导致了教育人工智能的本体风险二）遮蔽智能技术表征教育生态的认识风险人工智能具有溢出带动性很强的“头雁”效应[20]，为教育工作者勾勒未来教育图景打开了新视角。

然而，正是遵循“主体—数据—客体”的表征路径，造成了技术还原教育实践的局限与割裂其一，人工智能技术企图通过动态的数据链打开教育世界的“黑匣子”，但由于数字计算缺乏对因果关系这一隐性态势的挖掘和解释，很容易造成技术应用偏离教育实践的本原路径其二，人工智能技术打破了“本我”与“非我”的平衡感这是因为，技术的趣悦化促使个体认知、情感和意志等沉浸在智适应的世界里，进而产生一种“非我”的错觉一旦“非我”表征形态无法适配“本我”精神意志时，两者之间的张力将会失衡，自我由此陷入技术异化的困境之中其三，个体对技术过度迷恋容易导致主体话语权的缺失，从而遮蔽甚至割裂人的情感表征以及价值观[21]诚然，这些缺失主体内在品质和生命价值的二进制数据，实质上是对教育情境、教育生命、教育价值的荒谬表征因此，面对人工智能教育的认识风险，教育工作者亟须“知其然，知其所以然”三）轻视智能技术违背教育初心的价值风险教育是一项具有时代感的伟大事业[22]，始终承载着育人这一亘古不变的责任与使命[23]然而，伴随技术潜在的功效增强，其违背育人初心的现象愈发凸显，这恰是技术价值风险的真实寫照一方面，人工智能技术是一种客观手段的存在，一旦未能充分考量教育的终极目标时，其弊端将显而易见。

比如，当大脑几乎24小时置于智能世界时，由于缄默性知识的缺失以及认知结构的固化，人的思维和意识很容易陷入西西弗斯式状态[24]另一方面，当过度依赖技术桎梏时，主我与客我之间的互动交流将视为数据与数据之间的较量，进而造成形式化和表层化的教学事故愈发频繁，学习共同体也呈现同质化发展倾向显然，这些初见端倪的价值风险正如“普罗克拉斯提斯铁床”，逼迫学习者经过“铁床”的考验终打上“标准产品”标签[25]但是，教育不是工厂流水线上的产品[26]，无论人工智能技术如何发展，动之以情、导之以行的教育始终是育人的根基因此，坦然面对人工智能技术“有计算而无算计、有智能而无智慧、有感知而无认知”的现实，以及“技术服务于人”的理性认知，是突围教育人工智能价值风险的关键四）滥用智能技术导致教育治理的伦理风险人类总会对技术的进步勾勒善意的幻想然则，人是伦理性的存在，其价值取向或精神观念无疑将受到技术伦理风险的规约其一，技术服务的异化以及数据隐私的泄露，正在侵蚀学习者的幸福感[27]比如，赋思头环所导致的信息泄露、学习证据的标签化、异质数据的杂糅化……可以说，教育人工智能正在通过程序和规则构建一所福柯式“全景式监狱”，释放出诸多“现代性信任风险”[28]。

正如德雷福斯所言：“人类理性和智能的独特性需要积聚智力、社会以及文化的熏陶，而这种独特性是很难被人工智能表征和程序化的[29]其二，学习者由于长期使用智能技术，很容易养成“技术心流”的陋习所谓技术心流，即学习者过度迷恋技术交互而进入忘我的状态，甚至抗拒技术之外的任何事物感知[30]也就是说，一旦学习者脱离技术牢笼，将会逃避同侪之间的合作交流，进而产生性情孤僻、情感疏离等不良症状其三，在人工智能技术的倒逼下，教育内容具有更大的密度和吞吐量，这让学习者经常感到无所适从，且当教育内容愈发满足学习者的个性化需求时，同伴之间的竞争力将会明显弱化，这会阻碍学习者持续努力的信念与动力三、审思：风险形态的内生机理人工智能技术拥有变革教育的伟力，但“技术之于教育”的自反性力量消弭了人的主动性和生长性正如著名风险社会学家乌尔里希贝克所言：“技术宛如达摩克利斯之剑，应用进程中必将面临随时坠落的风险[31]无论是智能教育裹挟下的何种风险，实则正是技术风险范式的现实映射因此，从根源上透析风险背后的复杂机理，助力智能教育的理性蜕变一）过度掩盖技术应用的内生复杂性机理教育生态是一个不以人的意志为转移的内生复杂系统当人工智能技术介入教育生态系统时，教育边界被打开，性质迥异的要素和行为耦合在一起，冲突、协同、吞噬、更新等现象纷纷涌现，教育系统也更加错综复杂[32]。

正如技术风险范式所证实，一旦教育工作者无法掌控教育生态系统时，其复杂性要素将以风险形式释放出来具体来说，人工智能教育应用的内生与外源制约着风险产生的情境和场域，也决定着风险发生的频率以及现实条件（如图2所示）从内源风险来看，人工智能教育的不确定性、不可知性、非线性以及局限性扩大了风险发生场域从外源风险来看，由于尚未厘清技术介入教育生态的基础机制、普遍性规律以及特殊情境，使得原本复杂的生态系统衍生出更多新的风险，并将特殊化的内生风险转化为普遍风险显然，这种因技术交互所引发的外源风险、内生风险以及与教育生态系统本身的复杂性耦合，加之饱受理性异化、认知冲突、监管失范和利益驱动等“多重陷阱”的烦恼和诟病，加剧了人工智能教育风险发生的可能，进而影响教育风险的监控与治理进程二）盲目弱化技术重塑教育的脆弱性机理脆弱性作为教育生态系统内生属性的客观存在，是技术变革教育所呈现的不强韧状态人工智能教育应用遵循“起步→应用→融合→创新”的变革路径，虽不断尝试在教育创新方面作出改革，但由于技术的脆弱性具有强大的潜在性或隐蔽性，只有当风险发生时才会涌现出来依据技术风险范式的意涵可知，技术本身的脆弱性将会滋生教育生态的负向效应（如图3所示）。

首先是动机性，动机是行为意向的发端和持续方向，由于教育生态系统的复杂性表征和模糊边界转换加大了动机权重赋值的难度，迫使人工智能计算陷入尴尬局面其次是常识，它是时间、空间和文化熏陶的经验产物，包括大量技术规约但由于人工智能技术无法自主产生常识这一脆弱性，成为滞缓技术与教育生态深度融合的“绊脚石”最后是决策，由于智能决策与人类决策之间存在天然的鸿沟，如何让智能系统如同人脑一般，采用更加综合化、智能化的行动干预，这是突围教育人工智能走向人机协同、群智开放、跨界融合的关键显然，人工智能教育系统中脆弱性的存在无疑会放大教师、学习者和资源之间的不良互动，一旦发生较小“扰动”时，教育生态系统就会将“扰动”放大甚至变异[33]但是，这并不意味着应该排斥技术应用的脆弱性，相反，高度警醒技术的脆弱性机理，掌握其变化规律和发生机制，是管控人工智能教育风险的科学方法三）高度忽视教育生态的测不准性机理人工智能在教育中的应用是一个动态演化过程，其风险发生机制和作用过程通常无法预测比如，这些风险形态源于何种场域，其风险扩散路径和机制又是如何？这恰是技术风险理论“测不准性”的直观表现测不准性表明教育系统的主观意识与其客观存在具有一定差距，只有当教育系统处于动态平衡或脱离“扰动”的影响时，才能够正确刻画和精准预测人工智能教育应用的发展情势。

在此情境下，我们需要高度重视教育生态的整体性和完备性，即不仅透视人工智能教育应用的潜在风险和发生过。