人工智能与教育报告：政策制定者指南

1、人工智能与教育政策制定者指南UNESCO全球教育领导机构2030年全球教育议程教育是联合国教科文组织工作的重中之重，它既是一项基本人权，也是建设和平和推动可持续发展的基础。教科文组织是主管教育的联合国专门机构，在全球和地区的教育领域发挥领导作用，以推动各国教育系统的发展，增强其韧性和能力，从而服务所有学习者。教科文组织通过变革性学习引领应对当今全球挑战的行动，并在所有业务领域重视性别平等和非洲。教科文组织作为主管教育的联合国专门机构，负责领导并协调2030年教育议程旨在通过17项可持续发展目标在2030年前消除贫穷的全球运动的一部分。教育既是实现各项可持续发展目标的关键，同时自身也是单独一项目标（可持续发展目标4），即“确保包容和公平的优质教育，让全民终身享有学习机会”。2030年教育行动框架为落实这一宏伟目标及各项承诺提供了指导方针。联合国教育、科学及文化组织，丰特努瓦广场7号，75352巴黎07 SP，法国2021年出版 UNESCO 2021ISBN 978-92-3-500039-9本出版物为开放获取出版物，授权协议为 Attribution-ShareAlike 3.0 IG

2、O (CC-BY-SA 3.0 IGO) (http:/creativecommons.org/licenses/by-sa/3.0/igo/)。用户使用本出版物内容，即表明同意接受教科文组织开放获取资源库使用条件的约束(www.unesco.org/open-access/terms-use-ccbysa-chi)。原版书籍名称：AI and education: guidance for policy-makers联合国教育、科学及文化组织2021年出版本出版物所用名称及其材料的编制方式并不意味着教科文组织对于任何国家、领土、城市、地区或其当局的法律地位，或对于其边界或界线的划分，表示任何意见。本出版物表达的是作者的看法和意见，而不一定是教科文组织的看法和意见，因此本组织对此不承担责任。作者：苗逢春、Wayne Holmes、黄荣怀、张慧封面图片：SChompoongam/S、Lidiia/S及illustrator096/S装帧设计：Anna Mortreux人 工智能与教 育：前景与启示人工智能（ArtifcialIntelligence， AI）有望解决当今教育面临的部分重大

3、挑战，革新教学实践，最终加快迈向可持续发展目标4的进程。然而，这些技术的快速发展不可避免地带来了种种风险和挑战，目前相应政策讨论与监管框架变革的速度已赶不上其发展速度。本出版物为政策制定者提供指南，指导政策制定者充分利用人工智能与教育深度融合带来的机遇以及应对随之而来的风险。人工智能教育应用市场规模预计2024年将达到本出版物开篇讲述人工智能的相关必备知识：定义、底层技术和技术应用。然后，详细分析人工智能新兴趋势及其对教学的影响，包括我们如何确保人工智能技术在教育中的应用合乎伦理、包容和公平，教育如何能够帮助人类与人工智能共处与合作，以及如何发掘人工智能潜力促进教育发展。最后，本出版物论述了60亿美元利用人工智能实现可持续发展目标4所面临的挑战，并且为政策制定者因地制宜规划政策和项目提供切实可行的建议。“战争 起源于人之 思想，故务需于人之 思想中筑起保卫和平之屏障。”序 人工智能与教育政策制定者指南人工智能（Artifcial Intelligence， AI）技术的迅速发展对教育产生着重大影响。人工智能赋能解决方案的进步蕴含着巨大潜力，有望促进社会公益事业和实现可持续发展目标。要使

4、这些成为现实，离不开全系统的政策调整以及对健全的伦理监督的呼吁，也离不开全球从业人员和研究人员的深度参与。观全局，与相关伙伴一起加强在人工智能与教育领域的国际合作。人工智能与教育：政策制定者指南是在北京共识实施框架下编制的，旨在培养教育领域具备人工智能素养的政策制定者。本出版物会充实教科文组织日益扩展的教育领域智力成果库，政策制定者和教育工作者已然走进未知领域，面临有关未来学习如何与人工智能相互作用的基本问题。人工智能技术在教育中的部署和应用必须遵循包容和公平的原则，这是底线。为此，相关政策必须促进公平和普惠地获取人工智能技术，倡导将人工智能技术作为一种共有物品（publicgood）的非排他性应用，并注重赋能女童、妇女和社会经济弱势群体。新型人工智能技术在教育中的应用日益增长。如若人工智能技术在设计上有意增进以人为本的教学法并尊重伦理规范及标准，那么这一趋势对整个人类有益无害。人工智能技术应以促进每个学生学习、赋能教师队伍和强化学习管理系统为导向。除此之外，帮助受教育者和全体公民在生活和工作中安全有效地利用人工智能是全球范围内面临的一大共同挑战。未来的学习和培训系统必须让所有人具备核

5、心人工智能素养，包括了解人工智能技术如何收集和操纵数据，以及确保个人数据安全和保护的技能。最终，人工智能在本质上是跨行业部门的。有效的人工智能与教育政策规划离不开与各学科领域及部门的利益相关方进行磋商协作。并旨在服务政策制定和教育领域的实践人员与专业人士。本出版物旨在形成对于人工智能给教育带来的机遇的共同认知，及其对人工智能时代必备素养的启示的理解。本出版物通过呈现一份效益风险评估，以此来激发各方发挥批判性思维思考如何借助人工智能技术应对实现可持续发展目标4过程中面临的挑战，以及如何发现和化解潜在风险。本出版物汇集了相关的新兴国家政策，以及如何借助人工智能强化教学质量的实践典范。本出版物也可作为制定人工智能与教育政策的指导手册，从规划人本的和战略性目标，到制定关键建设政策组成部分和实施策略，皆有助益。因此，我希望本出版物中提出的关键政策问题、分析的经验教训以及分享以人为本的政策方针能够帮助各国政府和合作伙伴有效部署人工智能技术，促进教育和培训体系转型，使之服务于社会共同利益，打造一个包容的、可持续的未来。在促进与关键公私部门参与者就这些领域开展对话、掌握相关知识方面，教科文组织一直发挥

6、着牵头作用。各种活动和出版物已使各方进一步认识到人工智能给教育带来的大量机遇和深刻影响，帮助教科文组织成员国着手应对各种复杂挑战。2019年，联合国的教育领域信息通信技术旗舰项目“移动学习周”探讨了人工智能与可持续发展之间的关系。同年，教 科文 组 织与中国 政 府 在 北 京 携 手主 办“国际人工智能与教育大会”，主题是“规划人工智能时代的教育：引领与跨越”。大会探讨了人工智能对教育的全系统影响，同时通过并发布成果文件北京共识。这是有史以来第一份就如何充分利用人工智能技术实现“可持续发展目标42030年教育”提出建议的文件。北京共识明确建议，教科文组织应该提供相关指引和资源，以支持教育政策制定者的能力建设，并将人工智能技能纳入信息通信技术能力框架。更广泛地讲，该文件呼吁教科文组织纵Stefania Giannini联合国教科文组织教育助理总干事人工智能与教育政策制定者指南 致谢本出版物是人工智能与教育界专家共同努力的成果。为本出版物提供宝贵意见的外部专家包括：东南亚教育部长组织秘书处主任EthelAgnesPascua-Valenzuela、 中国南方科技大学教授赵建华、南非约翰内

7、斯堡大学研究助理ShafikaIsaacs、智利国会图书馆公民教育计划负责人WernerWestermann以及英国开放大学教育科技名誉教授MikeSharples。本出版物的篇章框架构思源自以下两人：联合国教科文组织教育信息化与教育人工智能部门主管苗逢春和前英国国家科技艺术基金会（NESTA）首席教育研究员WayneHolmes。他们也是本出版物的主要作者。另两位作者是任职于中国北京师范大学的黄荣怀和张慧。另外，需 要 感 谢 的 还 有J enny Webs ter和 AnnaMortreuxr，他们分别为本出版物提供文本编辑校对以及版面设计。负责协调本出版物审核与编制的团队成员包括教育信息化与教育人工智能部门范胡华、SamuelGrimonprez、王舒童、VeronicaCucuiat以及GlenHertelendy。联合国教科文组织在此感谢中国伟东集团提供的资金支持。这些资金支持也为联合国教科文组织成员国借助信息技术技术和人工智能实现可持续发展目标4提供了支持。为本出版物提供意见和同行评审的教科文组织专家包括：政策与终身学习体系部门主任Borhene Chakroun、未来学

8、习与创新部门主任SobhiTawil、未来学习与创新小组计划专家Keith Holmes、哈拉雷办事处计划专家Julia Heiss、教 育信息技术研究所高级国家教育项目干事Natalia Amelina、 政策与终身学习体系处高级计划负责人ValtencirM.Mendes以及性别平等处计划专家ElspethMcOmish。目录 人工智能与教育政策制定者指南人 工智能与教育：政策制定者指南目录序124致谢缩略语表1. 引言52. 政策制定者关于人工智能的必备知识2.1 人工智能的跨学科本质662.2 人工智能底层技术简介82.3 人工智能技术简介92.4 人工智能潜在发展趋势：“弱”人工智能与“强”人工智能2.5 对人工智能潜能和局限性的批判性审视2.6 人机协同智能101111122.7 第四次工业革命和人工智能对就业的影响3. 理解人工智能与教育：新兴实践与效益风险评估3.1 如何借助人工智能强化教育质量？1313141518192023利用人工智能支持教育管理和教育供给利用人工智能支持学习和测评人工智能为教师赋能并提高教学水平3.2 如何挖掘人工智能的创新应用实现教育共同目标？

9、3.3 如何确保人工智能在教育中应用的伦理规范、包容性和公平性？3.4 人类如何通过教育实现与人工智能共处及合作？4. 利用人工智能实现可持续发展目标4所面临的挑战4.1 数据伦理和算法偏见2525252627274.2 性别平等的人工智能以及借助人工智能促进性别平等4.3 监测、评估和研究人工智能在教育领域的应用4.4 人工智能将对教师角色产生哪些影响？4.5 人工智能将对学习者能动性产生哪些影响？5. 政策应对综述282830305.1 政策应对方式5.2 共同政策关注领域5.3 筹资、伙伴关系和国际合作6. 政策建议31313232333436376.1 全系统愿景和战略优先事项6.2 人工智能与教育政策的指导原则6.3 跨学科规划和跨部门治理6.4 确保公平、包容和合乎伦理地应用人工智能的政策和法规6.5 在教育管理、教学、学习和评估中使用人工智能的总体规划6.6 试验、监测和评估，建立实证库6.7 促进本土化教育人工智能技术创新7. 参考资料3845注3人工智能与教育政策制定者指南 缩略语表AIArtifcialIntelligence人工智能AI TAANNARAITeac

10、hingAssistant人工智能助教ArtifcialNeuralNetwork人工神经网络AugmentedReality增强现实AWECNNDBTSDigCompDNNEEGAutomatedWritingEvaluationConvolutionalNeuralNetworkDialogue-BasedTutoringSystemEuropeanDigitalCompetenceFrameworkDeepNeuralNetworks作文自动评阅卷积神经网络基于对话的导学系统欧洲公民数字能力框架深度神经网络Electroencephalography脑电图ELEExploratoryLearningEnvironmentEducationManagementInformationSystemGenerativeAdversarialNetworkGeneralDataProtectionRegulationGood-Old-FashionedAI探索性学习环境教育管理信息系统生成式对抗网络通用数据保护条例有效的老式人工智能信息通信技术EMISGANGDPRGOFAIICTInfo

11、rmationandCommunicationTechnologyInternationalLabourOrganizationIntelligentTutoringSystemsILO国际劳工组织ITS智能导学系统IoTInterneto fThings物联网LMSLNOLSTMMLLearningManagementSystemLearningNetworkOrchestratorLongShort-TermMemory学习管理系统学习网络协调器长时短期记忆机器学习MachineLearningNLPNaturalLanguageProcessingOpenEducationalResourcesRecurrentNeuralNetwork自然语言处理OERRNNSDGSTEMTVETUNESCOVR开放教育资源循环神经网络SustainableDevelopmentGoalScience,Technology,Engineering,andMathematicsTechnicalandVocationalEducationandTrainingUnitedNationsEduca

12、tional,Scientifc,andCulturalOrganizationVirtualReality可持续发展目标科学、技术、工程和数学职业技术教育与培训联合国教育、科学及文化组织虚拟现实4引言 人工智能与教育政策制定者指南在过去短短五年间，由于某些突出成就和颠覆性潜力，人工智能已走出学术研究的象牙塔，成为公众讨论的前沿焦点，自然也受到了联合国专家的关注。在许多国家，人工智能在日常生活之中已经普及 从智能手机的个人助理到客服聊天机器人，从娱乐信息推荐到犯罪行为预测，从人脸识别到医疗诊断，人工智能应用无处不在。然而，尽管人工智能有可能帮助各方实现联 合国可持我们也必须认识到，人工智能与教育之间的联系续发展目标（SDGs），但是日新月异的技术不可避免地带来 难免会产生参差不齐的结果，具体因各国社会经济环境了种种风险和挑战，目前相应的政策讨论与监管框架的变 而异。革速度已远远落后于其发展速度。而且，尽管人们对其主要通常情况下，我们对人工智能技术的担忧在于，的顾虑还停留在人工智能是否会强大到碾压人类主体，但是涉及人工智能的社会和伦理影响则引发人们更加迫在眉如果我们继续盲目前进，那么可以

13、预料，未来不平睫的担忧 例如，滥用个人数据以及人工智能其实可能等现象、经济崩坏和社会动荡皆会加剧，甚至在无法缓解，反而加剧现有的不平等现象。某些情况下政局不稳也会加剧，其中在技术上处于劣势和被忽视的群体处境最糟。（Smith和Neupane， 2018，第12页）尽管如此，人工智能已经进入教育领域。“智能”、“自适应”和“个性化”学习系统日益增多。私营企业纷纷开在人工智能与教育领域，这种担忧只多不少。如果想将发这些系统，以供全球广大中小学和高校使用。人工智能教人工智能用于帮助实现可持续发展目标4，还需要提供廉价育应用市场应运而生，预计2024年将达到60亿美元的市场的人工智能技术开发模式，确保低收入和中等收入国家的规模（Bhutani和Wadhwani， 2018）。人工智能技术在教育领利益也被纳入关键讨论与决策之中，并且在这些国家与人工域的应用不可避免地带来了深层次问题 比如，教学内智能技术相对先进的国家之间搭建桥梁。本出版物首先简容与方式、教师的角色演变以及人工智能的社会和伦理影要介绍了人工智能的定义及运作机制，为深入论述人工智能响。同时，其应用带来了许多挑战，包括教育公平和机会均

14、与教育之间的相互作用奠定基础。随后，本出版物介绍了当等。各方也逐渐达成一个共识：人工智能技术在教育领域的前人工智能在教育领域的多种应用，以及人工智能如何促进部署应用或将重塑教学的根基。教育包容性和公平性、提高学习质量以及完善教育管理和教学法。这部分内容还探讨了教育如何帮助公民发展人工新冠肺炎疫情期间，学校封闭带来的在线教学巨大转智能时代生活和工作所需的技能。接下来，本出版物详细介变使得上述问题变得更加复杂。绍了主要战略目标利用人工智能给教育带来的益处、因此，联合国教科文组织的这一指导意见力求帮助政 化解相关风险，同时探讨了实现这些目标面临的挑战。最策制定者更好地了解人工智能给教学带来的可能性与影响， 后，本出版物提出一系列建议作为结语，旨在为人工智能与以期人工智能在教育领域的应用能够真正有助于实现可持 教育政策的全面愿景和行动方案提供参考。续发展目标4： “确保包容和公平的优质教育，让全民终身享有学习机会” 。5人工智能与教育政策制定者指南 政策制定者关于人工智能的必备知识2.1 人工智能的跨学科本质“人 工智能（artifcial intelligence）”一词最早出现在1956年

15、美国常春藤盟校达特茅斯学院举办的一场研讨会上，用来描述“用于打造智能机器、尤其是智能计算机程序的科学和工程技术 ”（ McCarthy等人，2006，第2页）。此后数十年里，人工智能的发展断断续续，时而飞速1进步，时而经历寒冬（Russell和Norvig， 2016） 。一直以来，人工智能的各种定义不断增多、延伸，而且 字节2），二是计算机处理能力呈指数级增长（由于摩尔定往往牵涉到哲学问题，比如：什么构成“智能”？机器是否真 律，如今的手机与40年前的超级计算机一样强大）。大数据的能够获得“智力”？在此仅举一例，钟义信对人工智能的 和强大的计算机均是机器学习技术取得成功的必要条件，定义如下：因为这种技术的算法依赖于对数百万个数据点的处理，而后者又离不开庞大的计算机处理能力。3现代科技的一门分支学科，旨在探索人类智能奥秘，同时最大限度将人类智能移植到机器上，有意思的是，最常登上新闻头条的机器学习算法使机器能够像人类一样智能地执行功能。（Zhong， 2006， （“深度学习”和“神经网络”）本身已经存在40多年了。第90页）表1：“人工智能即服务（AI-AS-A-SERVICE）”示例

16、如若务实地绕开这个长期争科技公司 “人工智能即 公司官方描述论，在本出版物中，可将人工智能定服务”平台义为是一种被设计出来以人类能力阿里巴巴 阿里云(Alibaba Cloud)提供各种基于云的人工智能工具，满足企业、网站或应用的需求：https:/与世 界进行互动 的 计 算 机 系 统（Luckin等人，2016）。而教科文组织世界科学知识与技术伦理委员会（COMEST）给出更多细节，将人工智能描述为涉及亚马逊AWS提供计算机视觉、语言、推荐和预测所需的预训练人工智能服务。能够大规模快速构建、训练和部署机器学习模型，或者构建为全部流行开源框架支持的定制模型：https:/ 2019）IBMWatsonAzure让用户能够对任何主机平台上的数据使用人工智能工具和应用程序：https:/ 经 历一场人工智能复兴，越来越多的行业部门开始应用机器学习技术。这种人 工智 能 技 术 涉及 人 工智 能 系统分析海量数据。这是两大关键发展趋势共同作用的结果：一是数据呈指数级增长（据IBM计算，由于互联网和相关技术普及，每天创建的数 据量 超 过 2.5万亿个微软腾讯提供100多项构建、部署和管

17、理应用程序的服务：https:/众创空间(WeStart)汇集各种人工智能能力、专业人才和行业资源，支持初创企业开设或改进。连通行业伙伴，传播人工智能技术，使之广泛应用于多个行业部门：https:/ 人工智能与教育政策制定者指南既然如此，为什么人工智能技术的瞩目成就及其颠覆性潜力近些年来才显露出来？这是因为对人工智能算法巧妙地改进，同时人们也更加容易获得“人工智能即服务”，而不是出于任何根本性的新范式。换言之，可以说目前我们身处“实施期（大规模实际应用时期）”： 人工智能法律服务例如，提供自动取证工具，研究判例法和成文法，以及开展法律尽职调查； 人工智能天气预报挖掘和自动分析大量历史气象数据，在此基础上预测天气；人工智能研究的很多艰深且抽象的工作已经完成“实施期（大规模实际应用时期）”意味着，我们将最终看到这些成果在现实世界中的应用。（Lee， 2018，第13页） 人工智能诈骗侦测自动监测信用卡使用情况，从中发现规律和异常情况（即潜在欺诈性交易）；如今，人工智能技术在现实世界的应用越来越普遍且具有颠覆性。众所周知的例子包括自动语言翻译、自动人脸识别（用于识别旅客和追踪罪犯），以及我们

18、日常生活中的应用，比如无人驾驶汽车、智能手机和其他设备上的个人助理程序等。医疗行业是一个特别值得关注的领域。最近一个具有变革性的例子就是应用人工智能技术研发能够杀死多种抗药性细菌的新药（Traf ton， 2020）。第二个例子是应用人工智能技术来分析医学影像包括可以及早显示异常畸形的胎儿脑部扫描4、帮助诊断糖尿病的视网膜扫描5以及可以提高肿瘤检测水平的X光6。这些例子均说明了人工智能与人共生协作带来的重大潜在效益。 人工智能驱动的商业流程例如，自主生产制造、市场分析、股票交易和投资组合管理； 智慧城市采用人工智能技术和互联的物联网（IoT）来提高城市中人们的生活与工作效率和可持续性； 人工智能机器人采用机器视觉、强化学习等人工智能技术作为辅助与世界进行互动的物理机器。当我们把基于人工智能的成像技术与放射科医生结合起来后，我们发现，二者结合的表现优于人工 智能 或放 射科 医生 单独 的表 现。 （Michael Brady，牛津大学肿瘤学教授，引自麻省理工技术评论和GE医疗上发表的文章，2019）上述例子对社会具有显著的积极影响力，不过，我们不应忽的是人工智能在其他领域的应用会比较有

19、争议。以下为两个例子： 自主作战无需人为干预即可运作的武器、无人机和其他军事装备；最近的这篇评论进一步表明，人工智能技术其实可以使医疗“更人性化”： 深伪（deep-fakes）随着人工智能和自动化流程发展，往往各种担忧随之而来，比如医疗服务提供过程中会丧失人情自动生成假新闻，替换视频中的人物面孔，让人误以为政客和名人说了或做了什么，但其实当事人从未说过或做过。味。然而，业界发现，事实正好相反：人工智能可以为超负荷工作的医疗专业人士拓展资源和能力，极大地完善医疗服务流程。（麻省理工技术评论和GE医疗 ，2019）此外，在评估一些人工智能技术公司和媒体的许多夸大言论时，我们也应当谨慎。首先，尽管新闻头条宣称，如今的人工智能工具在执行某些任务时表现“优于”人类，比如阅读文本和识别图像中的物体等，但现实是，这些成功只在有限的情形下是成立的 例如，当文本篇幅不大且包含足够的必要信息、从而无需人为推断的时候。目前的人工智能技术也有可能极不稳定。例如，若是数据经过细微篡改，或者图像上叠加了一些随机噪点，那么人工智能工具的表现就会一塌糊涂（Marcus和Davis， 2019） 。7其他日益常见的人

20、工智能应用领域包括： 自动新闻人工智能代理程序不断监测全球新闻媒体，为记者提取关键资讯，同时也自动撰写一些简单的新闻报道；7人工智能与教育政策制定者指南 政策制定者关于人工智能的必备知识2.2 人工智能底层技术简介人工智能的每种应用都依赖一系列复杂的底层实现技术。这就要求人工智能工程师受过高阶数学、统计和其他数据科学以及编程等方面的训练。因为这些技术太过专业，无法在此深入探讨。 于是，我们先来简要地介绍一些核心人工智能底层技术，然后介绍一些典型人工智8能技术应用。传统人工智能的数据，不过这些数据没有经过归类或标记。无监督学习目比较早期的或“传统人工智能”（又称“符号人工智 的在于发现数据中的隐藏规律，即可用于对新数据进行分类能”、“基于规则的人工智能”或“有效的老式人工智能”， 的类簇（cluster）。例如，无监督学习方法可以寻找成千上万即“GOFAI”）涉及 编写如“若则（I F.THEN.）”语 个例子中包含的规律，从中自动识别手写字母和数字。句序列以及其他条件逻辑规则等计算机完成指令需要采取不论在有监督还是无监督学习中，数据生成的模型都的步骤。过去几十年里，随着医疗诊断、信用评

21、级和生产制是固定的，而一旦数据有变，只好再次进行分析。然而，第三造等领域的广泛应用，此类基于规则的人工智能“专家系种机器学习方法强化学习涉及根据反馈不断完善模型统”发展起来。这种“专家系统”是建立在一种名为“知识工也即是说这个意义上的机器学习是指学习在持续进行中。程”的方法上。“知识工程”涉及解析和模拟某一具体领域的在一些原始数据基础上，人工智能工具可以生成一个模型，专家知识 这是一项资源密集型任务，但并非没有复杂然后被评为“正确”或“错误”，得到相应的奖励或处罚。人的运算。典型的专家系统包含数百条规则，但是通常其逻辑工智能工具利用这个强化机制来更新模型，然后再次尝试，尚算有迹可循。然而，随着各种规则之间的相互作用成倍增进而在一段时间内迭代发展（学习和演进）。例如，如果一加，一旦想要修改或改进，那么对于专家系统来说是颇具挑辆无人驾驶汽车规避一次碰撞，那么作为幕后功臣的模型会战性的。得到奖励（强化），加强自身未来规避类似碰撞的能力。机器学习如今，机器学习非常普遍，导致它有时被视为人工智能从自然语言处理到人脸识别、无人驾驶汽车许多的同义词，但其实它只是人工智能的一个子集。事实上，仍新近的人

22、工智能技术进步都离不开基于机器学习的计算有许多人工智能应用并不采用机器学习方法，或者说，至少方法。机器学习不去运用规则，而是分析大量数据，从中发这些应用背后几乎总有某种有效的老式人工智能（基于规现规律，在此基础上构建模型，用来预测未来数值。在这则的或符号人工智能）的身影。举个例子，许多常见的聊天个意义上，与其说算法是预先设定好的，不如说算法是在机器人应用程序是预先设定好的，编入了人为定义的规则，“学习”。预设好如何回复预期问题。其实，与比较早期的专家系统一样，机器学习方法主要有三种：有监督学习、无监督学习和强化学习。有监督学习涉及已有标记的数据，比如经人为标几乎每种大家如今见到的人工智能产品都需要记的成千上万张人物照片。有监督学习将数据与标记关联起人类专家直接输入内容。这个内容可能是来自语来，构建一个可用于类似数据的模型 比如，自动识别新言学家和语音学家（在人工智能采用自然语言处理的情况照片中的人物。在无监督学习中，人工智能工具使用更海量下）、医师（在人工智能应用于医学领域的情况下）或道路交通与驾驶专家（在人工智能助力无人驾驶汽车的情况图1：人工智能、机器学习、神经网络与深度学习之间的

23、关系下）的专业知识，依此类推。若无有效的老式人工智能要素协助，机器学习无法创建完整的人工智能。（Sauberlich和人工智能Nikolic， 2018）机器学习此外，应该认识到的重要一点是，机器学习即不是真的像人类学习一样，也不是独立地学习。相反，机器学习完全依赖于人：是人在选取、清理和标记数据；是人在设计和训练人工智能算法；也是人在管理、解读和评判输出结果。例如，有报道称，某种突破性的识物工具能够识别图片数据库中猫的图像，但事实上，这个系统仅可将看起来有一神经网络深度学习8政策制定者关于人工智能的必备知识 人工智能与教育政策制定者指南定相似度的对象归为一类，而且需要人来识别这组对象是 被用于会对人类产生重大影响的决策时，比如计算某人留猫。同理，无人驾驶车辆上采用的机器学习方法完全依赖 在监狱中的时长。然而，这依然会使问题复杂化 “生成于人为标记好的千百万张街景图片。在很大程度上，硅谷将 人工智能决策相关的更多信息或许会创造切实效益，但也这项标记工作外包给了全球各地的人（采用亚马逊数据众 会带来新的风险”（Burt， 2019） 。标平台Turk9）和印度、肯尼亚、菲律宾以及乌克兰等

24、国的企业 。10 这些“新经济”工人的工作是手动跟踪和标记原型无深度学习人驾驶车辆捕捉到的视频中每帧画面里的对象（比如车辆、深度学习指包含多个中间层的人工神经网络方法。路标、行人等） 即机器学习算法下一步会分析的数据。正是由于深度学习方法，近年来许多令人瞩目的人工智能应用才成为可能（比如，自然语言处理、语音识别、计人工神经网络算机视觉、影像创作、药物研发、基因组学等领域）。人工神经网络（ANN）是一种灵感源自生物神经网络 深度学习的新兴模型包括：所谓的“深度神经网络”（即动物大脑）结构的人工智能技术。人工神经网络包含 （DNN） 找到有效的数学运算法则，将一项输入变成所三类相互连通的人工神经元层：一个输入层、一个或多个需 的输 出； “循 环神 经网 络” （RNN） 使数据可以流向任隐藏的中间计算层以及一个产生结果的输出层。在机器学 意方向，能够处理输入序列，可应用于语言建模等领域；以习过程中，赋予神经元连接的权重会在强化学习和“反向传及 “卷 积神 经网 络” （CNN） 用于处理来自多数组的数播”环节中有所调整，方便人工神经网络计算新数据的输出 据，比如使用三张二维图片形成三维计

25、算机视觉。值。一个人工神经网络应用的著名例子是谷歌的阿尔法围最后，值得一提的是，许多近年来的人工智能技术进步棋机器人（AlphaGo） 。 2016年，AlphaGo打败世界围棋冠军（特别是围绕图像处理的方法）都是通过“生成式对抗网李世石。络” （GAN）实现的。在生成式对抗网络中，两个深度神经网隐藏的中间计算神经元层是人工神经网络能力大小的 络彼此竞争 “生成式网络”创建可能的输出，而“判别关键所在，但也会带来一个重大约束因素。人们通常没有办 式网络”负责评价这些输出。由此产生的结果用于下一次迭法质询深度神经网络，从而无法判定它是如何求解的。如 代。例 如，DeepMind公司的阿尔法元（AlphaZero）采用生此，决策背后的理由是不可知的。许多企业正在研究如何揭 成式对抗网络方法来学习如何玩赢若干棋盘游戏（Dong等开和检视这些决策背后的机制（Burt， 2019），使用户能够明 人 ，2017）。另外，一种接受过照片训练的生成式对抗网络已白为什么一个给定算法会得出特定的决策。了解这种背后决 经生成看似真人但并不存在的人物图像。11 这种方法的其策机制十分重要，尤其当人工神经网络

26、和其他机器学习方法 他应用目前尚在研究中。2.3 人工智能技术简介上述所有底层技术共同催生了一系列人工智能技术应 自主代理用。这些科技越来越多地以“人工智能即服务”的形式呈现 将人工智能应用于计算机游戏角色、恶意软件机器人、虚拟出来（参见表1），也正广泛运用于上述大多数应用领域。具 伴侣、智能机器人和自主战争等。体人工智能技术（详见表2）列举如下： 情绪检测 自然语言处理（NLP）将人工智能用于分析文本、行为和面孔中的情绪。使用人工智能自动解读文本，包括进行语义分析（如在法律服务和翻译领域的应用）和生成文本（如在自动新闻领域的应用）。 用于预测的数据挖掘将人工智能应用于医疗诊断、天气预报、业务预测、智慧城市、财务预测和诈骗侦测等领域。 语音识别 人工创作将自然语言处理技术应用到口语上，包括智能手机语音功能、人工智能个人助理和银行服务中的对话机器人等。将人工智能应用于可以创作新照片、新音乐、新艺术作品或新故事的系统。 图像识别和处理将人 工智能用于人 脸 识别（如电子护照）、手写识别（如自动邮政分拣）、图像处理（如深伪技术）以及无人驾驶车辆等。9人工智能与教育政策制定者指南 政策制定者关

27、于人工智能的必备知识表2：人工智能技术人工智能技术 详情主要底层技术发展情况示例自然语言处理 人工智能自动生成文本（如在自 机器学习（特别是深度学习）、 自然语言处理、语音识别和图Otter12（NLP）动新闻中）和解释文本，包括进 回归分析和K均值算法。行语义分析（如在法律服务和翻译中）。像识别均已达到90%以上的精确度。但是，有研究人员认为，即使有更多数据和更快的处理器，在新的人工智能范式发展起来之前，这项技术也不会有多大改进。语音识别将自然语言处理技术应用到口语 机器学习，特别是一种名为上，包括智能手机语音功能、人 “长期短时记忆”（LSTM）的工智能个人助理和银行服务中的 深度学习循环神经网络方法。对话机器人等。阿里云13图像识别和处理包括人脸识别（如电子护照）、 机器学习，特别是深度学习卷手写识别（如自动邮政分拣）、 积神经网络。图像处理（如深伪技术）以及无Google Lens14人驾驶车辆等。自主代理具体应用包括计算机游戏角色、 有效的老式人工智能和机器学 研究工作聚焦于涌现智能、协恶意软件机器人、虚拟伴侣、智 习（比如，深度学习自组织神 作活动、情境性和具身化等受Woe

28、bot15能机器人和自主战争等。经网络、进化式学习和强化学 相对简单生物生命形式启发的习等）。 特性。情绪检测包括文本、行为和面部情绪 贝叶斯网络和机器学习，特别 全球多种产品正在研发中，但这分析。 是深度学习。 些技术的应用通常颇有争议。Afectiva16用于预测的数据挖掘包括财务预测、诈骗侦测、医疗 机器学习（特别是有监督学习 数据挖掘应用程序正在呈指数诊断、天气预报、业务流程和智 和深度学习）、贝叶斯网络和 级增长，从预测购买行为到解科研项目17慧城市等。支持向量机。读含噪脑电图（EEG）信号，应用颇广。人工创作包括可以创作新照片、新音乐、 生成式对抗网络（GAN）是一 生成式对抗网络是一项前沿人 “此人不存新艺术作品或新故事的系统。 种涉及两个神经网络彼此对抗 工智能技术，所以其未来应用 在”网站11竞争的深度学习技术。发展缓慢，正在一点一点显露出来。GPT-3（Brown等人，2020）自回归语言模型采用深度学习算法来生成“类人”的文本。 一种名为GPT-3的自回归语言模型可以生成令人惊叹的“类人”文本。但是，在表象之下，这个系统并不理解它所输出的文本。182.4 人工智能

29、潜在发展趋势：“弱”人工智能与“强”人工智能虽然人工智能科学家一开始是想要打造类人的通用 对话是不可能的事情，人工智能只会回应具体的命令，而且人工智能（AGI），称为“强人工智能”，但第2.1节中的每种 回答经常是错误的。也即是说，虽然人工智能在某些功能应用其实都是专用人工智能（ANI），也称“弱人工智能” （如找出数据中的规律）方面的表现超越人类专家，但在（Searle， 1980）。每种专用人工智能应用涉及的领域均受到 其他方面（如进行深度对话），人工智能的表现甚至不如两严格的约束和限制，而且无法直接应用于其他领域。例如， 岁孩童。19 此外，全球范围内种种迹象表明，与夸张预测相用于天气预报的人工智能无法预测股市波动，而用于驾驶 反，对人工智能技术的投资或许正在“降温” 虽然不至汽车的人工智能无法诊断肿瘤。尽管这些应用程序不是人 于迎来又一次人工智能凛冬，但是其许诺的潜力总是显得远类意义上的“智能”，但是在效率和耐力上的表现往往胜人 在天边，可望而不可及（Lucas， 2018）。甚至有人表 示，人工一筹，而且能够识别海量数据中存在的显著规律。智能技术进步将趋于平缓（Marcus和

30、Davis， 2019） 。 譬 如，无人驾驶车辆安全穿梭于巴勒莫或德里街道的场景仍然是几十年以后才会发生的事情，而图像识别应用程序仍然易受愚弄（Mitchell， 2019） 。这些应用固然有一些引人瞩目的成就，但重要的是我们应该认识到，人工智能技术仍然处于起步阶段。例如，与我们的智能手机个人助理或其他智能家居设备进行真正的10政策制定者关于人工智能的必备知识 人工智能与教育政策制定者指南2.5 对人工智能潜能和局限性的批判性审视从三类基本成就方面来审视人工智能或许会有助益：的每个方面。在这里仅举一个令人瞩目的例子：研究人员已经开发出一个使用三个深度学习网络、表现胜过人类专家的乳腺癌预测人工智能系统（McKinney等人，2020） 。代表“真实、迅速的技术进步”的人工智能技术，主要专注于“感知能力”，包括基于扫描的医疗诊断、语音转文本以及深伪技术等（Narayanan， 2019） ；无论如何，有证据表明，在许多情况下机器学习取得的成就被略微夸大了，而我们见到的快速进步或许即将达到上限。例如，纵然机器学习技术取得了一些非凡成就，但认为机器学习如今能与人一样准确识别图片中物体的说法存

31、在两个局限性：一是这些技术依赖系统访问千百万张已标记图片而一个小孩子只需几张图片即可达到同样的准确度；二是对准确度的解释太过宽松 在某个最广为人知的机器视觉竞赛中，只要人工智能工具的五条建议中有一条是正确的，即判定为成功（Mitchell， 2019） 。 再 者，如 前 文所述，目前推动重大人工智能技术进步的全部底层技术（比如，深度神经网络和机器学习）皆是早在几十年前就已经发展起来。换言之，虽然我们继续见到现有技术和新兴应用发生迭代改进，但我们仍然在等待下一个重大突破。“日趋完善”的人工智能技术，主要围绕自动判断，包括垃圾邮件及仇恨言论检测和内容推荐（Narayanan， 2019） ；“在根本上备受质疑”的人工智能技术，主要集中在预测社会结果，包括刑事累犯和工作绩效（Narayanan， 2019） ；关键在于，虽然深度神经网络已经训练有素，能够完成一些不可思议的任务，但是有很多事情是它们无法做到的（Marcus和Davis， 2019）。尤其是它们没有做真正智能的事情。其 实，这些技术只是从统计数据中归纳出规律。这些规律或许更加隐晦、更加间接并且比历史方法更加自动化，能够反映更加

32、复杂的统计现象，但是仍然只是数学的化身，而不是有智力的实体，不论这些结果有多么令人惊叹 。（ Leetaru， 2018）有专家认为，只有当“传统人工智能”或“有效的老式人工智能”的符号或基于规则的底层技术与数据驱动型方法结合起来时，才会发生这样的重大突破。其实，这种重大突破已经发生了，以无人驾驶车辆为例：此外，多项研究已经表明，若是机器学习方法涉及成千上万个数据变量或功能，因而需要大量资源和能源来进行计算，那么与仅使用少数功能且能耗少得多的简单线性回归方法相比，这些复杂方法或许好不了多少（Narayanan，2019） 。有一些事情需要智能代理来做，毕竟深度学习技术目前并不是很擅长这些。譬如，它不是很擅长抽象推断。它也不是很擅长处理不曾见过、信息掌握相对不完整的情况。因此，我们需要用其他工具来补充深度学习技术在我看来，我们需要结合使用符号处理技术（即基于规则的人工智能）和深度学习技术。太长时间以来，这两种技术一直被割裂地看待。（Marcus，接受福特汽车的访谈 ，2018，第318页）尽管如此，与以往技术革命相比，如今人工智能技术的突出之处在于它的发展速度和普遍性：速度快到几乎每天都

33、会涌现出新技术和转型方式，并且几乎影响着现代生活2.6 人机协同智能人工智能技术诞生于对人类思维过程的模拟和机要让计算机在智力测验或下棋方面表现出成人水平，是相对容易的事，但要赋予它们一岁械化尝试（Turing， 1950），并且自诞生以来就处于与后者不稳定的关系当中。有意思的是，尽管我们经常读到 幼儿的感知能力和肢体动能，却是不易或不可能的事。有关人工智能技术取得卓著成就的报道（从在游戏中 （Moravec， 1988，第15页）打败人类，到比人类更加准确地读取视网膜扫描），此外，如前文所指出的，人类对于人工智能技术成功的但当前人 工智能技 术方 法的局限性也变得日益明显关键作用通常被忽视了。大多时候，人工智能需要人来执行（Mitchell， 2019）。事实上，虽然人工智能已经很擅长那些各种任务：建构问题；阐述问题；选取、清理和标记数据；设对人类来说具有挑战性的工作流程（比如，规律识别和统计计或选择算法；决定组合方案；根据数值得出结论或做出判推理），但是在其他对人类来说相对容易的流程上（比如，断不胜枚举。相应地，虽然许多任务有望实现自动化，自主学习、常识和价值判断），它仍然很弱。这

34、即是莫拉维克但人类仍然需要发挥一些关键作用，而我们要为此做好准备悖论（Moravecsparadox） ：（Holmes等人，2019） 。11人工智能与教育政策制定者指南 政策制定者关于人工智能的必备知识事实上，人类与人工智能之间的关系越来越复杂微妙， 使用人工智能技术来增强、而非篡夺人类能力。向增强智能导致有人呼吁重新构建或重新命名人工智能，将其称为“增 的转变使得各方注重开发能够补充和扩展人类认知的人工强智 能” （augmented intelligence） （Zheng， 2017） 。智能技术，揭示了人类与人工智能更加有效地协同的途径，引发了应该在人机之间如何进行任务分工的思考，以及指向一个有吸引力的可能性通过审慎地结合使用人工智能与群体智能，人们或许能够应对当今世界面临的各种问题（Mulgan， 2018） 。例如，虽然计算机如今可以在下棋上打败人类，但是人机协同似乎更有成效比人或计算机独自工作更佳。在竞赛中，业余棋手借助人工智能已经能够打败计算机或大师级棋手（Brynjolfsson和McAfee， 2014）。这个做 法涉及2.7 第四次工业革命和人工智能对就业的影

35、响人们认为，人工智能是第四次工业革命（“工业4.0” ） 的 研究与发展战略规划（国家科技委员会，2016）倡导在各一个关键使能因素。种人工智能技术理论和实践上进行长期投入和研究。这些人工智能技术具体包括数据分析、人工智能感知、理解人工智能的理论缺陷、通用人工智能、可扩展人工智能、人工智能驱动的类人机器人、能感知人类的人工智能（human-awareAI）以及人类机能增强（humanaugmentation）等 。2017年，中国政府发布新一代人工智能发展规划（中华人民共和国政府，2017）。同样地，这份规划侧重一系列理论性和实操性的人工智能技术，包括大数据智能、跨媒体智能、人机混合增强智能、群体智能、自主智能、高级机器学习、类脑智能以及量子智能等。更重要的是两国的人工智能战略规划均强调人和人工智能系统无缝交互的潜力，而且二者均旨在实现人工智能的潜在社会经济效益，同时尽量减少其负面影响。在我们现今面临的多种多样而又令人着迷的挑战中，最迫切、最重大的挑战是如何认识和影响新一轮科技革命，这涉及颇多，复杂程度不亚于人类大转变。（Schwab， 2017，第1页）工业4.0技术包括3D打印、无

36、人驾驶车辆、生物技术、纳米技术、量子计算、机器人学以及物联网等。这些技术全都是人工智能支撑的。事实上，在现代工作场所，人工智能已经无处不在 从制造业到银行业、建筑业、交通运输行业等等，影响甚广，需要全系统策应。不可避免地，失业会增加，而新的职业也会增加。一个最近的全球性估计表明，到2030年 ，30%的工作可以实现自动化。届时，全球多达3.75亿名工作者可能面临失业。不论是蓝领工人还是白领员工，都会受到影响，而且首当其冲的并不一定是蓝领工人。那些需要逻辑和代数等新近演化技能的工种是容易被人工智能复制和取代的。这些大多是中等收入的工作。相反，那些依赖移动和感知等深度演进技能的工作，则不是人工智能能够轻易复制取代的。这类工作通常收入较低。因此，人工智能正在掏空中等收入工作，而维持大量 低收 入工 作。 （Joshi， 2017， 卫报新闻传媒有限公司版权所有）然而，与此同时，人工智能和其他前沿技术正在增加各种高技能工作需要独特的创造力和分析能力以及人类互动。简而言之，许多工人的工作可能会消失，并且这些群体需要发展新的技能 提升技能（upskilling）或再训技能（reskilling），

37、使自己能够胜任人工智能带来的新职业。教育部门和培训机构等需要预期这种变化，使如今的工作者和新一代工作者均具备必要的技术性和社交性工作技能，从而平稳过渡到一个人工智能主导的世界，同时确保社会可持续发展。其实，全球各国政府部门纷纷已经开始制定战略计划来应对未来人工智能技术。以美国为例，国家人工智能12理解人工智能与教育：新兴实践与效益风险评估 人工智能与教育政策制定者指南人工智能在教育领域的应用可以追溯至20世纪70年 要，而不是风靡一时的最新教育科技风潮？我们应该允许人代。当时，研究人员感兴趣的是见证计算机如何取代一对 工智能做些什么？一人工辅导 被视为最富有成效、但大多数人难以获为了充分释放机遇、化解潜在风险，我们需要针对下列得的教学方法（Bloom， 198 4）。早期研究工作采用基于关键政策问题的进行全系统响应：规则的人工智能技术来为每位学员自动调整或定制学习（Carbonell， 1970； Self， 1974）。从一开始，人工智能在教育1. 如何借助人工智能强化教育质量？领域的应用便朝着多个方向发展，首先是面向学生的人工智2. 如何确保人工智能在教育中应用的伦理规范、包容性和

38、能（为支持学习和测评而设计的工具），然后纳入面向教师公平性？的人工智能（为支持授课而设计），还有面向系统的人工智3. 教育如何帮助人类做好与人工智能共生协作的准备？能（为支持教育机构管理而设计）（Baker等人，2019） 。 实 际上，人工智能与教育之间的互动不止如此，除了课堂上的人为帮助教育体系应对这些复杂挑战，联合国教科文组工智能应用（即“使用人工智能学习”），还会教授人工智能织与中国政府携手在北京主办“国际人工智能与教育大会”技术相关知识（即“学习人工智能”）以及帮助公民准备好应（2019），主题是“规划人工智能时代的教育：引领与跨越”。对人工智能时代的生存技能（即“为了人机协同而学习”）。这届大会的参与者包括50多位政府部长和副部长以及来自同时，人工智能在教育领域的应用让人关注教学法、组织结100多个教科文组织成员国、联合国机构、学术机构、公民构、可获取性、伦理规范、公平性和可持续性等问题 要社会组织和私营部门组织的大约500名国际代表。参会人员想使一项工作实现自动化，人们首先需要全面透彻地了探讨了在“可持续发展目标42030年教育和2030年以后未解它。来教育”背景下，人工

39、智能的全系统影响。这次大会的关键成果是北京共识 人工智能与教育（联合国教科文组再者，想要人工智能支持教育可持续发展的潜力得以织，2019a）。该文件就上述三大政策问题相关的关键议题和充分实现，还需要识别和利用人工智能工具的全部可能效政策建议达成共识。北京共识中提出的主要建议已穿插益，同时承认并化解相应的风险。因此，相关方还需要持续引用在本出版物之中。审视教育组织方式，这或许意味 着从根本上重塑教育的核心基础，实现可持续发展目标4这一核心目的。我们还需要了本章余下内容将论述影响教育领域人工智能应用的解人工智能在教育领域的应用会有怎样的成效：人工智能可主要趋势和问题，以及效益风险分析及其对政策应对的以带来哪些切实效益？我们如何确保人工智能满足实际需启示。3.1 如何借助人工智能强化教育质量？过去十年里，使用人工智能工具支持或加强学习的做在其他文献中，教育人工智能应用被分为三大类别：面法呈指数级增长（Holmes等人，2019）。而在新冠肺炎疫情 向系统的、面向学生的以及面向教师的（Baker等人，2019） 。学校封闭期间，这一趋势有增无减。不过，人工智能在提高 然而，对政策制定者来说，我

40、们按四种需要将新兴和潜在人学习效果方面的表现如何？人工智能是否有助于学习科学 工智能应用分为四大类别：( i) 教育管理和供给；(ii) 学习和工作者和从 业人员深入探析有效学习背后的机制？关于这 测评；( iii) 赋能教师和提高授课质量；以及 (iv) 终身学习。两个问题，我们掌握的证据仍然稀少（Zawacki-Richter等 针对每个类别，我们将给出一些典型例子。有一点很重要，人，2019） 。那就是承认这些拟议类别之间存在固有的相互关联，而且人工智能在教育领域的应用潜能可能不只是满足单方面的需要，例如，教辅应用程序在设计上可能同时为师生提供支持。另外，我们还提议，人工智能技术在教育领域的应用规划和政策应该基于中长期的当地需要，而不是基于整个市场，同时应该以效益风险分析为依据，然后方可大规模地采用这些技术。尤其值得一提的是，虽然支持者指出人工智能为疫情期间学校封闭导致、转变为在线学习形式的问题提供了一个现成的解决方案，但是目前鲜有证据表明这个做法是适当或有效的。在认为人工智能在教育领域的应用具有革命性潜力的说法中，有许多都建立在猜想、推测和乐观主义 的基 础上 。（ Nemor

41、in， 2021）而且，我们尚未探索人工智能在其他应用方面的潜力，包括追踪不同环境下的学习成果、评估学习能力（尤其是在非正规和非正式环境中习得的能力）等方面。13人工智能与教育政策制定者指南 理解人工智能与教育：新兴实践与效益风险评估有前景的案例利用人工智能支持教育管理和教育供给教育聊天机器人：聊天机器人是利用云服务和人工智能方法与人进行模拟对话的在线计算机程序。人类用户键入或说出一个问题，然后聊天机器人给予回答，提供相关信息或执行某项简单任务。聊天机器人有两个复杂层次。大多数聊天机器人运用规则和关键词来选取预设脚本的回答，而虚拟助手聊天机器人（比如Siri20、 Alexa21、 DuerOS22和人工智能技术正越来越多地应用于促进教育管理和教育供给。这些面向系统的应用并不直接支持教学，而是旨在实现学校行政管理各个方面的自动化建立在教育管理信息系统的基础之上（Villanueva， 20 03），涵盖招生、排课、考勤、作业监测以及校务监管等。有时，名为“学习分析”的数据挖掘方法（duBoulay等人，2018）被用来分析学习管理系统生成的大数据，为教师和学校管理人员提供相关信息， 小

42、艺23）采用自然语言处理和机器学习方法来生成独特的回偶尔也向学生提供指导。例如，有的学习分析工具预测哪些 答。在教育领域，聊天机器人正应用于越来越多的应用程序学生有不及格的风险。这种分析的输出通常是以虚拟“仪表 之中。具体用途包括促进招生工作（比如，“贵校有哪些计算盘”报告的形式呈现（Verbert等人，2013），用来辅助数据驱动型决策过程（James等人，2008； Marsh等人，2006） 。 从 教育体系得来的大数据也有助于教育供给方面的政策制定：课 程 ？ ” ） ； 提 供724全天候信息服务（比如，“我应该哪天交作业？”）；以及直接支持学习（或许纳入基于对话的导学系统的一部分或采用了基于对话的智能导学方法，参见第17页，使学生投入口语对话或提供自动反馈）。教育聊天机器人有Ada24和DeakinGenie25等。公立教育机构越来越多地使用大数据来创建数字化、交互式的数据可视化工具，在此基础上为政策制定者提供教育体系的最新信息。（Giest， 2017，第377页）OUAnalyse26 是一款英国开放大学设计的人工智能应用程序，用来预测学生成绩和识别存在不及格风险的学生

43、，具体手段是分析该校教育管理信息系统（EMIS）提供的大例如，若是为难民而设的学习管理系统，其数据输出可能有助于确定提供教育机会和支持的最优方式。事实也表 数据。这些预测结果可供课程指导老师或支持团队使用，明，根据对学习者个性化需要和学习水平的分析，人工智能能 并且采用易于获取的仪表盘报告形式，方便使用者考虑最够有效管理不同平台的学习内容。譬如，一个项目的目标是管 适当的支持。总体目标是帮助有困难的学生完成课程学习理成千上万个开放教育资源，使之更容易被全体学习者获取 （Herodotou等人，2017） 。（Kreitmayer等人，2018） 。“Swift”是印度在线学习服务机构SwifteLearning然而，要使任何基于数据的分析工具有用、使其结论值Services开发的一套方法，可以使教育管理信息系统利用在得信赖且兼顾公平，原始数据及其代理指标必须准确无误、线学习模块中生成的数据。27 从学习者互动中收集而来的不偏不倚、不存在糟糕假设，同时采用的计算方法也必须适数据可以提供宝贵洞见，帮助了解学习者何时表现差劲或优当且稳健 这些要求看似简单，但经常没有得到严格遵守异以及背后的原

44、因。分析这个数据有助于根据学习者偏好量（Holmes等人，2019）。无论如何，总有人工智能技术公司收身打造个性化的学习路径。集大量学生互动数据，只是为了使用机器学习方法“寻找规律”。这么做的目的是训练软件识别哪些孩子感到困惑不解或枯燥乏味，在此基础上提高学生的学习水平，使他们更加投入课堂。尽管如此，这一做法颇有争议。人们将这种数据采集称为“边缘型心理健康评估助长将孩子们看作需要治疗的潜在病人的风气”（Herold， 2018） 。北京共识人工智能与教育10. 意识到应用数据变革基于实证的政策规划方面的突破。考虑整合或开发合适的人工智能技术和工具对教育管理信息系统（EMIS）进行升级换代，以加强数据收集和处理，使教育的管理和供给更加公平、包容、开放和个性化。在某些情况下，这类人工智能工具也被用于监测学生在课堂上的注意力（Connor， 2018），也有其他工具被用于跟踪学生出勤情况（Harwell， 2019）和预测教师的授课表现，这产生了令人 担忧的后果（ONeil， 2017）。上述这些面向系统的应用存在的问题应该被纳入关于人工智能与教育的更广泛讨论。11. 还考虑在不同学习机构和

45、学习场境中引入能够通过运用人工智能实现的新的教育和培训供给模式，以便服务于学生、教职人员、家长和社区等不同行为者。（联合国教科文组织，2019a，第5页）14理解人工智能与教育：新兴实践与效益风险评估 人工智能与教育政策制定者指南美国的ALP28系统提供后台人工智能功能来支持标准教育在学生参与学习活动的过程中，系统会采用知识追踪33技术。该系统分析用户数据，将其聚合，为每名学生的互动、 和机器学习方法，根据个别学生的优劣势自动调整难易水偏好和成绩创建心理测评档案。平并给予提示或指导一切只为确保学生能够高效地学习相应主题。有的智能导学系统也捕捉和分析学生情绪状态的相关数据，包括通过监测学生的目光来推断他们的专UniTime29是一个以美国为主、另有四大洲的组织参与的项目。该项目是一个综合人工智能赋能教育调度系统，可以 注 水平。为高校课程制定时间表、管理上课时间和教室变更以及提不过，虽然这看起来颇有吸引力，但是需要认识到，供学生的个人课程表。智能导学系统中所体现的假设和典型的指令式知识传播教学方法存在局限性，忽视了学习科学重视的其他方法带来的可能性，比如协作学习、引导性发现式学习（gui

46、deddiscovery learning）和从错误中学习（productive failure） 等（DeanJr.和Kuhn， 2007）。其中，智能导学系统提供的“个性化学习”功能一般仅支持规定内容学习路径的个性化，而非通过将学习结果个性化和赋能学生实现自己的个人抱负，以此促进学生的能动性。此外，虽然有的研究结果表明，研究人员设计的某些智能导学系统可以媲美课堂教学（比如，duBoulay， 2016），而且尽管全球各地许多教育体系已经引入这些系统，但其实目前缺乏有力证据证明这些商业智能导学系统如开发者说的那么卓有成效（Holmes等人，2018a） 。利用人工智能支持学习和测评以面向学生为主的人工智能技术应用最受研究人员、开发者、教育工作者和政策制定者的关注。这些应用被视为“第四次教育革命”的一部分（Seldon和Abidoye， 2018） ，旨在为每位学习者提供优质、个性化和无处不在的终身学习（正规、非正规以及非正式）机会，不论他们身在何处。人工智能也有望催生新的测评方法，比如人工智能赋能的自适应测评和持续测评等（Luckin， 2017）。不过，有一点很 重 要，那就是一开

47、始即承认，利用人工智能支持学习和测评也会带来各种各样的问题，而这些问题尚未得到妥善解决。具体包括对教学法的担忧，缺乏有力证据表明人工智能技术的效果和对教师角色的潜在影响，还有更加广泛的伦理问题（Holmes等人，2018b， 2019） 。智能导学系统的大量应用也引发其他问题。例如，这些系统往往会减少师生之间的人际交往。另外，在典型的智能导学系统课堂上，教师通常花费大量时间在办公桌前，方便监测关于学生互动的仪表盘报告。如果教师选择在室内智能导学系统出于若干原因，在这一节的论述中，我们首先来介绍一 四处走动，像在非智能导学系统课堂上一样，那么他们会错些“ 智能 导学 系统 ”（ ITS）工具。在所有人工智能教育应用程 失了解学生上课情况的机会，难以决定何处应该给予个别序中，智能导学系统既具有最长的研究历史（超过40年）， 关注。为了解决这个难题，一个名为Lumilo的智能导学系统也是教育领域最常见的人工智能应用程序，同时它的学生 （Holstein等人，2018）采用增强现实（AR）智能眼镜，让学受众人数也是最多的。此外，多年来，这些系统吸引了最高 习动态（比如误解）或行为（比如注意力不

48、集中）信息“飘水平的投资和关注度，备受世界上领先科技公司的青睐，而 浮”在每个学生的头上，以便教师掌握详细且持续的信息，且，全球各地的教育体系一直采用这些系统，学生用户群体 在此基础上采取相应行动。这是人工智能技术的一个吸引数以百万计。人心的应用，但值得注意的是，它旨在解决的问题纯属是由另一种人工智能技术应用引发的。另一方面，这种做法会造成人权（尤其是隐私权）等问题。总的来说，智能导学系统的工作机制是：围绕数学和物理等结构化科目中的议题，为每位学生提供个性化的分步教程。系统会借鉴相关科目和认知科学的专家知识，通过各全球范围内，现今共有60多个可用的商业智能导学系种学习资料和活动决定学生的最优学习路径，同时针对个 统，包括Alef34、 ALEKS35、 Byjus36、 Mathia37、 Qubena38、 Riiid39别学生的误解和成就做出回应。有时，这种方法也被用于学 和松鼠AI40。教科文组织教育委员会目前正在越南学校 里测习管理系统中，比如Moodle30和OpenedX31等，以及可汗学 试一种名为“高科 技 高感触（Hi-TechHi-Touch） ”41 的方院等平台

49、32。法，致力于最大化地发挥的智能导学系统和教师的作用。15人工智能与教育政策制定者指南 理解人工智能与教育：新兴实践与效益风险评估基于对话的导学系统事实上，多数作文自动评阅系统更注重评分，而非反馈；其设计目的主要是降低评估成本，因此可能被视为一种面向系统的应用程序组件。但是，自引入以来，总结式作文自动评阅一直备受争议（Feathers， 2019）。例如，这种方法一直受到批评是因为它根据句子长度等表面特征为学生评分，即使文章内容毫无意义 学生可以胡编乱造地糊弄。另外，系统也无法评估创意性。最令人担忧的是，作文自动评阅系统依据的算法有时存有偏见，特别是对于少数民族学生，这可能是由词汇和句子结构的不同使用方式造成的。总结式作文自动评阅系统也没有解决易于获取的“深度伪造”大学及中小学作业问题 通过借鉴专业领域知识并模仿学生个人的写作风格，由人工智能技术撰写的文章。这些情况很难发现。43 最后一点，使用人工智能为作业评分，也不能表明评分的价值。虽然评分过程耗时又枯燥无味，但这也是老师了解学生能力的最好机会。基于对话的导学系统（DBTS）采用自然语言处理和其他人工智能方法，模拟人类辅导教师与学

50、生之间在按部就班完成线上任务过程中的口头辅导对话，很多时候涉及计算机科学议题，不过，最近通常涉及不那么结构化的领域。基于对话的导学系统采用苏格拉底式辅导法，即探究人工智能生成的问题，而不是采用授课式教学，在发展对话过程中，引导学生自己去找到某个问题的合适解决方案。这种方法旨在鼓励学生参与共建解释，形成对一个议题的深层理解，而不是肤浅认识某些授课式智能导学系统可能导致这种表浅认识。目前，在用的基于对话的导学系统相对较少。使用这些系统的大多是研究项目团队。其中，最经得起考验的系统是AutoTutor（Graesser等人，20 01） 。 Watson Tutor42 是由IBM公司和培生教育出版集团联合开发的一款商业系统。然而，一些面向学生的作文自动评阅系统优先考虑的是给予可操作的反馈 帮助学生提高写作水平，推进学生的自主学习和元认知等高阶过程。探索性学习环境不同于智能导学系统和基于对话的导学系统的按部就班思路，探索性学习环境（ELE）提供了一种替代范式。探索性学习环境采用建构主义理念：不去遵循按部就班的顺序，比如智能导学系统青睐的“知识传播”模式，而是鼓励学生积极探索学习环境，将之与自

51、己的已有知识架构连接起来，从而构建自己的知识体系。在探索性学习环境中，人工智能的作用是在知识追踪和机器学习方法的基础上，提供自动形成式和总结式的作文自动评阅系统目前通过各种程序（例如WriteToLearn44、 e-Rater45、和Turnitin46）应用于多种教学场景。另有一种相关方法，采用人工智能将新的学生表现与大量的已受评估的既往学生的表现进行比较，目前已经用于评价音乐表演，例如使用程序Smartmusic47进行评价。指导和反馈，从而减少探索式学习通常会产生的认知过载的 人工智能支持的阅读和语言学习问题。这种反馈可以消除各种误解，并提出替代方法，在学阅读和语言学习工具正越来越多地使用人工智能来增生进行探索时提供支持。强其方法。例如，一些工具使用智能导学系统的路径个性化设置以及人工智能驱动的语音识别。通常，语音识别用于将学生的语音与母语人士的样本录音进行比较，以提供自动反馈，帮助学生改善发音。自动翻译的其他用途包括帮助学生阅读其他语言的学习材料，以及使 来自不同文化背景的学生更容易相互交流。同时，其他系统还会检测并自动分析阅读技能，从而为学生个人提供反馈。从广义上讲，探索性

52、学习环境还未走出研究实验室。例如“ECHOES” （Bernardini等人，2014） ；“ Fractions Lab”（Rummel等人，2016） ； 以 及“Bettys Brain” （Leelawong和Biswas， 2008） 。作文自动评阅阅读和语言学习的人工智能应用程序包括人工智能作文自动评阅（AWE）并非是让学生在电脑前直接接收即时的指导，而是利用自然语言处理和其他人工智能技术提供作文的自动反馈。总体而言，有两种相互重叠的作文自动评阅方式：形成式作文自动评阅会让学生在提交作文之前提出建议，帮助完善其作文；总结式作文自动评阅则会辅助自动评 分。Teacher48、 AmazingEnglish49、 Babbel50和Duolingo51。16理解人工智能与教育：新兴实践与效益风险评估 人工智能与教育政策制定者指南智能机器人北京共识人工智能与教育目前也在探索如何将人工智能驱动的或“智能”机器人13. 在教师政策框架内动态地审视并界定教师的角色及其所需能力，强化教师培训机构并制定适当的能力建设方案，支持教师为在富含人工智能的教育环境中有效工作做好准备。应用于教育（B

53、elpaeme， 2018），特别是在学习环境中存在有学习障碍或困难的儿童。例如，目前已经为自闭症谱系障碍学习者创造出具有语音功能的仿人机器人，提供可预测的机械互动，而不是人类的互动，因为后者往往让这些学习者感到困惑。开发此类机器人的目标在于发展学习者的沟通和社交技能（Dautenhahn等人，2009）。另外还有远程临场机器人（telepresencerobots） 因患病或因人道主义或难民危机而无法上学的学生可以通过远程临场机器人重返课堂。52 第三个例子是使用仿人机器人向幼儿介绍计算机编程和其他STEM科目，例如新加坡幼儿园课堂使用的Nao53或Pepper5 4（Graham， 2018） 。14. 认识到人工智能在支持学习和学习评价潜能方面的发展趋势，评估并调整课程，以促进人工智能与学习方式变革的深度融合。在使用人工智能的惠益明显大于其风险的领域，考虑应用现有的人工智能工具或开发创新性人工智能解决方案，辅助不同学科领域中明确界定的学习任务，并为开发跨学科技能和能力所需的人工智能工具提供支持。16. 应用或开发人工智能工具以支持动态适应性学习过程；发掘数据潜能，支持学生综合能力

54、的多维度评价；支持大规模远程评价。可教代理（Teachable agents)（联合国教科文组织，2019a，第5-6页）人们早就知道，向他人传授某些内容时，自身可以更深刻地习得并掌握该项内容（Cohen等人，1982）。不少人 工智能方案也利用了这一特点。例如，前面提到的探索性学习环境（BettysBrain）就鼓励学生向一个叫Betty的虚拟学生教授关于河流生态系统知识。另有一个来自于瑞典研究项目的案例：学生通过教授一个虚拟的可教代理关于数学的益智游戏规则（Pareto， 2009）。第三个案例来自于瑞士：是幼儿教授一个仿人机器人如何写字55这种方法可以刺激元认知、同理心和自尊的发展（Hood等人，2015） 。维人体心脏，对此可以进行深入探索。增强现实技术还可能涉及人工智能驱动的图像识别和追踪。利用这项技术，可以在部分手机和Instagram或Snapchat等网站上将兔子耳朵或猫的胡须放在人的图像上。虚拟现实和增强现实应用于教育领域的实例包括Blippar56、 EonReality57、GoogleEducation58、 NeoBear59和VRMonkey60。学习网络协

55、调器教育虚拟现实及增强现实学习网络协调器（LNO）能够使学生和教师互联，参与学习和组织学习活动。学习网络协调器通常根据参与者的参与安排、学科领域和专业知识进行匹配，并能够促进协调和合作。例如“第三空间学习（ThirdSpaceLearning） ”61， 将潜在数学不及格的英国小学生与其他国家的数学老师相连接。另一个例子是“智能学伴（SmartLearningPartner） ”62，其使用的人工智能驱动平台使学生能够通过手机像交友软件一样选择真人教师并与之连接，从而获得一对一的支持。虚拟现实（VR）和增强现实（AR）是两种相关的创新技术，已经应用于教育领域，通常与机器学习和其他人工智能技术相结合，以增强用户体验。虚拟现实技术已被用于K-12及其他年级许多科目的教学中，包括天文学、生物学和地质学。虚拟现实眼镜可提供一种隔绝物理世界的沉浸式体验，使用户感觉仿佛被送到了一系列真实世界或想象环境中（如火星表面、火山内部或有胎儿正在发育的人类子宫）。部分虚拟现实创新项目使用人工智能技术控制逼真的虚拟化身，利用自然语言处理进行语音控制，或通过几张起始图像生成整个环境。人工智能支持的协作学习协作学

56、习，即学生共同解决问题，可提高学习效果（Luckin等人，2017），但是学习者之间很难实现有效的协作。人工智能可以通过各种方式转变协作学习：一种可以帮助学习者之间远程连接的工具；可以识别最适合特定协作任务的学生，并对其进行相应分组；或者可以作为虚拟代理，促进小组讨论。虽然尚未发现具体实例，但目前已经成为一种研究方向（例如Cukurova等人，2017） 。而增强现实技术则是将计算机生成的图像叠加在用户的现实世界视野上（很像战斗机飞行员的抬头显示器 ）。Lumilo正是采用上述增强现实方法，将学生的智能导学系统表现信息浮现在学生头顶上方。当智能手机的摄像头对准某个二维码时，可能会显示出增强现实三17人工智能与教育政策制定者指南 理解人工智能与教育：新兴实践与效益风险评估人工智能与人类的“双师”模式人工智能为教师赋能并提高教学水平虽然有一些明显的例外，但许多教育领域的人工智能 无论是否有意 都取代了一些教师任务，而不是协助教师更有效地教学。中国偏远农村地区的一些学校已经采用了所谓的“双师模式”。在这种方法中，一位专家教师通过视频连线为远程教室中的学生授课，而经验不足的当地教师则为学生提供

57、额外指导（iResearchGlobal， 2019） 。 未来人工智能教学助手或许可以为其中的某一角色提供支持。人工智能可以帮助人类教师完成许多任务，包括提供专业知识或专业培养资源，与特定环境内外的同事合作，监测学生表现，并在一段时间内跟踪进步情况。教授什么以及如何教学生仍然是教师的责任和特权。人工智能工具的作用仅仅是使教师的工作更容易、更学院化。例如乐外教（LeWaijiao）人工智能教室63，专门为人类教师提供支持，使其可以完成所有关键任务。尽管面向教师的人工智能应用具有增强教师能力的潜力，但迄今为止利用这些应用来增强和提高教师和教学受到的关注远远少于面向学生的人工智能。从定义上来说后者是取代了教师。目前，研究人员和开发者针对教师的设计往往只在结束之时，例如，在仪表盘中添加显示智能导学系统学生数据的功能。不过，目前已经慢慢开始解决这个问题。许多面向教师的人工智能应用旨在通过自动化任务，如评估、剽窃检测、管理和反馈，帮助教师减少工作量。人们常常认为，这应该为教师腾出时间来投入到其他任务中，例如为个别学生提供更有效的支持。然而，随着人工智能的发展，教师有可能从更多任务中解脱出来，以至

58、于对教师的感知需求减少到几乎没有。虽然这在教师稀缺的情况下可能会有一些好处，但消除对人类教师的需求这一目的表明对教师在学习过程中的基本社会角色存有根本性的误解。人工智能驱动的教学助理如前所述，许多技术的设计目的是为了让教师从耗费时间的活动中解脱出来，如考勤、批改作业和反复回答同样的问题。然而，这样一来，这些技术实际上“接手”了大部分教学工作（有些声称可以比教师更好地提供个性化学习活动），干扰了师生关系，可能会使教师沦为功能性角色。例如，作文自动评阅系统的一个目的是减轻教师的评 分负担。然而，正如我们所指出的一样，虽然评分工作可能很繁重，但它往往是教师了解学生策略和能力的一个重要机会。如果使用尽管如此，人们普遍认为，随着人工智能工具在课堂上的普及，教师的角色可能会发生变化。目前尚不清楚这将如何发生。不过，我们知道，教师必须培养新的能力，才能够与人工智能有效合作，另外，教师还需要适当的专业发展，以培养其人类和社会能力。人工智能驱动的讨论论坛监控人工智能技术正被用于支持在线教育，特别是帮助教 作文自动评阅系统，这一点就会丧失。师或服务商监控异步讨论论坛。在这些讨论论坛中，学生此外，这种方法显

59、然低估了教师的独特技能和经验，对给定的任务做出回应，向教师询问课程材料，并参与协作学习。这通常会产生大量帖子，所有这些帖子都必须经过审核和处理。人工智能可以通过多种方式提供帮助：一种工具可以对论坛帖子进行分流，并自动回应较简单的帖子；将提出重叠问题的帖子汇总；或使用情感分析来识别显示消极或无效情绪状态的帖子。这些技术结合起来，也可以使人类教师随时了解学生的意见和共同烦恼。例如，由美国佐治亚理工学院开发的人工智能助手Jill Watson（尽管存在一些伦理问题）主要是被用于分流论坛帖子并尽可能回答问题（如“什么时候提交作业？”），同时将其他更复杂的帖子交给人类教学助理。该人工智能助手是基于IBM的Watson平台，可自动回答一些学生问题，并向学生发送关于作业的电子邮件（Goel和Polepeddi， 2017）。虽然人们认为这是一个成功的软件，但它延迟回复、幽默对话等特征使学生误认为人工智能助手是一个真正的人因此在伦理层面受到了批判。以及学习者的社会和指导需求。人工智能不仅仅是使基于计算机的教学自动化，还有助于开创难以实现的新的教学方式，或者挑战甚至破坏现有教学法。这种方法旨在增强教师的

60、专业知识，也许是以人工智能教学助理（AITA）的方式（Luckin和Holmes， 2017）。一些人工智能应用是为了对教师和学校赋能，以促进学习的转变。目前对这些应用程序已经进行了一些研究，但在真正利用这些应用程序之前，还需要克服许多技术和伦理问题。18理解人工智能与教育：新兴实践与效益风险评估 人工智能与教育政策制定者指南3.2 如何挖掘人工智能的创新应用实现教育共同目标？如上所探讨，人工智能正以多种方式用于教育领域。但另有一种评估方法，或许可以借助人工智能工具不断监是，尽管使用了尖端技术，这些应用程序也仅仅只是将一些 测学生的进步情况，提供有针对性的反馈并评估学生的掌过时的课堂实践自动化，而不是利用人工智能的独特能力重 握情况。在学生正式接受教育课程期间，可能会对所有这些新构想教学与学习。换言之，教育领域的人工智能研发人员 信息进行整理。虽然使用人工智能驱动的持续评估来取代目前只是专注于仍较复杂但相对容易解决的知识记忆和回 高风险的阶段性考 试可能很有吸引力，但也说明了在教育领忆问题。而关于解决更复杂教育问题的可能性，如协作学习 域应用人工智能的两个方面：好处和挑战。让学生在学习

61、过或新的评估和认定方式，尚未进行充分研究，更不用说作为 程中展示其能力，在某些方面是有利的，但目前仍不太清楚商业产品大规模提供了。因此，为了促进对话，这里提出了一 如何在没有持续监察的情况下实现这一点。这种监测涉及许些可以利用人工智能实现教育领域共同利益的创新方法。多伦理问题。人工智能驱动的终身学习伙伴人工智能驱动的终身学习成绩记录每个学生都希望拥有自己的个性化终身导师，这也是“人工智能驱动的电子学习档案”可以用于整理学生最早激发人工智能应用于学习中的原因。从技术上讲，利用 在接受正规教育期间的所有持续评估信息，以及学生参与智能手机和相关技术的功能创造一个人工智能驱动的学习 非正规学习（如学习乐器或手工艺）和非正式学习（如习得伙伴，使其能够终身陪伴个人学习者，并不一定很困难。学习 一种语言）的数据。该记录将作为一种智能和动态简历，可伙伴不是以指令性智能导学系统的方式来教授学生，而是 以使用区块链技术来担保和认证。65 如此，学生即拥有一个根据学生个人的兴趣和目标提供持续支持，帮助学生决定学 强大的、经认证的学习经历和成绩记录，这有可能比一系列习什么，以及在哪里和如何学习。它还可以引导学

62、生沿着个 考试证书更详细。学生将能够让高等教育机构和未来雇主性化的学习路径学习，帮助学生实现新目标，并将学生学习 安全访问其电子学习档案的相关部分。兴趣和成绩联系起来，同时鼓励学生反思和修改其长期学北京共识人工智能与教育习目标。然而，尽管潜力深厚，但目前还没有商业化的人工智能终身学习产品，相关研究也很少。20. 重申终身学习是实现可持续发展目标4的指导方针，其中包括正规、非正规和非正式学习。采用人工智能平台和基于数据的学习分析等关键技术构建可支持人人皆学、处处能学、时时可学的综合型终身学习体系，同时尊重学习者的能动性。开发人工智能在促进灵活的终身学习途径以及学习结果累积、承认、认证和转移方面的潜力。人工智能赋能持续评估虽然没有什么证据表明高利害考试（high-stakesexamination）的有效性、可靠性或准确性，但在世界各地的教育系统中高利害考 试都处于核心地位。因为有这样的考试，各大学和中小学往往实施应试教学，将常规的认知技能和知识习得（被人工智能取代的知识类型）置于深入理解和真实应用之上。事实上，目前开发的人工智能已经可以用于扩展现有的考试实践。例如，人工智能驱动的人脸识别

63、、语音识别、键盘动态和文本取证正越来越多地用于验证远程学习者考生。64 尽管这可能对一些学生有好处（例如那些参加面对面考试有困难的残疾学生），但尚未证实这些工具的规模化效果，它们延续了而不是缓解了基于考试的评估实践问题。21. 意识到需要在政策层面对老年人尤其是老年妇女的需求给予适当关注，并使他们具备人工智能时代生活所需的价值观和技能，以便为数字化生活消除障碍。规划并实施有充足经费支持的项目，使较年长的劳动者具备技能和选择，能够随自己所愿保持在经济上的从业身份并融入社会。（联合国教科文组织，2019a，第7页）19人工智能与教育政策制定者指南 理解人工智能与教育：新兴实践与效益风险评估3.3 如何确保人工智能在教育中应用的伦理规范、包容性和公平性？以合乎伦理、包容和公平的方式将人工智能用于教育 们还必须考虑“未知的未知数”，即人工智能与教育的互动领域，影响着每一个可持续发展目标。相关议题集中于以下 所引发的那些尚未确定的伦理问题。伦理问题包括：方面：数据和算法、教学方式选择、包容性和数字鸿沟，儿在定义和不断更新收集和使用学习者数据的伦理边界童的隐私、自由和无障碍发展权，以及性别、残疾、

64、社会和经济地位、种族和文化背景以及地理位置。时，应考虑哪些标准？学校、学生和教师如何选择退出大数据的集中呈现，或对关于教育数据和算法的新伦理和法律问题此等呈现提出质疑？人工智能技术的广泛部署带来了诸多风险和挑战，包括数据所有权（例如利用数据获取商业利益）、知情同意 无法轻易查询人工智能是如何做出决定的（使用多级神（例如学生是否有能力在成长或法律层面给予真正的知情 经网络），会有什么伦理影响？同意）和隐私（例如使用侵入性的情绪检测系统）等方面的风险和挑战。另一个风险是，算法的偏见可能会破坏基本人 私营组织（产品开发商）和公共机构（参与研究的中小学权。还有一个令人担忧的问题是，人工智能数据和专业知识 校和高校）的伦理责任是什么？正被少数国际技术和军事超级大国所积累。尽管如此，人工学生兴趣和情绪的瞬时性学习过程的复杂性，对数据的智能技术在教育领域的应用范围非常广泛，且在不断扩大，解读以及人工智能应用于教育领域的伦理问题有何影响？关于人工智能在教育领域的应用所带来的具体伦理问题，世界各地几乎没有开展任何研究、没有商 什么样的教学法在伦理层面是合理的？定任何准则、没有制定任何政策、也没有颁布任何

65、法规来北京共识人工智能与教育解决 这些 问题 。（ Holmes等人，2018b，第552页）确保教育数据和算法使用合乎伦理、透明且可审核：与主流人工智能一样，人们对为支持人工智能在教育28. 认识到人工智能应用程序可能带有不同类型的偏见，这些领域的应用而收集的大量个人数据表示担忧这一过程偏见是训练人工智能技术所使用和输入的数据自身所携带被称为“数据监控（dataveillance) ”（ Lupton和Williamson,的以及流程和算法的构建和使用方式中所固有的。认识到2017）。谁拥有以及谁能够访问这些数据，存在哪些隐私和保密问题，以及应该如何分析、解读和分享这些数据？所有学习者的个人数据都易遭到滥用或泄露，特别是考虑到全世界仅有不到30%的国家（不包括欧洲）制定了全面的数据保护法律。在数据开放获取和数据隐私保护之间的两难困境。注意到与数据所有权、数据隐私和服务于公共利益的 数据可用性相关的法律问题和伦理风险。注意到采纳合乎伦理、注重隐私和通过设计确保安全等原则的重要性。29. 测试并采用新兴人工智能技术和工具，确保教师和学习者的数据隐私保护和数据安全。支持对人工智能领域深层次

66、伦理问题进行稳妥、长期的研究，确保善用人工智能，防止其有害应用。制定全面的数据保 护法规以及监管框架，保证对学习者的数据进行合乎伦理、非歧视、公平、透明和可审核的使用和重用。另一个重大问题是，人工智能算法（即如何分析数据）中可能包含有意识或无意识的偏见。事实上，算法在社会中发挥着越来越广泛的作用，从影响某人是否得到工作岗位的决定到某人应接受多久监禁等，各种任务的执行实现自动化。然而，人们越来越认识到，算法并不像其通常展现的那样中立；例如，它们可以自动产生偏见，对个人产生不同程度的负面影响（Hume， 2017） 。30. 调整现有的监管框架或采用新的监管框架，以确保负责任地开发和使用用于教育和学习的人工智能工具。推动关于人工智能伦理、数据隐私和安全相关问题，以及人工智能对人权和性别平等负面影响等问题的研究。（联合国教科文组织，2019a，第8-9页）任何有偏见的分析都可能对学生个人的人权产生负面影响（在学生的性别、年龄、种族、社会经济地位、收入不平等等方面）。然而，这些围绕数据和偏见的特殊伦理问题都是“已知的未知数”，也是主流人工智能领域大量讨论的问题。66 但有迹象表明，领先的技术公

67、司对“伦理洗白”越来越感兴趣，以试图逃避国家或国际的监管（Hao， 2019） 。 我20理解人工智能与教育：新兴实践与效益风险评估 人工智能与教育政策制定者指南此外，人工智能在教育领域的应用因具有侵入性和去 技术的所有者和使用者之间，以及依靠人工智能提高工作的人性化（de-humanising）的特征而受到批评：侵入性是因为 人和那些工作容易被取代的人之间。一些应用需要持续监测学生的行为、姿态和情绪；去人性简单举一个例子，在使用电信网络方面的悬殊差异影响化是因为一些人工智能要求学生适应指定的教学方法，减着发展中国家的人们以及发 达国家 农村地区的人们。此外，少人与人之间的互动，遵循分散内容的结构化路径，这种方尽管近年来宽带价格大幅下降，但数字服务和设备对许多人式也降低了学习者的能动性。一些案例揭露了伦理方面的争来说仍然难以负担，这阻碍了人工智能的广泛引入。事实上议，比如录制课程并使用人工智能来分析课堂谈话的质量缺乏宽带设备会导致恶性循环：没有宽带，对数字技术的使如何有助于学习（Kelly等人，2018）。如果设备不是以侵入性用就会受到限制，而那些无法使用数字技术的人就不会出的方式引入

68、课堂，使用人工智能来识别学习模式和问题，也现在机器学习所依赖的数据集之中。这样一来，处于数字鸿许在伦理层面不会有太大问题。然而，一些学校使用人工智沟劣势一侧的人的希望、利益和价值观在人工智能时代被能驱动的教室摄像头监控学生的行为（Loizos， 2017） 。 这 已排挤，而新的人工智能也无意中对他们产生了偏见。经越过了伦理底线，因为学校安装了面部识别技术来检查学生在课堂上的专心程度。学生的每一个动作都会被安置由于权力和盈利日益集中于少数国际技术超级大国、仅在黑板上方的多个摄像头所监视。该系统的工作原理是识仅跨越少数几个国家，数字鸿沟进一步加剧。如果没有有效别面部表情，并将这些信息输入计算机，以评估学生是否精的政策干预，教育领域的人工智能部署可能会反映出这一不力集中，或在走神儿。其中有一个例子，计算机可以识别七种可阻挡的进程，难免会放大而非减轻现有的学习不平等。不同的情绪：平和、快乐、悲伤、失望、愤怒、害怕和惊讶。如果断定学生分心了，就会向老师发出通知，让其采取行动。人工智能推进教育包容性和公平性的契机然而，这些摄像头提高了学生的焦虑水平，改变了他们的自然行为。学生们称，他们觉得有一双

69、神秘的眼睛一直在盯着他们。除了关注所有人在人工智能技术使用机会方面的公平性之外，我们还需要考虑人工智能在助力实现可持续发展目标4方面的潜力，以帮助确保包容和公平的优质教育，让全民终身享有学习机会。为了在2030年实现中小学教育的普及，全球需要再招聘6880万名教师（联合国教科文组织，2016）。在这种具有挑战性的背景下，可能会使用或进一步开发许多人工智能技术，以帮助改善教育 特别是对年长者、难民、边缘化或孤立群体，以及有特殊教育需求的人 。68 然而，我们必须认识到，增加教育机会仍然主要是一个政治和社会问题。人工智能技术可能会有所帮助，但不太可能提供解决方案。例如，起到代替教师功能而非增强教师能力的人工智能技术，可能有助于在教师稀缺的情况下实现短期补救，但可能会无意中加剧而不是解决实现可持续发展目标4的长期挑战。另一种由人工智能驱动的方法更甚，它使用头带设备中的脑电图（EEG）67 传感器来检测学生在执行任务时的大脑活动。开发人员再次声称，这项技术有可能改善学习 这种说法受到了神经科学家的质疑。这些头带设备可能会产生不准确的结果或意想不到的后果。值得注意的是，2019年10月，中国国家

70、互联网信息办公室和教育部出台了相关法规，旨在遏制学校使用人工智能驱动的摄像头、头带和其他设备（Feng， 2019）。这些法规要求在对学生使用人工智能技术之前，必须获得家长的同意。另外还规定对所有数据进行加密。目前这已促使中国学校停止使用面部识别和脑电图技术，尽管这可能只是暂时的。在北京共识中，第28至30段阐述了人工智能在教育中的伦理问题。北京共识还建议，所有政府均应制定并实施监管框架，以确保负责任地开发和使用人工智能工具进行教育和学习。该项工作应以联合国教科文组织目前正在制定 的 人工 智能 伦理 问题 建议 书 （2020）为基础。因此，对于目前人工智能在改善教育和学习方面被夸大的潜力，政策制定者有责任确保慎重看待。首先，应使用联合国教科文组织的ROAM框 架（“权利、开放、可及和多方”）， 确保人工智能在教育中的应用全面解决更广泛的人权和新出现的伦理问题（联合国教科文组织，2019b） 。 例 如，教育领域的人工智能应面向所有公民（不分性别、残疾、社会或经济地位、种族或文化背景或地理位置），特别是对弱势群体（如难民或有学习障碍的学生），不得加剧现有的不平等现象。那些掌握和未能掌

71、握核心数字技术（如互联网和人工智能）的人之间的鸿沟问题影响着每个可持续发展目标。更为复杂的是，这种数字鸿沟存在于许多方面，例如：发达国家和发展中国家之间，国家内部不同的社会经济群体之间，21人工智能与教育政策制定者指南 理解人工智能与教育：新兴实践与效益风险评估北京共识人工智能与教育2. 重申确保教育领域的包容与公平以及通过教育实现包容与公平，并为所有人提供终身学习机会，是实现可持续发展目标42030年教育的基石。重申教育人工智能方优先考虑非洲、最不发达国家、小岛屿发展中国家以及受冲突和灾害影响的国家。面的技术突破应被视为改善最弱势群体受教育机会的一个契机。34. 在“2030年教育”的全球和地区架构范围内，协调集体行动，通过分享人工智能技术、能力建设方案和资源等途径，促进教育人工智能的公平使用，同时对人权和性别平等给予应有的尊重。23. 确保人工智能促进全民优质教育和学习机会，无论性别、残疾状况、社会和经济条件、民族或文化背景以及地理位置如何。教育人工智能的开发和使用不应加深数字鸿沟，也不能对任何少数群体或弱势群体表现出偏见。35. 支持对与新兴人工智能发展影响相关的前沿问题进行前瞻

72、性研究，推动探索利用人工智能促进教育创新的有效战略和实践模式，以期构建一个在人工智能与教育问题上持有共同愿景的国际社会。24. 确保教学和学习中的人工智能工具能够有效包容有学习障碍或残疾的学生，以及使用非母语学习的学生。36. 确保国际合作有机配合各国在教育人工智能开发和使用以及跨部门合作方面的需求，以便加强人工智能专业人员在人工智能技术开发方面的自主性。加强信息共享和有良好前景应用模式的交流，以及各国之间的协调和互补协作。33. 基于各国自愿提交的数据，监测并评估各国之间人工智能鸿沟和人工智能发展不平衡现象，并且注意到能够获取使用和开发人工智能和无法使用人工智能的国家之间两极分化的风险。重申解决这些忧虑的重要性，并特别（联合国教科文组织，2019a，第7和第9页）人工智能被用于推进教育包容性和公平性的例子有 人工智能和增强现实应用，通过将文本翻译成手语来帮很多。助聋哑儿童阅读，如华为开发的StorySign73手机应用；世界数字图书馆69，使用谷歌语音助手，让有识字困难的 人工智能驱动的“智能”机器人，如针对自闭症谱系障碍人只用语音命令就能搜索到书籍，然后由语音助手大声朗读 学习者的

73、语音机器人，74 提供可预测的机械互动，帮助学习书籍，让他们获得知识。者培养交流和社交发音；Dytective，一种人工智能驱动的筛查工具，使用机器学习 远程临场机器人，供无法上学的学生使用（Heikkila,对阅读障碍进行早期检测。它由西班牙的ChangeDyslexia公 2018） ；司开发，还提供了基于游戏的学习环境，用于练习24种关键人工智能驱动的智能导学系统，是教育领域最常见的人工的识字技能；70智能工具，其中一些被用来诊断特定的学习困难并制定个性人工智能驱动的人工语音71，供不能说话或有语言障碍的 化学习路径（关于智能导学系统的讨论见第16页第3.1节）。人使用，有时可以匹配人的原始语音。北京共识中反映了人工智能在教育领域实现包容、人工智能驱动的自动语音识别和转录，将原始口语转 公平使用的复杂性。为引导人工智能实现包容性和公平性，现提出指导性原则和策略。化为流利的带标点的文字，使聋哑学生更容易参加现场讲座；7222理解人工智能与教育：新兴实践与效益风险评估 人工智能与教育政策制定者指南3.4 人类如何通过教育实现与人工智能共处及合作？如前所述，计算机更擅长依赖数据、规律识

74、别和统计推理的任务，而人类在需要同理心、自我指导、常识和价值无数机会正摆在我们面前，可以提高工作生涯质量、扩大选择、缩小性别差距、扭转全球不平等判断的任务方面仍然更胜一筹。换言之，在帮助学生学习如 造成的危害等等。但这一切不会自行发生。如不采取果断何在越来越受人工智能影响的世界中有效生存时，所需的 行动，我们将进入一个不平等和不确定性进一步加剧的教学方法不应是关注计算机擅长的东西（如记忆和计算）， 世界。而更应强调人类的技能（如批判性思维、沟通、协作和创造事实上，如果各国要确保人工智能不加剧现有的不平力）以及在生活、学习和工作中与普遍存在的人工智能工具等，那么每个公民都必须有机会深入了解人工智能 它协作的能力。是什么、如何工作以及如何影响其生活，这一点将越来越重如前所述，第四次工业革命正在 对现代生活的许多方面 要。这种认知有时被称为“人工智能素养（AI literacy） ” 。 因产生着影响，特别是劳动力市场。在许多国家，人工智能已 此，教师将发挥关键作用，教育供给必须转向支持终身学经在接手标准化和重复性的工作，彻底改变了效率，取代了 习，以便人们能够建立自己的能动性、就业能力和贡

75、献社会很多工作岗位。然而，据一些世界领先的咨询公司称75，人 工 的能力。换句话说，全球的教育和培训方法都需要采取覆盖智能也可能创造许多新的就业机会，并产生积极的整体经 整个系统的应对措施，以帮助所有公民做好在人工智能时代济效益，尽管他们对于将取代和创造多少工作机会持有不同 和谐生活和工作的准备。意见。将必要的人类价值观和技能纳入主流，需要建立一个无论长期结果如何，就业的本质可能会发生变化（“工 覆盖整个系统、甚至整个社会的框架，其中涉及到几个互补作生活是无常和不可预测的”，Barrett， 2017），数以百万计 层面：的工人将受到重大影响，而且往往是负面影响。许多人将(i) 促进终身学习，使每个人（尤其是年长者）得以深入了不得不接受再培训；一生中从事多种职业正迅速成为新常解人工智能7 8（特别是人工智能算法如何选择和操纵数据、态 。76 同时，会使用和不会使用新技术的人之间的技能差如何解读数据以及如何产生偏见）及其对个人和广大社会的距77将继续扩大，导致越来越多的工人被就业市场排斥，中影响；产阶 级将 出现 “空 洞化 ”（ Smith和Anderson， 2014）。机会 与风险

76、并存，因此需要共同努力，确定每个人如何从发展中获(ii) 将基本的人工智能学习纳入K-12年级学校课程7 9（包 括益。国际劳工组织最近的报告为了更加美好的未来而工计算思维、数据和算法素养、编程和统计，以使青少年能够作： 未来 的工 作全 球委 员会 （ ILO， 2019）指 出：生成自己的人工智能工具），我们将在后面更详细地讨论这个问题。北京共识人工智能与教育6. 我们还认识到人类智能的独特性。忆及世界人权宣言中确立的原则，我们重申联合国教科文组织在人工智能使用方面的人文主义取向，以期保护人权并确保所有人具备在生活、学习和工作中进行有效人机合作以及可持续发展所需的相应价值观和技能。教育的资历认证体系中，同时考虑到伦理层面以及相互关联的人文学科。18. 认识到进行有效的人机协作需要具备一系列人工智能素养，同时不能忽视对识字和算术等基本技能的需求。采取体制化的行动，提高社会各个层面所需的本人工智能素养。17. 注意到采用人工智能所致的劳动力市场的系统性和长期性变革，包括性别平等方面的动态。更新并开发有效机制和工具，以预测并确认当前和未来人工智能发展所引发的相关技能需求，以便确保课程与不

77、断变化的经济、劳动力市场和社会相适应。将人工智能相关技能纳入中小学学校课程和职业技术教育与培训（TVET）以及高等19. 制定中长期规划并采取紧急行动，支持高等教育及研究机构开发或加强课程和研究项目，培养本地人工智能高端人才，以期建立一个具备人工智能系统设计、编程和开发的大型本地人工智能专业人才库。（联合国教科文组织，2019a，第4和第6页）23人工智能与教育政策制定者指南 理解人工智能与教育：新兴实践与效益风险评估(iii) 培养新一代人工智能领域的专业人才，以解决日益扩大 芬兰与赫尔辛基应用科学大学联合开发了一款名为的技能鸿沟、填补世界各地创造的人工智能工作岗位。Headai的人工智能应用程序。该应用程序对招聘广告和高校课程实施监测和分析，以创建能力地图83，对比人工智能技能的供需情况，然后反过来使高校能够迅速调整课程，以满足市场需求。(iv) 推进高等教育及研究机构开发具有突破性的公平人工智能；(v) 确保日益增加的人工智能劳动力具有多样性和包容性美国AI4K1284计划，由美国人工智能协会（AAAI）和计算机科学教师协会（CSTA）联 合发起，提供了一套资源，旨在（涉及女性以

78、及通常被排除在外的其他群体）；(vi) 预测员工和雇主的新需求，并提供在职提升技能 帮助教师向学生教授人工智能知识。（upskilling）或再训技能（re-skilling) 的机会（因为人工智能联合国教科文组织的“K12人工智能教学（TeachingAIforK12）”门户网站85，汇集了世界各地的人工智能教学资关于让人类与人工智能共处及合作的方案，有各种前 源，供任何教师或家庭教育者使用，以帮助其学生学习人工可实现中低技能工作职责的自动化）景可观的实例，包括帮助年幼学习者培养人工智能技能。同时，各种人工智能平台和工具也在应运而生，以支持这些技能：智能。目前已经设计出免费在线课程，供公民了解人工智能的工作原理。这些课程包括：在中国，“算法和计算思维”已被纳入教育部普通高中信息技术新课程标准（中华人民共和国教育部，2017） ， 同时高等学校人工智能创新行动计划（中华人民共和国教育 部，2018）也旨在提升中国高校的人工智能能力。此外，教育部还发布了“人工智能助推教师队伍建设”行动试点计划，旨在提高教师教育的创新性。 人工智能的要素（ElementsofAI）86：由Reaktor和

79、赫尔辛基大学创建的一系列免费在线课程。课程有多种语言版本，旨在鼓励人们学习什么是人工智能，人工智能能做什么、不能做什么，以及如何开始创建人工智能方法。在 美 国 ，宾 夕 法 尼 亚 州 蒙 托 尔 学 区（ M o n t o u rSchoolDistrict）教授幼儿人工智能编程课程，让学生有机会体验如何通过智能设计助力公益。80 OKAI87：一系列在线课程，提供英文和中文版本。该项目旨在揭开人工智能的神秘面纱，将其概念介绍给没有计算机科学背景或相关知识背景有限的受众。它利用基于网络的互动图像和动画来说明人工智能的工作原理。在新加坡，仿人机器人（如Nao53和Pepper54）应用到了幼儿园课堂中，为儿童介绍编程和其他STEM学科（Graham， 2018） 。 AI-4-All88：是美国的一项非营利性项目，致力于提高人工智能教育、研究、开发和政策的多样性与包容性，目的是为人工智能领域的弱势群体创造更多机会。英国和肯尼亚实施青少年人工智能计划81，旨在激励新一代人工智能研究人员、企业家和领导者。它结合编程马拉松、加速器、集训营和导师，让年轻人可以接触到具有社会意识的人工智能部

80、署。新加坡SkillsFuture82计划专注于数字技能提升和再训。特别是，该计划为人工智能科学家和工程师提供一系列技能以及对人工智能的基本理解，包括如何与人工智能世界和谐共处。24利用人工智能实现可持续发展目标4所面临的挑战 人工智能与教育政策制定者指南尽管人工智能具有应用于教育领域的潜力，但是具体到利用人工智能实现可持续发展目标4，仍面临着许多挑战。整个社会还需要克服更多障碍，以释放人工智能的潜力，减轻其弊端，并建立面向未来的教育系统。首先，人工智能对学生、教师和更广泛的社会的影响还有待确定，包括人工智能干预的有效性、人工智能工具中使用的教学法的选择、学生隐私、教师的工作以及我们在大学和中小学应该教授什么等问题。在本章中，我们简要探讨了一些仍需解决的关键问题。4.1 数据伦理和算法偏见如上所讨论，数据处于现代人工智能方法的核心，引发了大量基于数据保护、隐私和所有权以及数据分析的是由带有人类偏见的数据训练出来的，那么算法自然也会习得偏见，并且可能会进一步放大偏见。挑战性问题。这些伦理问题引起了广泛关注（Jobin等人总 尤其如果人们假定算法是公正的，这会是一个极其严重的结，2019）

81、。类似地，教育数据的伦理问题也是许多研究的问 题。 （Douglas， 2017）重点（例如Ferguson等人，2016），引发了关于知情同意、数简言之，人工智能本身并没有偏见，而是在其数据存有据管理和数据观（例如机构与个人）的进一步问题。人工智偏见或以不适当的算法分析数据时，原有的以及可能尚未发能在教育领域的任何应用都应妥善地解决这些数据问题，现的偏见可能会更加显著并产生更严重的影响。让偏见变得以及关于教育的其他具体问题，如教学法的选择。显著的意义在于这样可以敦促 对偏见的纠正，但任由偏见产此外，人们早已认识到，通过设计，人工智能会放大其生更大影响则可能会导致不利结果，因此应该谨慎缓解。初始数据的隐藏特征，并有力地强化其基本假设。特别是，如果算法4.2 性别平等的人工智能以及借助人工智能促进性别平等如果人工智能能够为社会带来真实福利，则须竭尽全力确保将公平和性别平等作为人工智能的一项基本原则。然而，目前人工智能的多种应用显示存有性别偏见。例如，2018年，科技巨头亚马逊放弃在招聘中使用机器学习，因为它系统性地歧视女性求职者。根源在于原始数据是以公司的历史招聘记录为基础的，总是不明就

82、里地对女性产生偏见。人工智能在进行自动化选择时，不可避免地放大原始偏见，使其格外显著。一些人提出，亚马逊不应放弃在招聘中使用人工智能，而是应该努力解决这种偏见。另一个例子是关于人工智能个人助手的开发，如苹果的Siri20、亚马逊的Alexa21、以及百度的DuerOS22。许多工具使用的都是女性名字和声音，从而造成了微妙但却非常严重的暗示：北京共识人工智能与教育25. 强调数字技能方面的性别差距是人工智能专业人员中女性占比低的原因之一，且进一步加剧了已有的性别不平等现象。26. 申明我们致力于在教育领域开发不带性别偏见的人工智能应用程序，并确保人工智能开发所使用的数据具有性别敏感性。同时，人工智能应用程序应有利于推动性别平等。27. 在人工智能工具的开发中促进性别平等，通过提升女童和妇女的人工智能技能增强她们的权能，在人工智能劳动力市场和雇主中推动性别平等。（联合国教科文组织，2019a，第8页）25人工智能与教育政策制定者指南 利用人工智能实现可持续发展目标4所面临的挑战凭借其女性名字、声音和程序化调情特征，虚拟在课堂上使用这些具有性别刻板印象的技术可能会产个人助手的设计再现了对女性

83、秘书的歧视性刻板 生什么影响，仍是一个有待解决的问题。印象 在性别刻板印象中，女性秘书通常不仅是男性老解决这些性别平等问题是一个重要的目标，因为只有板的秘书。它还强化了女性附属于并顺从男性的角色。这些人工智能助手根据用户的命令运转。它们没有权限拒绝这些命令，且被设定为只能服从。可以说，人工智能助手也提高了人们对于真实女性应该如何表现的期望。（Adams，2019）当女性在人工智能劳动力中有足够的代表性时才有可能实现性别平等，而这本身就是一个令人忧虑的话题。领英（LinkedIn）最近的一项分析显示，在全球人工智能专业人士中，女性仅占22%（世界经济论坛，2018）。推进女性在人工智能领域的代表性，对于保护基本人权并帮助防止人工智能驱动的偏见被扩散和放大至关重要。4.3 监测、评估和研究人工智能在教育领域的应用虽然人工智能在教育领域中的应用已有50多年的研究尤其是许多人提出，人工智能在解决教育问题上可以历史，但值得注意的是，人工智能在大学和中小学中仍然比 发挥重要作用，如新冠肺炎疫情期间学校关闭所造成的不较少见 即使是在发达国家也是如此。事实上，目前甚至 断增加的不平等现象。在疫情的最初

84、几个月，许多教育领域尚不清楚正在向教育领域投入的技术是否真的能胜任这项 的人工智能商业公司报告称 注册用户激增。然而，几乎没有工作。证据表明，这些系统的起到的作用大于虚拟儿童监护的功能，或者青少年因使用这些系统而收获更多。因此，在政策制定者认为人工智能可以解决疫情造成的教育问题之前，需要进一步研究和评估，以区分现实和夸大其词。最终，人工智能也许能够发挥有益的作用，但目前我们根本没有足够的信息来了解它的助益程度。目前存在的许多“实证性”依据大多是关于人工智能如何以技术能力在教育中发挥作用，而没有询问或详尽回答教育领域是否需要人工智能的问题。（Nemorin， 2021）尽管与传统的课堂教学相比，一些智能导学系统已被证明普遍有效，但关于人工智能在教育领域的应用，几乎没有累积或可复制的研究实例，也缺乏有力的证据证明其规模效应（duBoulay， 2016）。事实上，许多人工智能工具的所谓功效可能更多的是在于其新颖性而不是实质内容。我们确实没有足够的证据（Holmes等人，2018a） 。北京共识人工智能与教育15. 支持采用全校模式围绕利用人工智能促进教学和学习创新开展试点测试，从成功案例中

85、汲取经验并推广有证据支持的实践模式。31. 注意到缺乏有关人工智能应用于教育所产生影响的系统性研究。支持就人工智能对学习实践、学习成果以及对新学习形式的出现和验证产生的影响开展研究、创新和分析。采取跨学科办法研究教育领域的人工智能应用。鼓励跨国比较研究及合作。虽然似乎毫无疑问人工智能将对教育机会、内容和结果的输出及管理产生重大影响，但我们仍然不确定人工智能解决方案如何改善这些结果，以及是否能够帮助科学家更好地了解学习是如何发生的。32. 考虑开发监测和评估机制，衡量人工智能对教育、教学和学习产生的影响，以便为决策提供可靠和坚实的证据基础。（联合国教科文组织，2019a，第6和第9页）26利用人工智能实现可持续发展目标4所面临的挑战 人工智能与教育政策制定者指南4.4 人工智能将对教师角色产生哪些影响？智能开发人员的志向是减轻教师的各种负担（如监测进度和批改作业），使教师可以专注于教学的人性化方面（如社会参与、移情互动，并提供个人指导）。然而，随着人工智能功能的改进，其必然会减轻教师越来越重的负担。相应地，鉴于人工智能工具接手知识传输任务、促进学生的低阶思维，教师的作用也会随之降低。从理

86、论上讲，教师因此可以更专注于设计和推进需要高阶思维、创造力、人际协作和社会价值的学习活动尽管人工智能开发人员无疑已经在努力实现这些任务自动化。因此，为了确保教师继续在青少年教育中发挥关键作用，政策制定者必须从战略上审查人工智能如何改变教师的角色，以及教师如何准备在人工智能教育环境中工作。北京共识人工智能与教育12. 注意到虽然人工智能为支持教师履行教育和教学职责提供了机会，但教师和学生之间的人际互动和协作应确保作为教育的核心。意识到教师无法被机器取代，应确保他们的权利和工作条件受到保护。13. 在教师政策框架内动态地审视并界定教师的角色及其所需能力，强化教师培训机构并制定适当的能力建设方案，支持教师为在富含人工智能的教育环境中有效工作做好准备。（联合国教科文组织，2019a，第5页）尽管使用智能导学系统的商业目标是完成教师职责，但在短时间内机器仍不太可能取代教师。尽管如此，许多人工4.5 人工智能将对学习者能动性产生哪些影响？即使避免了以人工智能取代教师的反乌托邦式场景，此外，如前所述，人工智能会放大其初始数据的隐藏特学习者的能动性仍可能会因教育领域过多地使用适应性人 征，并有力地强化

87、其基本假设。在这方面，基于规则和机器工智能而减弱。这意味着学习者相互交流的时间减少，更多 学习的人工智能技术是相似的（Holmes等人，2019）。这 些的决定由机器做出，并且更关注最易于自动化的知识类型。 技术的设计和大多指令式的实施方法，以知识转移和内容这可能会剥夺学习者培养其智谋（resourcefulness）、自我 效 传递为重点，忽视了背景和社会因素，放大了关于教学方法能、自我管理、元认知、批判性思维、独立思考和其他21世 已有但存在争议的假设。这一系列的关键问题，需要人工智纪技能的机会，而这些技能却是全人培养的关键（世界经济 能教育界的充分参与。人工智能在教育领域的所有应用都应论坛和波士顿咨询集团，2016）。目前还不清楚这将对学生、 该加强而不是威胁全人的培养。公民和教育规划产生什么长期影响。由Facebook工程师开发的一种智能导学系统“巅峰学习（SummitLearning）”，目前大约有400所学校正在使用，而它已经成为学生抗议和抵制的焦点。多所学校的学生走出校门抗议，称他们使用该程序的体验并不好 它要求上课期间学生在电脑面前坐数个小时。他们特别担忧的是，该程序剔

88、除了发展批判性思维所需的许多人际互动和教师支持（Robinson和Hernandez， 2018）。资助“ 巅 峰学习（SummitLearning）”项目的 陈- 扎克伯格计划（ChanZuckerbergInitiative）对这些说法提出了异议。27人工智能与教育政策制定者指南 政策应对综述正如经济合作及发展组织（OECD）所指出的，全球60个然而，尽管设定了可持续发展目标4，但是很少有计划国家以及欧盟地区实施了300多项人工智能政策计划。89其 关注K12阶段的人工智能学习，如何在教育中实施人工智能中大部分都提到了教育问题。例如，许多计划中提到人工智 （即“使用人工智能学习”），或让公民做好准备，以适应越能能力建设的需要（即“学习人工智能”），但大多数局限于 来越受人工智能影响的世界（即“为 了 人机协同而学习”）。高等教育。有些还提到了再培训，这对减轻人工智能对工人在本章中，我们总结了一些专门针对人工智能与教育的的影响越来越有必要。国家和地区政策，为其他国家的决策者根据现有通用人工智能计划制定策略时提供参考。5.1 政策应对方式应对人工智能与教育发展问题的跨国和区域性政策多

89、2017年，中国发布新一代人工智能发展规划，主张种多样，但大致可以分为三种方式：独立式、综合式或专题发展“智能教育”。具体而言，该计划涉及到利用人工智能来：( i)发展新的教育系统，包括改革教育实践、提供智能和互动学习；( ii)开展智能校园建设，促进人工智能在教学、管理和资源建设中的应用；( iii)发展三维综合教学方法和基于大数据的智能在线学习平台；( iv) 开发人工智能助手，建立综合教育分析系统；以及(v)建立以学习者为中心的教育环境，为每个学习者提供个性化教育。式（见表3） 。 独立式拥有独立的人工智能政策和战略，如欧盟的人工智能对学习、 教学 和教 育的 影响 （ Tuomi， 2018） ， 以 及中国（2017） 的新一代人工智能发展规划。 综合式2017年，阿拉伯联 合酋长国（UAE）启动“阿联酋人工智能战略”。该计划涵盖了人工智能在九大主要部门的开发和应用，其中一个部门就是教育。其还强调了人工智能在降低成本和加强学习方面的潜力。将人工智能要素融入到现有的教育或信息通信技术政策和战略中，如阿根 廷的“Aprender Conectados（学习互联）”（阿根廷教育部，

90、2017） 。 专题式专注于与人工智能和教育有关的某一特定主题，如欧盟的 2018年，欧盟发布了人工智能对学习、教学和教育的影通用数据保护条例（GDPR） 。响。这份文件首先阐述了人工智能对学习的影响，特别是对儿童和成人的人类认知能力的影响。它认为，人工智能可以支持现有的认知技能，加快认知发展，创造新的能力，并可能降低一些能力的重要性或导致这些能力被淘汰。其次，该文件还阐述了人工智能面向未来愿景的需求，以及人工接下来我们将对这三种方法逐一进行详细探讨。独立式2016年，美国发布国家人工智能研究与发展战略计划。 智能对未来学习的影响，特别是对人工智能生成的学生模在人工智能在教育中的应用方面，该计划强调改善教育机会 型和新的教学机会的影响。此外，这份文件强调，人工智能和生活质量。具体而言，它认为：(i)借助人工智能赋能的学习 可能会在系统层面上产生深刻的影响。它承认，在正在进行技术，可以普及自适应自动辅导；(ii)人工智能教师可以作为 的广泛变革，即第四次工业革命中，人工智能仅仅是一个方人类教师的补充，帮助提供适合个人的进阶性和辅导性学 面。为了应对这种情况，作者认为，必须重新思考教育在社

91、习；以 及( iii)人工智能工具可以促进所有社会成员进行终身 会中的作用、如何组织教育，以及教育应该解决哪些目标和学习并习得新技能。需求。2016年，韩国发布智能信息社会中长期准备计划，该计 2019年，马耳他启动“迈向人工智能战略”。该项目以三大划包括从2020年开始每年培训5,000名人工智能应届毕业 战略支柱为基础：( i) 投资、创业和创新；( ii)公共部门采用人工生，到2030年为其人才库新增50,000名人工智能专家。智能；以及( iii)私营部门采用人工智能，并以教育作为关键赋能领域。其中规定，国家教育体系必须28政策应对综述 人工智能与教育政策制定者指南表3：教育领域中人工智能相关政策指引概述方法独立式综合式专题式阿根廷“学习互联”（Aprender（阿根廷教育部，2017）Conectados）中国新一代人工智能发展规划普通高中信息技术新课程标准（中华人民共和国教育部，2017）高等学校人工智能创新行动计划（中华人民共和国教育部，2018）（中华人民共和国政府，2017）。爱沙尼亚欧盟“编程老虎”项目（ProgeTiger）（HITSA，2017）人工智能对学习、

92、教学和教育的通用数据保护条例（GDPR）（欧盟，2016、2018）影响（Tuomi，2018） 欧 洲 公 民 数 字 能 力 框 架 （DigComp）（Carretero等人，2017）马来西亚马耳他#我的数字创作器（#mydigitalmaker）（教育部和马来西亚数字经济公司，2017）迈向人工智能战略高级政策文件征求意见稿（马耳他政府，2019）韩国智能信息社会中长期准备计划（韩国政府，2016）新加坡CodeSG倡议发展全民计算思维（资讯通信媒体发展局，2017）阿拉伯联合 阿联酋人工智能战略（阿拉伯酋长国联合酋长国，2017）美国国家人工智能研究与发展战略计划（国家科技委员会，2016）不断变革以适应第四次工业革命的要求。如今有 2017年，阿根廷发起“学习互联（AprenderConectados） ”很大比例的儿童在会说话之前就学会了与电子设项目，旨在将数字学习融入各级义务教育。阿根廷计划到2019年前，实现编程和机器人技术在所有学校的推广和普及。该课程规定为学龄前儿童到中学生的各个年龄层次提供有针对性的学习能力方案，充分发展其通过单独和协作使用计算方法和技术解决问

93、题的综合能力。备进行熟练互动，并浏览移动操作系统。他们在成长过程中把技术视为生活中不可或缺的一部分。事实上，他们很少对“连接中断”这样的想法感到感伤，因为在他们所见的世界中，移动设备上始终联网且持续推送着个性化的内容。数字工具在马耳他的大多数学校都很普遍，学校教师会使用交互式白板和平板电脑来增强教育体验。然而.马耳他（还）必须考虑如何拓展课程本身，使儿童更好地做好准备，以适应由人工智能协助、支持和强化决策过程的未来工作场所。（马耳他政府，2019）专题式2016年，欧盟议会批准了通用数据保护条例（GDPR），并于2018年生效。制定该条例的目的在于：(i)协调欧洲各地的数据隐私法；( ii) 保护所有欧盟公民的数据隐私；以及(iii)重建欧洲各组织机构处理数据隐私的方式。综合式2 0 16 年 ，马 来 西 亚 启 动“ # 我 的 数 字 创 作 器 ” 2017年 ，欧 盟 推 出了 欧 洲 公民 数 字 能力 框 架 （#mydigitalmaker）倡议，将计算思维融入教学课程。该项 （“DigComp” ）（ Carretero等人，2017），其中将数字能力解释目倡导私营部

94、门、公共部门和学术界相互协作，以“帮助创 为包括下列内容：(i) 信息和数据素养；(ii) 交流与协作；(iii)数字建并鼓励设置与教育部设定的目标相匹配的数字制作课程” 内容创造；(iv) 安全性；(v)解决问题能力。（教育部和马来西亚数字经济公司，2017） （ Pedro等人，2019） 。29人工智能与教育政策制定者指南 政策应对综述2017年，中国推出普通高中信息技术新课程标准（中 发展，其中包括：( i)优化高校人工智能领域的创新体系；(ii)华人民共和国教育部，2017）。本文件提高学生的(i)信息意 完善人工智能人才培养体系；以及(iii)强化高校科技成果在识；( ii) 计算思维；( iii)数字学习和创新能力；以及(iv)信息社会 人工智能领域的应用。的责任。2017年，新加坡推出“CodeSG倡议发展全民计算思根据普通高中信息技术新课程标准的规定，信息通维 ”（ 新加 坡资 讯通 信媒 体发 展局 ， 2017）。该倡议强调从学信技术课程包括信息通信技术必修课程、选修课程一和选修课程二。信息通信技术必修课程包括两个模块：(i)数据与计算；( ii)信息系统和社会。

95、选修课程一由基本模块和应用模生幼年起即需要促进编程和计算思维，因为编程和计算思维在人们的日常生活和工作中发挥着越来越重要的作用。块组成。其中，基本模块包括：(i) 数据和数据结构，(ii) 网络 2012年，爱沙尼 亚 启动了由教育信息技 术 基 金会基础知识；和( iii) 数据管理和分析。应用模块包括：( i)应用程 （Hariduse Infotehnoloogia Sihtasutuse， HITSA）管理的“编序设计；( ii) 三维设计和创造性；( iii) 开放硬件项目设计。选修程老虎”项目（ProgeTiger），由爱沙尼亚教育和研究部资助。该计划将编程和机器人技术纳入学前、小学和职业教育的全国课程当中。课程二涉及算法基础知识和智能系统介绍。2018年，中国启动高等学校人工智能创新行动计划（中华人民共和国教育部，2018），旨在推动高校人工智能的5.2 共同政策关注领域从上述国家和区域政策来看，出现了四个主要关注 可以解决人工智能的潜在问题和影响的课程创新，以马领域：耳他的迈向人工智能战略 高级政策文件征求意见稿（马耳他政府，2018）为例，其中声明“马耳他的教育体系还

96、需要发展并适应第四次工业革命的要求”；管理数据和隐私的重要性（例如欧盟通用数据保护条例的规定）；为有效实施人工智能提供经济支持，如韩国为人工智能专业学生设立4,500个国内奖学金，同时承诺拨款约20亿美元设立6所人工智能研究生机构，投入400万美元用于人工智能研究。无论是对于人工智能技术还是数据，重视开放性的核心价值 有助于确保平等、普遍提供机会，弥合信息的不平等，促进增强透明度（联合国教科文组织，2019b） ；5.3 筹资、伙伴关系和国际合作为了最大程度地实现人工智能在教育领域发展的效 够的。相反，利益相关者还必须考虑应当使用哪些人工智能益，同时降低风险，必须做好全系统规划，开展关键评估， 技术，如何对其加以利用，以及它们真正能够实现什么样的采取集体行动，持续投入资金、执行有效且有针对性的研 目标。究，加强国际合作。然而，在现实情况中，已经做好此类规划北京共识人工智能与教育准备的国家或利益相关方则是凤毛麟角。真正积极参与技术对接、调动资源、确保人工智能在大规模学术研究的基础上得到应用的国家或利益相关方基本是屈指可数。大多数人还未认识到人工智能可能需要对学习方式进行根本性的改革，更不

97、用说会积极探索改革和创新。相反，讨论仍然停留在较为肤浅的层面。比如说，许多人认为学习的“个性化”是好事，但其定义较为含混；究竟是指为学习标准化内容制定个性化路线，还是指个性化的结果、能动性和自我实现？简单来说，仅仅认为人工智能应当用于教育环境显然是不37. 通过联合国教科文组织移动学习周等方式并借助其他联合国机构，为各国之间交流有关教育人工智能领域的监管框架、规范文本和监管方式提供适当的平台，从而支持在发掘人工智能潜力促进可持续发展目标4方面开展南南合作和北南南合作，并从中受益。38. 建立多利益攸关方伙伴关系并筹集资源，以便缩小人工智能鸿沟，增加对教育人工智能领域的投资。（联合国教科文组织，2019a，第10页）30政策建议 人工智能与教育政策制定者指南6.1 全系统愿景和战略优先事项确定人工智能与教育政策的全系统愿景促进本土化教育人工智能技术创新。在教育领域应用人工智能，主要目的应该是促进学习，使每名学习者都能开发个人潜力。这些政 策均应予以如实反映和支持。然而，各国如果想要克服在实现可持续发展目标4的过程中遇到的挑战，就需要调整政策，使之不仅仅局限于人工智能在教育领域的应用，将人

98、工智能与教育的所有关联考虑在内。这就意味 着要使人们了解人工智能如何运作，人工智能创造的过程，以及人工智能对当地和全球社会的广泛影响。评估全系统的准备情况，选择战略优先事项考虑教育政策规划战略优先事项之间的权衡关系，包括人工智能应用和其他优先事项之间的权衡关系，以及政策不同重点领域或构成部门之间的权衡关系：这种权衡关系的基础是认真审视人工智能技术在本土情况下有助于实现可持续发展目标的潜力，并辅之以投资要求，即在教育环境中实施以人工智能应用为中心的政策和方案。此后，分析现人工智能与教育政策的四大战略目标，须因地制宜地 有和新兴人工智能技术是否适合解决相关挑战，实现可持予以解释（即对于许多中低收入国家，关注点可能主要侧重 续发展目标4及其目标，以此确定战略优先事项。根据当地于确定人工智能准备情况的差距并着手解决，如基础设施 各个部门中发展人工智能技能和价值观的紧迫性，考虑其和资金方面的差距）：他可持续发展目标。应用或创建成本价值评估模式，评估实施人工智能政策和方案的教育效益（如提高效用、提高效率、扩大可及性）是否大于成本（如基础设施翻新、培训、整合以及信任降低和自主权的风险、内容质量低下、

99、滥用教育数据等）。确保人工智能在教育领域中应用的包容性和公平性；利用人工智能加强教育和学习；推动发展人工智能时代的生活技能，包括教授人工智能 示例的运作方式及其对人类的影响；全球人工智能战略态势探索50个国家人工智能战略打造人类未来的潜力：https:/ 2018） ： https:/www.fhi.ox.ac.uk/wp-content/uploads/Deciphering_Chinas_AI-Dream.pdf然而，人工智能并非灵丹妙药，还有许多需要商议的事情，也有不少挑战亟待解决。以下指导原则和政策建议还借鉴了北京共识（联合国教科文组织，2019a），该共识在北京举行的国际人工智能与教育会议（2019年5月16日至18日）上达成。基于全系统准备情况以及成本价值评估，确定政策的战略目标：应用或开发相关工具，评估全系统人工智能准备情况，包括基础设施；互联网连通性；数据、人工智能工具和本土人工智能人才的可用性；关键政策执行者的技能；以及利益相关者的认知情况。在确定时限性目标时，尽管本土人员配置水平、基础设施和流程方面存在系统性不足，但仍应确保实现人工智能系统的现实预期效益。教育范式的

100、概念性未知和局限可能影响人工智能系统的能力，对此应将其纳入考虑。缓解系统研究欠缺 对人工智能在教育中应用的据此，在阐明人工智能与教育政策的指导原则后，我们提出以下建议：跨学科规划和跨部门治理；确保公平、包容和合乎伦理地应用人工智能的政策；为教育管理、教学、学习和评估人工智能的使用制定总体 影响。规划； 示例全球人工智能准备指数： https:/bit.ly/2UR2HXp试点测试、监测和评估，并建立实证库；31人工智能与教育政策制定者指南 政策建议6.2 人工智能与教育政策的指导原则采用人本主义方法作为人工智能与教育政策的指导原则广泛树立企业和公民责任，以解决人工智能技术提出的关键社会问题（如公平性、透明度、问责制、人权、民主价值观、偏见和隐私）。确保将人始终置于教育的核心，将其作为技术设计的隐含部分；在尚未确定和补偿当前实践价值的情况下防止其自动执行任务。指导人工智能与教育政策的制定和实践，以期保护人权，确保公众具备可持续发展所需的价值观和技能，并在生活、学习和工作中进行有效的人机协同；确保人工智能由人控制，以服务公众为中心，旨在提高学生和教师的能力。以伦理、非歧视、公平、透明和可审

101、查的方式设计人工智能应用；并监测和评估人工智能在整个价值链条中对人和社会的影响。 示例人文主义人工智能项目法国人工智能战略：https:/www.aiforhumanity.fr/en/欧盟可信赖的人工智能伦理指南：https:/ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai培养人类价值观，开发和应用人工智能。在人工智能技术提高生产力的背景下，分析市场回报与人类价值观、技能和社会福利之间的潜在紧张关系。确定将人与环境置于效率之前的价值观，同时优先考虑人际互动，而非人机交互。经济合作及发展组织人工智能原则：https:/www.oecd.org/going-digital/ai/principles6.3 跨学科规划和跨部门治理调动跨学科和多方利益相关者的专业知识，为政策规 建立跨部门治理和协调机制划提供信息，并建设决策者的能力采用整个政府和全系统方法，规划和管理教育环境中为决策者和教育管理者提供知识并树立信心，从而了解 人工智能应用的政策：一致的全系统战略以及循证包容性人工智能日益丰

102、富的教育生态系统并做出决策：为决策者 方法（如参与式设计和共同创造框架，Pobiner和Murphy，（包括财务规划师、政策制定者和政策实施管理者）提供 2018），以确保人工智能与教育和现有教育政策及任何更广持续培训机会；促进国内外利益相关者之间就专业知识和 泛的国家人工智能战略相一致并融合；针对在整个教育系统最佳实践展开交流；引导利益相关者充分了解应利用人工智 或任何更广泛的跨部门战略中的人工智能应用，如果达成共能技术解决的教育难题。识，则考虑将人工智能在全系统改造中进行推广运用。 示例为政策治理和协调建立全系统的组织结构，以确保实施过程能够平衡自上而下和自下而上的方法，这涉及关键合作伙伴和利益相关者尽可能实现跨部门协作和资源共享。其中应包括一个中央管理委员会，负责指挥、支持和监督政策执行；一个协调机构，负责管理合作伙伴和协作；一个代表小组，负责执行政策。最为重要的是，应制定一套关于政策治理的综合原则，并始终如一地贯彻执行，让委员会能够行使所有权和问责制。人工智能要素课程：https:/汇集跨部门、跨学科和多方利益相关者的专业知识，为政策规划的关键决策提供信息：汇集不同研究界人士（

103、如神经科学、认知科学、社会心理学和人文科学的教育工作者、学习领域科学家和人工智能工程师等）的专业知识，设计出以用户为中心且基于结果的人工智能技术，以满足真正的课堂需求；联系各国际组织，为人工智能决策提供信息和建议；考虑人工智能的发展潜力，并结合和分析多种数据源，以改善决策效率。 示例澳大利亚：https:/education.nsw.gov.au/content/dam/main-education/teaching-and-learning/education-for-a-changing-world/media/documents/Future_Frontiers_discussion_paper. 示例pdf。欧洲人工智能联盟的人工智能高级专家组：https:/ec.europa.eu/digital-single-market/en/high-level-expert-group-artifcial-intelligence32政策建议 人工智能与教育政策制定者指南建立开放和迭代的循环，包括规划、实施、监测和更新 技术都是专有知识产权。采用共享数据和算法的开源代码政策的关键步骤

104、：此类步骤应形成持续的学习过程；监测 策略，培育本土创新能力，并缓解国家之间和学习者群体内和研究应整合到总体规划中，重点关注技能、知识和价值观 部的数字鸿沟。的具体成果和收益。监测和研究必须进行战略性沟通，并 示例通知决策者，以便反馈至有效且可靠的实证基础，以促进发全 球南营人 工智能目录，“Knowledge 4 All”基金会：https:/www.k4all.org/；展。政策执行过程必须允许审查和修改。X5gon项 目（跨模式、跨文化、跨语言、跨 领域和跨站点的全球OER网络）： https:/www.x5gon.org/；促进开源人工智能的本土化和重复利用，以孵化本土开发：根据具体的国家和文化背景，打造专门性的开源人工智日本“Society 5.0”： https:/www8.cao.go.jp/cstp/english/society5_0/index.html能工具和平台，这一点较为关键，这是因为很多的人工智能6.4 确保公平、包容和合乎伦理地应用人工智能的政策和法规制定跨部门的战略目标，规划规章制度和方案，确保 制定数据保护法律，确保教育数据的收集和分析过程可在教育中公

105、平、包容地使用人工智能见、可追踪，并可由教师、学生和家长进行审查：为谋求公共利益制定有关数据所有权、隐私权和可用性的明确政策。遵循专家组围绕更广泛的人工智能数据问题而制定的国际准则；并遵守国际公认的伦理规范。建立和监测可衡量的目标，以确保教学和开发人工智能服务的包容性、多样性和公平性：确定哪些人将从其实施活动中受益；加强适当的基础设施，如互联网接入、硬件和软件，以便公平地利用教育人工智能所带来的效益。采取措施使之社会最脆弱群体接触；专注于具有可靠业绩记录的教育行业人工智能，其中涵盖不同背景和能力的学生。 示例自2018年5月25日起适用于所有欧盟成员国的通用数据保护条例，以协调整个欧洲的数据隐私法律：https:/gdpr-info.eu/； 示例欧盟可信赖的人 工智能伦理指南：https:/ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai数字孟 加拉国：https:/a2i.gov.bd调查在开放获取和数据隐私之间实现平衡的方案：测试和采用新兴的人工智能技术和工具，以确保教师和学生的

106、数据隐私权和安全性。制定全面的监管框架，以保证学习者以伦理、非歧视、公平、透明和可审查的方式使用和重复使用数据。审查人工智能减轻或加重偏见的能力：揭示未知的风险，并减轻此类风险；测试人工智能工具，并确认其并不存在偏见（Pennington， 2018），且已接受有关多样化（性别、残疾状况、社会和经济地位、种族和文化背景以及地理位置等）数据代表性的培训。培养重视公平、公正人工智能的理念，尊重这种多样性。激发一种设计方法，将伦理、隐私和安全融入到教育领域人工智能的研究和开发中。促进有关人工智能伦理、数据隐私和安全性问题的公开讨论，以及关于人工智能对人权和性别平等负面影响的关注：确保人工智能用于积极善意的方面，防止有害应用。解决知情同意的复杂问题特别是在不少使用者无法真正给予知情同意的情况下（如有学习障碍的儿童和学生）。创建无性别偏见的人工智能应用程序，确保用于开发的数据具有性别敏感性：激励促进性别平等的人工智能应用程序；赋予妇女和女孩人工智能技能，以促进劳动力和雇主实现性别平等。 示例DataKind，倡导社会组织应与大型科技公司一样可以获得数据科学资源：https:/www.dataki

107、nd.org 示例联合国教科文组织的出版物如果我能，我会脸红 （ IdblushifIcould），其中就阐述了消除不同性别之间的数字技能差异策略：https:/unesdoc.unesco.org/ark:/48223/pf000036741633人工智能与教育政策制定者指南 政策建议6.5 在教育管理、教学、学习和评估中使用人工智能的总体规划利用人工智能促进和提升教育管理和供给培养以学习者为中心的人工智能应用，以加强学习和评估探索人工智能技术如何能够改进教育管理信息系统（EMIS） ： 利用人工智能使教育管理信息系统更加稳定可 在机器和计算机代理知识日益丰富的背景下，强化和重靠、便于访问、精简、功能强大、用户友好且高效。使循证决 申人类对自身学习的权威和自主性：询问教师和学生对人策和管理朝着更加灵活、动态化和民主化的过程发展，数据 工智能技术的看法，并根据反馈意见确定如何在学习环境流的发展更能适应社会和教育模式的变化。投资于可以利 中部署人工智能。让学生了解收集到的数据类型，如何使用人工智能能力的方案，实现对技能和需求的全系统预测， 用这些数据，以及这些数据可能对学生的学习、职业和

108、社使政府能够做好满足当地相关教育需求的准备，并将其与 交生活产生的影响。防止机构将人工智能技术用于监控目金融、经济、法律和医学等部门相结合。的 相反，应当树立学生之间的信任，并使用人工智能敦促学生取得进步，而不是增加监视。 示例开放大学的OU分 析，通过分析该大学教育管理信息系统的大数据，预测学生成绩，并找出存在考试不及格风险的学生：https:/analyse.kmi.open.ac.uk在整合人工智能工具的过程中，强调学生的能动性与社会福祉：保护学生作为个体成长的能动性和动力；保护游戏和休闲时间、社会互动和学校休息时间。使用基于人工智能的工具，尽量减轻家庭作业和考试的压力，而不是徒增压力。支持学生适应新的人工智能工具和方法，以便此等工具和方法能够对其学习产生积极的影响；让学生认真观察在课堂上使用人工智能所带来的挑战，并给予反馈。实现教育管理信息系统的整体转型及其与学习管理系统（LMS）的整合：确保教育管理信息系统根据人工智能赋能教育所引发的变化而相应做出调整，提供将学习管理系统与教育管理信息系统集成的手段，从而助力其朝着更综合、更丰富、更全面的评估方式发展。 示例科大讯飞研发的智能

109、儿童关爱机器人阿尔法蛋 (AlphaEgg): 示例https:/ifworlddesignguide com entry 203859 alphaegg；./-The CoWriter：利用机器人学习提升写字水平，由瑞 士洛桑联邦理工学院CHILI（学习和教学中的人机交互）开发：https:/www.epfl.ch/labs/chili/index-html/research/cowriter； https:/ 示例数字教育（Digital Education)，面向所有阿根 廷学生的编程和机器人技术教育：https:/www.argentina.gob.ar/educacion/aprender-conectados/nucleos-de-aprendizajes-prioritarios-nap 示例LabXchange由安进基金会和哈佛大学文理学院联合推出，是免费的在线科学教育平台，为用户提供个性化教学、虚拟实验室体验，以及与全球科学界建立联系的机会：https:/ 人工智能与教育政策制定者指南于规则”的封闭式问题的回答，在采用基于算法的自动评分 术研究的简化指南，使教师随时掌

110、握可在课堂环境中应用时，应要谨慎；支持教师使用基于人工智能的形成性评估， 的最新成果，并增加教师终身学习的机会，紧跟课堂内外人将其作为人工智能赋能学习管理系统的集成功能，以更高 工智能所带来的变化。的精度和效率分析学生学习的数据，并减少人为偏见。挖掘 示例基于人工智能的渐进式评估潜力，为教师、学生和家长提供联合国教科文组织教师信息与通信技术能力框架：https:/unesdoc.unesco.org/ark:/48223/pf0000265721；定期更新。从人性化的角度，测试并评估在远程在线考试中使用人脸识别和其他人工智能技术进行用户认证和监考的K-12教育中的人 工智能资源，国际 教育技术协会（ISTE）： https:/www.iste.org/learn/AI-in-education效果。 部分示例基于人 工智能的评 估系统：https:/ 部分示例新加坡政府的技能未来（SkillsFuture）倡 议：https:/www.skillsf uture.gov.sg；新加坡的开放认证（OpenCert），支持验证任何机构颁发的终身学习证书：https:/opencerts.i

111、o解决不同年龄群体在获得人工智能方面的不平衡问题：为最弱势群体（包括老年人）发起倡议活动，消除门槛，激发不同年龄和背景的学习者对人工智能的兴趣。确定教师所需的技能，以便于其在设计和组织学习活动以及自身专业发展中，搜寻和应用人工智能工具：分析教学环境中人机协同所需的技能。在将人工智能应用于教师职业发展、管理基于人工智能的评估以及设计和实施人工智能强化学习活动时，应评估所需的模式变更。参考联合在人工智能时代培养生活和工作的价值观和技能国教科文组织教师信息与通信技术能力框架（教科文组 建立预测模型，以确定就业和技能发展趋势，为面临人织 ，2018），更新教师框架和培训计划。工智能自动化风险的工作制定再培训方案：确定工作自动化的社会成本，提高公众对由此产生的国家和全球技能需求变化的认识。将全国的重点放在强化各级教育中面向未来的技能；提供技能再培训的途径，培养劳动力的适应力，以应对劳动力市场的系统性和长期转型。为年长工人提供特殊保护，因为年纪越大，学习新技能和适应新环境的能力就越弱。鼓励培训方案纳入对人工智能如何影响各职业的关注。提供培训，确保持续支持，帮助教师获得有效使用人工智能的技能：在部署

112、人工智能平台或工具之前，制定并提供规定技能的培训计划；防止出现由于人工智能功能不可用或不可靠而导致教师无法履行其职责的情况。提前计划，确保教师能够将人工智能新技术应用到其当前的实践中，并过渡至新的工作方式；鼓励形成教育者社区，分享经验和日常最佳实践，并促进人工智能工具的创新使用。提供基于新兴技35人工智能与教育政策制定者指南 政策建议合新兴人工智能素养技能与现有基础技能，如媒体和信息素养，确定如何合并不同的必要素养，防止课程负担过重。 示例欧洲职业培 训开发中心（CEDEFOP）技能预测：欧盟技能预测和准备工具：https:/www.cedefop.europa.eu/en/publications-and-resources/data-visualisations/skills-forecast 示例百分 之一（1 Percent） ： 芬兰计划为其民众提供人工智能培训 ：https:/www.politico.eu/article/finland-one-percent-ai-artifcial-intelligence-courses-learning-training/将人工智

113、能相关技能纳入学校课程以及技术和职业教育与培训（TVET）资 格：修改课程，使学生为未来做好准备，确保这些改变与经济、劳动力市场和社会在所有学科和能力方面的变化相关联。制定课程、项目和资格鉴定方案，围绕人工智能技术如何运作、其伦理含义以及人工智能技术的设计方式，普及相关认识和专业知识。以教学研究和完善的方法论为基础，支持开发学习人工智能的工具。帮助高等教育和研究机构培养本土人工智能人才：制定计划，帮助高等教育和研究机构建立或强化培养本土人工智能人才的计划，并创建性别均衡的人才库，且存储的人才来自不同的社会经济背景，并具备设计人工智能系统的专业知识。开发专业硕士课程，重新培养人工智能工程师，并鼓励工程公司投资对劳动力进行人工智能再培训。 示例Wekinator是由Rebecca Fiebrink创建的免费开源软件，用户可以使用机器学习构建新乐器、手势游戏控制器以及计算机视听系统：http:/www.wekinator.org/留住本土人工智能人才：激励人工智能公司立足本土发展；缓解工资与报酬的地区间差异；提供有意义的智力挑战，良好地平衡工作和生活之间的关系，从而留住人工智能专业人员。Te

114、aching AI fo r K12，由联合国教科文组织和爱立信创建的门户网站，提供免费资源的链接，教师可以使用此类资源教授人工智能，还可以查询有关人工智能的部分信息：http:/teachingaifork12.org 示例“下一代人工智能（Next AI） ” 是在加拿大多伦多和蒙特利尔的校园内开展的项目，旨在找到高素质的团队，利用加拿大的资源，为他们提供必要的资本、指导、教育和网络：https:/ , . . / / -5 000名人工智能学生：https:/www ecns cn 2018 0407/298280.shtml6.6 试验、监测和评估，建立实证库 示例建立可信的实证库，支持AI在教育中的应用ITalk2Learn是为期三年的欧洲合作项目（2012年11月-2015年10月），旨在开发开源智能指导平台，为5至11周岁的学生学习数学提供支持：https:/ 励采用促进学习环境开放性、探索性和多样性的人工智能工具。培养广泛的、可调动的能力，包括社交情感技能、元认知、协作、解决问题和创造力。确保人工智能在教育中的应用具有战略性（即具有长期的教学目标），而非短期的或临时的。

115、英国的FractionsLab，打造探索性学习环境，利用人工智能驱动的反馈，教导分数的学习：http:/fractionslab.lkl.ac.uk；由中国乂学教育集团开发的松鼠AI学习，基于模式识别算法的自适应学习引擎：http:/ ；https:/ tists.org，提 供 生 成 人 工智 能艺 术的创 造 性 工具 ：https:/aiartists.org/ai-generated-art-tools36政策建议 人工智能与教育政策制定者指南根据以往教学研究和方法的经验，建立人工智能特定标 审查人工智能对教育的全面影响：利用研究和审查过准，以系统和严格地验证供应商关于人工智能潜力的声明： 程，充分了解将人工智能纳入当地教育环境之后所产生的社制定人工智能具体标准，解决人类、社会和伦理关注问题， 会和伦理影响；对未知挑战和风险进行批判性审查，包括师这些问题与在教育中应用人工智能的三大核心组成部分相 生合作以及学生之间的协作关系发生的变化、社会动态变关，即数据，算法分析和教育实践。化等等。促进人工智能系统的本土试点评估，评价其相关性和有 鼓励投资并提供有针对性的资金，以便为教育领

116、域的人效性：对外部供应商提供的人工智能系统设计并实施大规 工智能构建循证生态系统：激励和支持商业部门和高校开模试点评估方案。测试其是否与当地环境相关，在教育实 展人工智能应用程序的研究和开发，增强当地的知识技能，践、目标、多样性、文化和人口统计方面是否卓有成效。利用 同时尽量减少既得利益的影响。结果来定制人工智能系统的数据、设计和集成，以响应本土在政府主导和企业主导发展领域以外的领域，为人工需求。监控系统的应用，以防止发生利益或合作冲突，以及智能与教育的研究提供资金并采取激励措施：在研究和高与数据保护或所有权相关的分歧。校环境中，保护本土人工智能教育专业知识的发展和拓展，计算并分析大规模利用人工智能技术的环境成本：制定 并尽量减少既得利益对人工智能开发内容或其评估方式的人工智能公司要达到的可持续目标，以避免造成气候变化 影响。和对自然环境的破坏。鼓励采取环保的方式，为大规模人工 示例智能部署而生产所需的能源和资源。由联 合国教科文 组 织 支 持的国际 人 工智能 研究中心（IRCAI） ，其任务是进行人工智能的研究、宣传、能力建设和信息传播：https:/ircai.org/加强人工智能与教育领域的研究和评估利用人工智能促进和改进教育研究和创新：利用人工智能数据收集的实践和方法，以改进教育技术研究。从成功的案例中吸取经验，扩大循证实践。6.7 促进本土化教育人工智能技术创新 示例促进本土人工智能技术在教育领域的发展IBM非洲研究实验室（IBM Research-Africa）是IBM的第12个全球研究实验室，也是非洲大陆上的首个工业研究机构。该实吸引企业投资，提供资金，创建实证库：激励和支持开发以人为本的人工智能教育工具，聚集学习者、资助者、商业开发者、教育工作者和学习领域科学家，以应对市场失灵、全球教育实践的复杂性，以及推广各倡议计划所面临的挑战。验室通过开发可行的解决方案来推动创新，改变人们的生活，并在教育等关键领域创造新的商业契机：https:/

《人工智能与教育报告：政策制定者指南》由会员re****.1分享，可在线阅读，更多相关《人工智能与教育报告：政策制定者指南》请在金锄头文库上搜索。