ChatGPT教育应用的伦理风险与规避进路

智能时代ChatGPT强势崛起，生成式人工智能惊艳大众，引领人工智能走向场景落地，为教育领域变革带来巨大机遇。ChatGPT为教育创造有益价值的同时，也带来一系列伦理风险。本文阐述了ChatGPT的发展脉络和内涵特征，揭示ChatGPT教育应用存在的伦理风险，包括：数据隐私的泄露与滥用、机器算法的歧视与偏见、师生关系的弱化与破坏、学术公平的失信与失衡。本文从博弈论视角出发，从道德伦理角度剖析“教育-ChatGPT”之间的最优关系，提出ChatGPT教育应用伦理困境的规避建议：唤醒大众意识与保护数据隐私，警惕惯性认知与防范算法偏见，把握任务重心与调节师生关系，规训道德行为与重塑学术公平，以此增强“教育-ChatGPT”的应用价值利益，共建教育人工智能伦理规范，促进教育人工智能理性发展。     

生成式人工智能教育:关键争议、促进方法与未来议题——UNESCO《生成式人工智能教育和研究应用指南》报告要点与思考

目前我国生成式人工智能教育应用研究理论层面存在顶层设计缺乏、监管框架缺位、政策框架缺失等问题,实践层面缺少相对科学完善的应用指南、监管认证工具、创新实施方法和行动措施,严重削弱了生成式人工智能技术全方位赋能教育数字化转型的能力,制约着生成式人工智能与教育和研究融合创新发展的进程。文章采用文本分析和内容分析法,介绍了联合国教科文组织《生成式人工智能教育和研究应用指南》的发布背景和研究目的,从人本主义批判视角探究生成式人工智能引发的争议和伦理风险,构建了生成式人工智能教育和研究应用的政策框架,提出了生成式人工智能教育和研究创新应用的促进方法和未来关注议题。文章最后结合我国生成式人工智能教育和研究政策规划制定进行了思考,以期为我国加速推进教育数字化,推进生成式人工智能与教育和研究深度融合提供参考。     

人工智能赋能思想政治教育的伦理风险及规避路径

人工智能赋能思想政治教育是智能科学应用技术发展的必然,为思想政治教育带来了广阔发展前景。但人工智能赋能思想政治教育的同时还隐匿着伦理风险,呈现出主体地位消解与情感疏离、算法推荐与学生个性发展异化、个人隐私泄露与权责不清等多方面的伦理风险样态。其生成原因在于其与相关主体的技术素养欠缺、人工智能算法技术自身的局限、伦理制度和政策法规的滞后等有着密切关联。为防范和规避这些风险,需要“以人为本”构建新型师生伦理空间、“以术为用”增强智能思政的技术治理、“以法为界”构建智能思政大数据责任伦理规制,推进做好人工智能赋能思想政治教育伦理风险的防范工作。     

人工智能教育应用中的伦理风险及其规避

随着物联网、大数据、量子计算等科技的快速发展,人类进入人工智能时代。智能时代,智能技术与教育的不断融合,在为教育带来便捷、培养时代新人的同时,也衍生出复杂的伦理问题。人工智能教育应用中的伦理风险主要表现为：“我—他”师生的传统伦理关系错乱、数据壁垒和鸿沟带来的合法权利丧失以及确定性算法和不确定性发展之间的伦理背离。究其原因,与“一切皆技术”的算法崇拜主导着当前的人工智能教育应用,人工智能教育应用与固有制度观念的时空分离以及人工智能教育应用中的多元主体责任壁垒密切相关。为合理规避这些伦理风险,促进其可持续健康发展,应坚持“以人为本”的教育理念,建立系统完善的学生隐私保护规制,构建各责任主体共同参与的人工智能教育应用制度体系。     

生成式人工智能教育应用风险及其规避——基于教育主体性视角

以ChatGPT为代表的生成式人工智能产品广泛应用于教育，技术客体在今日以生成式人工智能的形态向人类中心主义的知识和教育体系提出挑战，由此引发的主体性之痛逐渐显现。生成式人工智能的教育应用将在一定程度上引发主体思想的“工业化”、主体交互的“规训化”、技治主义的“宿命化”，进而遮蔽与压抑教育中的人、教育活动、教育系统的主体性。规避生成式人工智能的教育应用风险，超越教育的主体性之痛，可能的实践理路包括：坚守主体教育实践的理性遵循，培育教育主体的数字素养；构筑生成式人工智能教育应用的责任伦理体系，实现人与技术的共鸣；建立生成式人工智能教育应用的监管机制，提升教育系统的自我治理能力。     

生成式人工智能应用于学术研究的风险及其预防机制

生成式人工智能是利用计算机模拟人类的智能行为所开发的相应实践理论与技术,其在各个领域的爆发应用为未来人类的发展提供了无限的想象空间,与此同时,虚假信息、学术伦理、劳动替代等问题也引发全球热议。实践地看,生成式人工智能在当前的学术研究中可能存在人文性缺失、科学性缺失、依赖性成瘾、原创性与批判性缺失等风险。为更好地将人工智能应用于学术研究并使其得到可持续发展,需要规范生成式人工智能使用,助推学术研究的向善发展;优化生成式人工智能参数,鉴别学术研究伪成立性;调控生成式人工智能发展,加强学术研究的前瞻预防。     

人工智能驱动教育变革的伦理风险及其解蔽之路

人工智能驱动教育变革给教育带来双重影响,使教育中的机会与风险共存。尽管人工智能技术给教育带来强大优势,能够增强教育主体的能力、记录完整的教育信息、推动人的个性发展、以及提高教育效率。但随着技术向度的增强与工具理性思维的介入,这一过程也面临不同维度的伦理风险。人工智能驱动教育变革的伦理风险主要表现为主体风险、安全风险、算法风险和技术滥用四方面。解蔽人工智能裹挟下的四重风险,推动人工智能技术在教育变革中的价值实现,需回归以人为本的价值理念,强化教育主体地位;建立依法规约的伦理体系,加强信息安全管理;遵循算法使用的伦理准则,促进个体生命发展;内化德性为先的伦理意识,健全技术变革边界。     

生成式人工智能赋能学习型社会建设之图景：维度、风险与路径——基于UNESCO《生成式人工智能教育和研究指南》解读

随着数字化技术的不断发展,生成式人工智能在教育数字化中的应用越来越广泛,并为学习型社会建设与终身教育带来更多的可能性和机遇。本研究梳理了生成式人工智能赋能学习型社会建设的内容框架、功能结构和逻辑关系,结合UNESCO《生成式人工智能教育和研究指南》和我国终身教育实践,剖析生成式人工智能赋能学习型社会建设的潜在风险,提出统一原则、政策治理和创造应用三大基本路径,以期促进学习型社会的高倍速建设与全面发展。     

从“失序”到“有序”:生成式人工智能教育应用的转向及其生成机制

当教育者以批判性逻辑和局域经验性认知为基础,将注意力放在ChatGPT等生成性人工智能的异化利用上时,可以很轻易地挖掘其所引发的教育质量失控、运行失序、伦理失调、认知浅化、创新堕化等外在异己性风险,成为自觉公开或隐蔽抵制的“技术幽灵”,容易形成一种基于自我选择和自我强化的新的不平等。从ChatGPT等生成式人工智能所呈现的强情境化、重整合化、凸显个体差异性和内蕴批判精神的特征来看,生成式人工智能能为学习者重构空间、重建内容、重塑能力、重调过程、重建评价等,为破解单一知识来源、冲击标准化场域、打破封闭式教学和突破外在表现评价等教育异化现象提供“解决工具”。ChatGPT等生成式人工智能的教育应用“利好”转化需要以理想课堂建构为追求,建构人与ChatGPT等生成式人工智能工具实现共生成长的生成机制。对此,基于动机类别和联结机会,将生成式人工智能教育应用的转化机制区分为顺应型机制、响应型机制、主动型机制和建构型机制,旨在针对不同类型的动机和联结机会,促进生成式人工智能的科学应用,实现生成式人工智能从“失序”到“有序”的应用转变。     

ChatGPT在教育领域的应用价值、潜在伦理风险与治理路径

ChatGPT的快速发展和广泛应用将促进教育变革与创新，同时也带来了新的伦理问题。作为内容生成式产品，ChatGPT在教育领域的应用提高了学生的实践创造力，增强了学生的认知主动性，加强了学生选择的自主权，促进了减负增效，但也面临人工智能依赖下思考力丧失的主体伦理问题、师生交往异化与情感缺失的关系伦理问题、知识盲区与信息茧房的算法伦理问题，以及教育不公与权责不清的资源伦理问题。为此，需要推进教育理念变革以巩固学生的主体地位，建立新型师生关系增强师生心灵沟通的力量，构建算法伦理全过程监管体系以及ChatGPT教育应用的风险治理体系，推进智能技术在教育领域的合理应用。     

推动人工智能向善发展：教育与人工智能共同的责任

人工智能的迅速发展正深刻改变人类的生产方式、生活方式和学习方式,对教育产生深度影响,而现阶段生成式人工智能工具在教育领域广泛应用,给教育带来新的道德伦理问题。该文首先从人工智能快速发展引发更加复杂的道德伦理问题和人工智能道德伦理是人类道德伦理价值体系新组成两方面给出人工智能延展人类道德伦理范围。再从人工智能教育应用伦理风险、教育人工智能伦理治理现状、教育人工智能伦理需解决问题等三个层面阐述了教育人工智能应用伦理风险与治理。再次从核心素养培养、规范应用监管、道德伦理框架、技术规范研制等四个维度给出人工智能向善发展的建设路线。最后,给出五条发展建议：加强顶层设计,系统规划总体框架;重视育人为本,创新发展人工智能课程;遵循治理原则,促进技术向善赋能;明确价值准则,助力人机相融共进;加快标准制定,规范教育人工智能实践。以期推动人工智能向善发展,赋能、赋智教育,促进教育数字化转型,构筑智能时代的人类命运共同体。     

人工智能在教育应用中的伦理风险与理性抉择

教育是人类社会文明发展的重要领域,人工智能在教育领域的应用,对教育产生了革命性的影响;同时,也给教育伦理带来了一系列风险和挑战。人工智能在教育应用中导致的伦理困境和可能面临的伦理风险,主要表现在人工智能与教育主体的权利嬗变、算法推荐与学生个性的发展异化、人工情感与人机互动的情感危机、智能感知与教育数据的价值困境这四个方面。为了防范和消除这些伦理风险,“以人为本”“以德为先”“以法为界”是人工智能在教育应用中的理性选择,教育责任则是“可信赖的人工智能应该做什么”伦理准则的实践指向。     

生成式人工智能时代意识形态图景与思想政治教育前瞻探路

随着具备自然语言生成能力的ChatGPT的诞生,新一代生成式人工智能在全球大规模流行,成为不容忽视的社会现象。在生成式人工智能广泛流行的时代,意识形态图景随之发生深刻变革。具有特定价值倾向的内容生产,伦理道理秩序的严重冲击,新闻舆论安全的动摇,是生成式人工智能给意识形态领域带来的主要风险挑战。在大学生思想政治教育方面,沉迷ChatGPT等生成式人工智能,会导致大学生学术科研事业荒废、受生成内容负面价值观“污染”,不利于他们形成健康的友情观和爱情观,甚至还会造成心理问题和精神危机。国家力量要及时介入,强化主流意识形态价值引领;要形成企业、政府、用户及ESG评级机构多方合力的全流程监管,重视优质内容生产;要切实加强多样化场景运用,发挥生成式人工智能对思想政治教育的赋能增效作用。     

国际人道法对网络攻击中生成式人工智能的适用探究

生成式人工智能具有远超人类的分析和决策能力,其与网络攻击的结合是夺取网络优势的强大手段,这种结合带来的风险亟待法律为其建章立制。国际人道法的适用符合网络空间中生成式人工智能的发展需要,《第一附加议定书》第36条和国际法院咨询意见为国际人道法的适用提供了法理依据。生成式人工智能的网络攻击行为应当受国际人道法区分原则、比例原则、军事必要原则和马尔顿条款的规制。而网络空间会加剧生成式人工智能的不可控性,国际人道法显然难以满足这种规制需要,国际社会有必要完善现有机制以应对网络攻击中生成式人工智能带来的挑战。     

基于生成式人工智能的美术教学理念与设计研究

随着以ChatGPT为代表的生成式人工智能技术的普及,如何科学合理地应用生成式人工智能提升课堂的效率与效果成为信息化教学的热点问题。文章通过对中小学美术教学的现状和问题进行分析,对生成式人工智能应用于美术教学的主要方向进行了阐述,并结合小学美术《我的新朋友》一课,具体设计了一堂生成式人工智能辅助下的美术课,以期为开展人工智能赋能美术的相关实践提供参考。     

生成式AI技术助推人力资源管理的转型前景和潜在风险——基于ChatGPT技术的应用场景视角

以ChatGPT为代表的生成式AI的崛起是人工智能领域的一次重大变革，伴随着类ChatGPT技术强势介入人力资源生态圈，如何利用好这把“双刃剑”来有效助推人力资源管理变革需要全面冷静的思考。研究以ChatGPT等生成式AI为主要研究对象，基于其核心特征，探讨在人才招聘选拔、员工培训与发展、员工体验提升、人才画像分析、赋能绩效管理和雇主品牌建设等方面的应用前景。在此基础上，本研究进一步探讨了ChatGPT在人力资源管理中的应用可能引发的风险，即工作替代与岗位流失、用户隐私泄露风险、信息滥用与虚假操纵、决策误导与生成偏差，以及数据安全与网络风险。面对ChatGPT可能引发人力资源的深刻变革，人力资源领域应主动吸纳ChatGPT带来的创新动能，建立科学的生成式AI规范框架和管理体系。     

生成未来：教育新视界中的人工智能与高等教育变革——《2023地平线报告（教与学版）》的解读

全球教育领域正在经历一场由人工智能,尤其是生成式人工智能所引发的深刻革新。EDUCAUSE《2023地平线报告（教与学版）》聚焦生成式人工智能影响下全球高等教育发展的趋势与挑战,阐述影响未来高等教育领域的社会、技术、经济、环境、政治维度的宏观趋势,分析“支持预测和个人学习的人工智能应用”“生成式人工智能”“模糊学习边界”“灵活学习”“微认证”和“支持学习者归属感和联结感”这六项关键技术与实践。基于对报告内容的分析和思考,未来我国高等教育应充分把握智能时代和生成式人工智能发展的机遇,积极应对教育生态系统重构、师生数字能力发展、灵活化学习模式和情感联结智能技术发展的挑战,通过技术赋能加快推动高等教育的变革和创新。     

人工智能应用背景下数字教材编制的伦理危机及其治理

人工智能技术融入数字教材编制,能够有效解决技术呈现和受众认知间的冲突。但是,人工智能技术加持之下的数字教材编制,可能遭遇课堂规范与责任伦理弱化、系统化教材知识体系解构、教材目标定位泛化、数字化资源运用易引发法律风险隐患等伦理危机。以伦理视角对智能技术融入数字教材编制进行审视,应遵循技术向“善”和“人”的发展融合的价值诉求,重视数字教材编制主体多元协同和融通的关系诉求,坚守数字教材编制体系“三性”融汇的内容诉求。因此,化解人工智能融入数字教材编制伦理风险,应立足于建构人工智能的伦理准则和技术责任制度,明确人工智能教育应用的伦理规范与技术责任,重拾“以人为本”的数字教材编制教育价值理念,动态监控智能技术融入数字教材编制全过程,充分审视智能技术融入数字教材编制的设计机理和强化智能技术融入数字教材编制的制度建设。     

算法公平：教育人工智能算法偏见的逻辑与治理

算法公平被视作人工智能领域的核心伦理问题。教育人工智能同样面临算法偏见、算法歧视等伦理风险。通过系统性回顾2013—2023年教育人工智能算法偏见的57篇文献，本研究发现，从总体架构看，教育人工智能算法偏见研究主要分概念性理论研究、教育场景应用研究与算法检测设计研究三类；从以算法偏见为核心厘清算法伦理风险、算法歧视、教育公平三层概念的逻辑层次看，研究样本在算法偏见的种类、成因和治理原则与方法方面存在共性和明确的指向。本研究最后以种类和成因为基础，提出未来教育算法偏见研究的五个方向，以期促进教育的算法公平，优化人工智能教育应用环境，推动教育人工智能生态系统的健康发展。     

生成式人工智能教育创新应用的人本主义追求——对UNESCO《教育与研究领域生成式人工智能指南》的解读

2023年9月,联合国教科文组织发布《教育与研究领域生成式人工智能指南》。该指南特别强调将人本主义作为生成式人工智能（GenAI）的价值旨归,可以视为GenAI在教育领域创新应用的有益探索和先声回应。《指南》包括的6部分内容从风险与挑战、策略与调控、突破与尝试三个维度展开,依次系统分析了GenAI在教育及科研环境中的潜在风险与挑战,设计了全面的治理策略与政策调控方案,并探索了GenAI的教育创新应用。纵览该指南发现,无论是从教育理念到具体实践,抑或是从社会责任到人的发展,GenAI与教育的深度耦合均以“人本”为最终旨归与核心要义。该指南对我国教育数字化转型具有四重启示：理念层面上,GenAI应促进以人为本的教育发展,确保其先进技术的红利能够普惠所有学习者;实践层面上,GenAI应更加贴合人的自然认知和发展规律,确保其服务于教育的核心价值;社会层面上,GenAI应逐步完善伦理准则和法律框架,应对其带来的社会责任与伦理挑战;人本层面上,GenAI应凸显人的主体角色,确保其有助于培养学生的批判性思考能力,并尊重文化和个性的多样性。