人工智能赋能思想政治教育的伦理风险及规避路径

人工智能赋能思想政治教育是智能科学应用技术发展的必然,为思想政治教育带来了广阔发展前景。但人工智能赋能思想政治教育的同时还隐匿着伦理风险,呈现出主体地位消解与情感疏离、算法推荐与学生个性发展异化、个人隐私泄露与权责不清等多方面的伦理风险样态。其生成原因在于其与相关主体的技术素养欠缺、人工智能算法技术自身的局限、伦理制度和政策法规的滞后等有着密切关联。为防范和规避这些风险,需要“以人为本”构建新型师生伦理空间、“以术为用”增强智能思政的技术治理、“以法为界”构建智能思政大数据责任伦理规制,推进做好人工智能赋能思想政治教育伦理风险的防范工作。     

人工智能在教育应用中的伦理风险与理性抉择

教育是人类社会文明发展的重要领域,人工智能在教育领域的应用,对教育产生了革命性的影响;同时,也给教育伦理带来了一系列风险和挑战。人工智能在教育应用中导致的伦理困境和可能面临的伦理风险,主要表现在人工智能与教育主体的权利嬗变、算法推荐与学生个性的发展异化、人工情感与人机互动的情感危机、智能感知与教育数据的价值困境这四个方面。为了防范和消除这些伦理风险,“以人为本”“以德为先”“以法为界”是人工智能在教育应用中的理性选择,教育责任则是“可信赖的人工智能应该做什么”伦理准则的实践指向。     

人工智能应用背景下数字教材编制的伦理危机及其治理

人工智能技术融入数字教材编制,能够有效解决技术呈现和受众认知间的冲突。但是,人工智能技术加持之下的数字教材编制,可能遭遇课堂规范与责任伦理弱化、系统化教材知识体系解构、教材目标定位泛化、数字化资源运用易引发法律风险隐患等伦理危机。以伦理视角对智能技术融入数字教材编制进行审视,应遵循技术向“善”和“人”的发展融合的价值诉求,重视数字教材编制主体多元协同和融通的关系诉求,坚守数字教材编制体系“三性”融汇的内容诉求。因此,化解人工智能融入数字教材编制伦理风险,应立足于建构人工智能的伦理准则和技术责任制度,明确人工智能教育应用的伦理规范与技术责任,重拾“以人为本”的数字教材编制教育价值理念,动态监控智能技术融入数字教材编制全过程,充分审视智能技术融入数字教材编制的设计机理和强化智能技术融入数字教材编制的制度建设。     

人工智能驱动教育变革的伦理风险及其解蔽之路

人工智能驱动教育变革给教育带来双重影响,使教育中的机会与风险共存。尽管人工智能技术给教育带来强大优势,能够增强教育主体的能力、记录完整的教育信息、推动人的个性发展、以及提高教育效率。但随着技术向度的增强与工具理性思维的介入,这一过程也面临不同维度的伦理风险。人工智能驱动教育变革的伦理风险主要表现为主体风险、安全风险、算法风险和技术滥用四方面。解蔽人工智能裹挟下的四重风险,推动人工智能技术在教育变革中的价值实现,需回归以人为本的价值理念,强化教育主体地位;建立依法规约的伦理体系,加强信息安全管理;遵循算法使用的伦理准则,促进个体生命发展;内化德性为先的伦理意识,健全技术变革边界。     

“智能+教育”：应用场景、风险挑战与治理对策

在人工智能技术赋能教育已经成为共识的大背景下,人工智能并未如预期的那样完美地促进教育高质量发展。本文从研究“智能+教育”的典型应用场景出发,分析“智能+教育”广泛应用面临的数据基础、制度规范、道德与伦理约束、社会关系异化等带来的风险挑战,然后,基于在教育领域广泛应用人工智能助推教育高质量发展的需求,探讨通过重视顶层设计、加强数据治理、提升技术能力、强化法理研究、加强智能素养培养等治理策略,发挥智能融合教育的积极作用,构筑我国“智能+教育”发展的先发优势。     

“人工智能+教育”深度融合的理论探索与创新启示——基于文献计量学的研究

人工智能在全球引领了新一波技术热潮,并对教育行业发展带来新的机遇与挑战,人工智能与教育的深度融合将开创教育行业新纪元。本研究利用科学知识图谱绘制工具“citespace”对“人工智能+教育”相关的研究文献进行了系统的计量分析,梳理研究现状,通过聚类分析归纳目前学术界研究的四大视角,包括中观层面的行业变革以及技术应用,以及微观层面的人才培养和教育主体,并进行了深入分析：一是人工智能对教育行业变革的影响,包括智慧教育的赋能路径、智能技术的解决方案和智慧课堂的创新探索等;二是人工智能的技术应用,包括ChatGPT等应用推动教学效率提升、大数据教学模型构建、在线教育体系构建等;三是推进人才培养和知识学习方面,“人工智能+教育”融合带来观念和实践的变化以及对知识学习途径的创新性影响;四是人工智能对教育主体的影响,教师角色需要重新定义和塑造,学生角色要推动自主、个性化、混合和泛在学习,低年级教育要利用人工智能改变教学方式提升教学质量。最后,人工智能发展也带来了新的伦理困境,需要制定算法向善和数据向善的伦理准则,建立人工智能算法监测与数据安全防护措施,来构建人工智能的治理框架。     

ChatGPT教育应用的伦理风险与规避进路

智能时代ChatGPT强势崛起，生成式人工智能惊艳大众，引领人工智能走向场景落地，为教育领域变革带来巨大机遇。ChatGPT为教育创造有益价值的同时，也带来一系列伦理风险。本文阐述了ChatGPT的发展脉络和内涵特征，揭示ChatGPT教育应用存在的伦理风险，包括：数据隐私的泄露与滥用、机器算法的歧视与偏见、师生关系的弱化与破坏、学术公平的失信与失衡。本文从博弈论视角出发，从道德伦理角度剖析“教育-ChatGPT”之间的最优关系，提出ChatGPT教育应用伦理困境的规避建议：唤醒大众意识与保护数据隐私，警惕惯性认知与防范算法偏见，把握任务重心与调节师生关系，规训道德行为与重塑学术公平，以此增强“教育-ChatGPT”的应用价值利益，共建教育人工智能伦理规范，促进教育人工智能理性发展。     

智能时代未来学校建设及其伦理风险规避

人工智能促使教育与技术的深度融合,技术驱动成为智能时代未来学校建设的基本特征。技术在助力未来学校建设的同时,存在着责任模糊、主体异化、道德缺失以及育人弱化等伦理风险。为规避智能技术对未来学校建设潜藏的伦理风险,具体实施的策略包括：完善各主体应有职责,明晰教育责任;重新定位师生关系,构建人机协同体;建立数据资源透明机制,发展学生健全人格;塑造温情氛围,重拾育人初心等。     

ChatGPT在教育领域的应用价值、潜在伦理风险与治理路径

ChatGPT的快速发展和广泛应用将促进教育变革与创新，同时也带来了新的伦理问题。作为内容生成式产品，ChatGPT在教育领域的应用提高了学生的实践创造力，增强了学生的认知主动性，加强了学生选择的自主权，促进了减负增效，但也面临人工智能依赖下思考力丧失的主体伦理问题、师生交往异化与情感缺失的关系伦理问题、知识盲区与信息茧房的算法伦理问题，以及教育不公与权责不清的资源伦理问题。为此，需要推进教育理念变革以巩固学生的主体地位，建立新型师生关系增强师生心灵沟通的力量，构建算法伦理全过程监管体系以及ChatGPT教育应用的风险治理体系，推进智能技术在教育领域的合理应用。     

人工智能时代的教育风险及其规避

近年来,有关"人工智能+教育"的研究如火如荼,在教育学界掀起了一股"人工智能热"。人工智能的教育应用具体可分为教学类、学习类和管理类,运用风险理论对人工智能的教育应用进行分析,文章发现人工智能时代的教育存在智能教育治理风险、技术风险、伦理风险以及教师职业替代风险等潜在风险。为有效规避这些教育风险,文章提出在未来教育变革中应正确认识人工智能与教育的关系,探索人工智能教育精准治理新范式,推进人工智能教育应用的伦理建构,以及培养人才适应、驾驭人工智能的关键素养。     

生成式人工智能教育应用风险及其规避——基于教育主体性视角

以ChatGPT为代表的生成式人工智能产品广泛应用于教育，技术客体在今日以生成式人工智能的形态向人类中心主义的知识和教育体系提出挑战，由此引发的主体性之痛逐渐显现。生成式人工智能的教育应用将在一定程度上引发主体思想的“工业化”、主体交互的“规训化”、技治主义的“宿命化”，进而遮蔽与压抑教育中的人、教育活动、教育系统的主体性。规避生成式人工智能的教育应用风险，超越教育的主体性之痛，可能的实践理路包括：坚守主体教育实践的理性遵循，培育教育主体的数字素养；构筑生成式人工智能教育应用的责任伦理体系，实现人与技术的共鸣；建立生成式人工智能教育应用的监管机制，提升教育系统的自我治理能力。     

中美欧生成式人工智能政策法规比较研究及启示

生成式人工智能是利用复杂的算法、模型和规则,从大规模数据集中学习,以创造新的原创内容的人工智能技术。该技术全面超越了传统软件的数据处理和分析能力。以Chat GPT为代表的生成式人工智能技术在各行业、各领域都具有广泛的应用前景。然而,在推动人工智能技术发展的同时,我们必须确保其应用符合法律法规和伦理原则,避免潜在的法律和伦理风险,包括数据使用风险、生成内容滥用风险、算法滥用风险以及其他风险。文章通过对中美欧生成式人工智能相关政策法规的发展历程进行比较分析,进而为相关企业防范生成式人工智能带来的法律和伦理风险、保障企业健康发展提供商业启示。     

人工智能助推教师专业发展：机遇、挑战和路径

智能时代下,人工智能是推动国家高质量发展的新引擎。智能技术拥有优越的算法和自主决策能力,是助推教师专业发展的重要组成部分。目前已有研究将人工智能技术融入教师专业发展,为教师专业发展带来三大机遇：人工智能赋能教师自我发展、人工智能优化教学资源获取、人工智能驱动学生评估动态全面化。文章梳理了三种挑战：技术门槛与应用挑战、数据采集与算法伦理、角色定位与态度迷失。基于教师应用智能技术存在的问题,需从掌握人工智能专业知识,提升教师人工智能素养;坚定人工智能专业信念,树立教师人机协同信心;培育人工智能专业能力,建立终身学习的资源库三种路径助推教师专业发展。     

推动人工智能向善发展：教育与人工智能共同的责任

人工智能的迅速发展正深刻改变人类的生产方式、生活方式和学习方式,对教育产生深度影响,而现阶段生成式人工智能工具在教育领域广泛应用,给教育带来新的道德伦理问题。该文首先从人工智能快速发展引发更加复杂的道德伦理问题和人工智能道德伦理是人类道德伦理价值体系新组成两方面给出人工智能延展人类道德伦理范围。再从人工智能教育应用伦理风险、教育人工智能伦理治理现状、教育人工智能伦理需解决问题等三个层面阐述了教育人工智能应用伦理风险与治理。再次从核心素养培养、规范应用监管、道德伦理框架、技术规范研制等四个维度给出人工智能向善发展的建设路线。最后,给出五条发展建议：加强顶层设计,系统规划总体框架;重视育人为本,创新发展人工智能课程;遵循治理原则,促进技术向善赋能;明确价值准则,助力人机相融共进;加快标准制定,规范教育人工智能实践。以期推动人工智能向善发展,赋能、赋智教育,促进教育数字化转型,构筑智能时代的人类命运共同体。     

教育数字化转型的核心技术引擎：可信教育人工智能

教育数字化转型旨在通过数字技术实现教育教学流程再造和提质增效。一方面,以人工智能为代表的数字技术作为教育数字化转型的技术引擎,驱动教育数字化转型持续深入。另一方面,人工智能技术的“黑箱”本质引起了人机信任危机,存在违背教育中的公平、责任、透明、伦理等基本约束的风险,阻碍了教育数字化转型。本研究梳理了人工智能助力教育数字化转型过程中所引发和加剧的四大治理难题,剖析了可信教育人工智能的理论研究和发展现状,提出了可信教育人工智能的基本框架,总结了可信教育人工智能为教育数字化转型带来的机遇,提出了可信教育人工智能促进教育数字化转型的发展建议。研究建议出台可信教育人工智能的相关标准和法规,将技术可信度纳入教育数字化建设评价体系中,深入推进教育数据治理,提升教育从业者的数字素养。     

内在主义技术伦理：教学评价智能化转型考量

基于教学评价智能化转型的内涵与逻辑，本研究以内在主义技术伦理为考量视角，提出教学评价智能化转型的内在主义技术伦理考量框架，即：智能评价主体应关注技术的道德协同性，智能评价技术应关注道德算法设计，智能评价过程应遵循公平伦理规范，智能评价行为应依赖“人-智”伦理秩序。研究发现，内在主义视角下教学评价智能化转型存在的伦理风险主要体现在人工智能应用僭越教育主体尊严，智能评价数据挖掘违反信息道德界限，智能评价算法偏误破坏教学决策质量与公平，以及智能化教学评价活动偏离人本伦理轨道等多个方面。为此，从内在主义视角提出教学评价智能化转型的技术伦理规约路向：关注人文情感与技术理性的结合，树立需求本位的人机关系准则；实现有道德的算法设计与优化，合理保障师生教育自由与隐私安全；聚焦智能技术蕴含的积极伦理，增强对智能评价算法的动态监测；发挥智能评价的行为影响，构建以人为本的评价伦理秩序。     

生成式人工智能嵌入职业院校人才培养的发展图景、潜在风险与治理路径

以ChatGPT为代表的生成式人工智能为职业院校人才培养创新发展提供新的重大机遇的同时,也带来了新的挑战。一方面,职业教育者应看到生成式人工智能嵌入职业院校人才培养的发展图景;另一方面,也要积极避免“意识形态渗透”“主体关系漂移”“价值观失衡”“情感认同缺失”等潜在教育风险,从“坚守主流意识形态“”优化智能交互过程“”着力数字素养培养“”健全技术风险防范制度”等视角防患于未然。     

人工智能教育应用的偏见风险分析与治理

在倡导教育包容与公平的时代背景下,教育面临着以个性化、自适应为特征的智能技术所带来的偏见风险.在智能教育产品的研发过程中,潜在的设计偏见、数据偏见和算法偏见会使教育领域面临多重风险,如教育活动的公平性受阻、教育系统内部的歧视加剧、教育中的多元化特质消解和学生思想窄化.学校、科技公司、监管机构等组织应当携手共进,提前侦测偏见风险并加强治理,包括:提升研发团队的教育理解和多元眼光,让师生成为产品的合作创造者,加强偏见检测和道德评估过程,建立可解释、可审查、可纠正的系统优化机制,开展面向师生的人工智能素养教育,确立人工智能在教育中的应用范围和伦理规范,从而争取实现人机良性互动,打造多元包容的智能教育环境.     

人工智能时代个体道德处境与德育的时代责任探析——基于技术哲学的生命结构观

在技术哲学的视域下,人的完整生命是“人”与“技术”的合一,人在发明技术的同时技术也在发明着人,给予人超越性的力量,使人的生命空间得以扩展。然而,技术的存在与发展也会让人陷入风险之中。在人工智能时代,由于机器的“智能”对人“意识”的僭越,使人面临着道德主体性失落、价值失序、伦理精神缺失等问题。对此,道德教育应当肩负起时代责任,引导个体重新审视人、技术与道德之间的关系,对包括现实与虚拟在内的生活世界形成伦理认同,使之成为具有伦理精神与行动能力的道德主体。     

人工智能时代教师角色焦虑的表征与纾解路径

人工智能使教育教学形态发生革命性变革,传统教师角色因人工智能的教育应用受到冲击,人工智能时代教师角色焦虑成为制约智能教育发展的重要因素.基于教师角色焦虑的概念界定,人工智能时代教师角色焦虑的具体表征为:知识飞速更新与教师自身发展滞缓引发的专业素养焦虑,智能教育场域的无界化与教师谋求稳定引发的职业前景焦虑,智能教育期望与教师主体诉求冲突引发的伦理焦虑.人工智能时代教师角色焦虑的纾解路径:一是厘清智能教育场域下教师的知识诉求,构建校本化教师信息素养培育体系;二是建构教师技术领导者身份,坚守教师在智能教育场域中的职业优势;三是精确诊断与满足教师的智能教育诉求,关注基于证据的焦虑消解机制设计.