如何识别与判定人工智能教育应用伦理问题——基于伦理策略形成的视角

伦理问题的产生在人工智能教育应用中不可避免。如何识别与应对之，是当前研究的热点，对于人工智能与教育融合创新具有显著的伦理导向作用。已有研究多着力于对伦理风险的预警，在一定程度上忽视了对伦理问题的识别与判断，暴露出“泛伦理化”研究趋向，难以形成系统的伦理策略。实际上，只有辨别人工智能教育应用行为的伦理属性，通过伦理判断的分类指引，经由不同伦理分析框架的多样尝试，才能确定适切的伦理意图并形成可行的伦理方案。从人工智能教育应用行为的自知性、自愿性、社会性三个基本原则出发，提出“识别人工智能教育应用伦理问题”的一般方法，并基于目的论、义务论、美德论等规范伦理理论，确定“判断人工智能教育应用伦理问题是否合乎伦理规范”的方案依据，从而阐释人工智能教育应用伦理策略的形成过程，为积极回应“伦理问题识别意识薄弱”“伦理原则照搬难适应”等实践困境提供理论依据与实践路径。     

人工智能教育应用中的伦理风险及其规避

随着物联网、大数据、量子计算等科技的快速发展,人类进入人工智能时代。智能时代,智能技术与教育的不断融合,在为教育带来便捷、培养时代新人的同时,也衍生出复杂的伦理问题。人工智能教育应用中的伦理风险主要表现为：“我—他”师生的传统伦理关系错乱、数据壁垒和鸿沟带来的合法权利丧失以及确定性算法和不确定性发展之间的伦理背离。究其原因,与“一切皆技术”的算法崇拜主导着当前的人工智能教育应用,人工智能教育应用与固有制度观念的时空分离以及人工智能教育应用中的多元主体责任壁垒密切相关。为合理规避这些伦理风险,促进其可持续健康发展,应坚持“以人为本”的教育理念,建立系统完善的学生隐私保护规制,构建各责任主体共同参与的人工智能教育应用制度体系。     

人工智能的法律与伦理意识形态问题研究

人工智能作为技术的实体性存在兼具技术之善与技术之恶,其积极一面表现在法律与伦理的意识形态问题上,显示出促进法律和道德公平正义等一系列优越性;其消极之处主要体现在伦理界定与意识形态固化等问题中,需要进行哲学上的反思与批判。     

人工智能教育应用伦理研究论纲

人工智能已成为影响未来社会发展的重要变量,其教育应用价值在获得认可的同时,也引起了伦理隐忧.教育伦理范畴视角下人工智能教育应用伦理的内涵,即教育教学过程中"人"与"人工智能"间的道德关系.人工智能教育应用的伦理旨趣在于"助",而助什么和如何助是研究的两个关键问题.人工智能教育应用的伦理原则应从教育主体维度展开,其中教育管理者需遵循权力规约原则,具体表现为数据收集的尊重原则、数据处理的理解原则和数据利用的边界原则;教师需遵循和谐共生原则,具体表现为人本原则、适度原则和关怀原则;学习者需遵循形塑自我原则,具体表现为良善原则、诚信原则和节制原则.人工智能教育应用的伦理实践过程应遵循从个体的伦理认知、伦理行为到社会的伦理制度,再到个体认知和行为伦理的轨迹,即由个体走向社会,又由社会反作用于个体的螺旋循环过程.但人工智能伦理研究的两种研究范畴——技术伦理和教育伦理杂糅交错,不利于伦理实践的开展,希冀跨学科学者能够专注于教育伦理范畴的研究.     

跨学科视域下人工智能伦理教育重构：知识观、学生观与教学观

如今,智能技术的快速发展与人工智能伦理教育的滞后性难以相衬,人工智能伦理教育“为何”问题虽已达成共识,但其本质“是何”“如何”落地等问题成为目前教育人工智能中的重要命题。该研究从认知科学、技术伦理和道德教育等跨学科视角出发,探析人工智能伦理教育的理论溯源,构建人工智能伦理教育体系的知识观、学生观和教学观,以期为中小学人工智能伦理教育实践提供参考。研究揭示了人工智能基础教育阶段旨在培养新一代负责任的“数字公民”,伦理教育要兼顾明言伦理知识和默会伦理知识的生成,从个体伦理知识的积累走向社会共同建构;既要面向未来的技术开发者也要关注新一代技术使用者,让青少年学生与人工智能形成和谐共处、相互调节的道德共同体;教学中通过具身情境法、思辨研讨法培养学生的科技伦理素养,形成从认知到体验、从学校到生活的教育实践转向。     

教育伦理生态刍议

教育的伦理内涵根源于人的未定性。“人之成长”与教育的“共生同构”关系映现了“教育－伦理”生态,教育价值生态和教育实践生态展开了教育的伦理内涵,只有从人的特性出发才能真正理解教育的伦理内涵,这对于把握“教育－伦理”的生态,理解教育的实质,推进教育改革,有着深远的现实意义。     

人工智能在教育应用中的伦理风险与理性抉择

教育是人类社会文明发展的重要领域,人工智能在教育领域的应用,对教育产生了革命性的影响;同时,也给教育伦理带来了一系列风险和挑战。人工智能在教育应用中导致的伦理困境和可能面临的伦理风险,主要表现在人工智能与教育主体的权利嬗变、算法推荐与学生个性的发展异化、人工情感与人机互动的情感危机、智能感知与教育数据的价值困境这四个方面。为了防范和消除这些伦理风险,“以人为本”“以德为先”“以法为界”是人工智能在教育应用中的理性选择,教育责任则是“可信赖的人工智能应该做什么”伦理准则的实践指向。     

ChatGPT教育应用的伦理风险与规避进路

智能时代ChatGPT强势崛起，生成式人工智能惊艳大众，引领人工智能走向场景落地，为教育领域变革带来巨大机遇。ChatGPT为教育创造有益价值的同时，也带来一系列伦理风险。本文阐述了ChatGPT的发展脉络和内涵特征，揭示ChatGPT教育应用存在的伦理风险，包括：数据隐私的泄露与滥用、机器算法的歧视与偏见、师生关系的弱化与破坏、学术公平的失信与失衡。本文从博弈论视角出发，从道德伦理角度剖析“教育-ChatGPT”之间的最优关系，提出ChatGPT教育应用伦理困境的规避建议：唤醒大众意识与保护数据隐私，警惕惯性认知与防范算法偏见，把握任务重心与调节师生关系，规训道德行为与重塑学术公平，以此增强“教育-ChatGPT”的应用价值利益，共建教育人工智能伦理规范，促进教育人工智能理性发展。     

人工智能赋能思想政治教育的伦理风险及规避路径

人工智能赋能思想政治教育是智能科学应用技术发展的必然,为思想政治教育带来了广阔发展前景。但人工智能赋能思想政治教育的同时还隐匿着伦理风险,呈现出主体地位消解与情感疏离、算法推荐与学生个性发展异化、个人隐私泄露与权责不清等多方面的伦理风险样态。其生成原因在于其与相关主体的技术素养欠缺、人工智能算法技术自身的局限、伦理制度和政策法规的滞后等有着密切关联。为防范和规避这些风险,需要“以人为本”构建新型师生伦理空间、“以术为用”增强智能思政的技术治理、“以法为界”构建智能思政大数据责任伦理规制,推进做好人工智能赋能思想政治教育伦理风险的防范工作。     

从科技向善到人的向善：教育人工智能伦理规范核心原则

随着人工智能与教育的深度融合,人工智能伦理问题受到广泛关注,科技向善成为人工智能技术应用的基本原则。教育领域人工智能应用的伦理研究,多以现象剖析和愿景构建为主,系统的政策分析十分缺乏。鉴于此,本研究以分析国际组织或各国政府公布的十三份人工智能伦理规范政策文本为起点,通过挖掘教育人工智能伦理规范相关内容,结合人工智能伦理从缘起到教育应用的顺序,探索教育人工智能伦理问题的解决路径,构建教育人工智能伦理规范的十二条核心原则,包括：公平、以人为本、隐私安全、透明和可解释性、问责、评估形式、管理与工作量、知情参与和合作、自治和预警、福祉、伦理设计和实现教育目标,强调应用原则需要从科技向善转向人的向善。本研究还从设计开发者、教育工作者、受教育者、管理者与其他利益相关者等角度阐释原则的应用要求。十二条核心原则对编制教育人工智能开发与应用的基本指南具有重要意义,可促进人工智能技术教育的理性应用,提高教育治理现代化水平。     

近十年国内人工智能教育伦理可视化分析

人工智能技术作为近几年发展最快的技术,其在教育中的应用能够更好地赋能教育,变革教育。文章基于CiteSpace5.6.R3对2010-2020年中国知网（CNKI）期刊的94篇人工智能教育伦理文献进行可视化分析。研究发现国内“人工智能教育伦理”的研究热点主要为“技术理性、教育发展、伦理原则、高等教育、伦理道德”等。基于关键词共现图谱对研究内容的梳理,形成“人工智能教育伦理”研究热点主题分别是：人工智能教育伦理的问题研究、原则构建及其教育体系。     

社会主义核心价值观视域下高校人工智能伦理教育探析

随着人工智能的广泛应用,人工智能伦理教育应势而生。人工智能伦理教育的本质是价值观教育,因此高校开展人工智能伦理教育首先应确定以何种伦理道德为价值导向。社会主义核心价值观引领人工智能伦理教育是满足人工智能对价值的内生需求、回应人工智能伦理挑战、坚持教育内在引领价值的需要,应坚持以马克思主义为指导,以中华优秀传统文化为创新之源,以国家、社会、公民三维统一为发展旨归的基本遵循。高校应不断拓宽育人阵地、推进多学科教师在人工智能伦理教育中的高质量协同、以社会主义核心价值观引领人工智能伦理教学资源建设和自主知识体系构建。     

人工智能时代,教师是“关键人群”

随着“智慧校园”“智慧教室”“智慧课堂”的建设,尤其是今年初ChatGPT的出现,人工智能时代的教育已经到来。作为人工智能时代的教师,如何不忘教育的宗旨?除了恪守教育的核心价值与基本的教学伦理,还需要有与之相适应的知识与技能,尤其需要自觉增强信息素养与教学伦理意识。     

人工智能应用背景下数字教材编制的伦理危机及其治理

人工智能技术融入数字教材编制,能够有效解决技术呈现和受众认知间的冲突。但是,人工智能技术加持之下的数字教材编制,可能遭遇课堂规范与责任伦理弱化、系统化教材知识体系解构、教材目标定位泛化、数字化资源运用易引发法律风险隐患等伦理危机。以伦理视角对智能技术融入数字教材编制进行审视,应遵循技术向“善”和“人”的发展融合的价值诉求,重视数字教材编制主体多元协同和融通的关系诉求,坚守数字教材编制体系“三性”融汇的内容诉求。因此,化解人工智能融入数字教材编制伦理风险,应立足于建构人工智能的伦理准则和技术责任制度,明确人工智能教育应用的伦理规范与技术责任,重拾“以人为本”的数字教材编制教育价值理念,动态监控智能技术融入数字教材编制全过程,充分审视智能技术融入数字教材编制的设计机理和强化智能技术融入数字教材编制的制度建设。     

教育人工智能伦理原则的有限性及其补正——兼论“原则-美德-法律”框架

教育人工智能伦理研究的“原则方法”旨在通过伦理原则的构建与教授消解教育领域应用人工智能技术出现的伦理风险。然而,当前教育人工智能伦理原则存在有限性,制约了其对教育实践的影响力。就自身而言,教育人工智能伦理原则在构建过程中忽略了其在不同行业领域、不同教育应用甚至同一框架内的个性特征或关系。就实践而言,教育人工智能伦理原则既无法提升目标对象将伦理原则付诸实践的意愿,也缺乏强制其遵守这些价值观和规范的机制。教育人工智能伦理原则有限性的消解需要在完善原则自身的同时引入美德与法律,进而构建“原则-美德-法律”框架。这一框架的构建要义是使原则、美德、法律三大层次针对且有效地应对伦理原则有限性的各个方面,做到确定可靠切实的伦理原则、开展明确可行的美德培育、构筑稳健有效的法律保障。     

推动人工智能向善发展：教育与人工智能共同的责任

人工智能的迅速发展正深刻改变人类的生产方式、生活方式和学习方式,对教育产生深度影响,而现阶段生成式人工智能工具在教育领域广泛应用,给教育带来新的道德伦理问题。该文首先从人工智能快速发展引发更加复杂的道德伦理问题和人工智能道德伦理是人类道德伦理价值体系新组成两方面给出人工智能延展人类道德伦理范围。再从人工智能教育应用伦理风险、教育人工智能伦理治理现状、教育人工智能伦理需解决问题等三个层面阐述了教育人工智能应用伦理风险与治理。再次从核心素养培养、规范应用监管、道德伦理框架、技术规范研制等四个维度给出人工智能向善发展的建设路线。最后,给出五条发展建议：加强顶层设计,系统规划总体框架;重视育人为本,创新发展人工智能课程;遵循治理原则,促进技术向善赋能;明确价值准则,助力人机相融共进;加快标准制定,规范教育人工智能实践。以期推动人工智能向善发展,赋能、赋智教育,促进教育数字化转型,构筑智能时代的人类命运共同体。     

生成式人工智能教育应用风险及其规避——基于教育主体性视角

以ChatGPT为代表的生成式人工智能产品广泛应用于教育，技术客体在今日以生成式人工智能的形态向人类中心主义的知识和教育体系提出挑战，由此引发的主体性之痛逐渐显现。生成式人工智能的教育应用将在一定程度上引发主体思想的“工业化”、主体交互的“规训化”、技治主义的“宿命化”，进而遮蔽与压抑教育中的人、教育活动、教育系统的主体性。规避生成式人工智能的教育应用风险，超越教育的主体性之痛，可能的实践理路包括：坚守主体教育实践的理性遵循，培育教育主体的数字素养；构筑生成式人工智能教育应用的责任伦理体系，实现人与技术的共鸣；建立生成式人工智能教育应用的监管机制，提升教育系统的自我治理能力。     

数字技术赋能思想政治教育的伦理审视

数字技术赋能为思想政治教育创新发展挚画崭新图景,是推动思想政治教育数字化转型的动力之源。在数字化的进程中,人与技术的关系历经从“代具”到“复本”再到“他者”的演变,一定程度上对既定的伦理规则产生冲击。数字技术赋能思想政治教育的伦理风险表征为主体失格、关系失序和认知失衡,技术在服务教育教学的同时,也正以“异己的力量”存在着。本文基于本源性视角,探寻思想政治教育数字化的伦理应然,将人本回归、技术向善和秩序重建相统一,以期为两者的健康融合与良性发展觅求镜鉴。     

人工智能教育伦理问题及其规约

人类诞生后,生物学意义上的进化就基本上停止了,自此,以人为界,好奇心推动科学,控制欲推动技术,启动了人类文明的演变图景.科学和技术的发展是由向外和向内两个向度展开的,向外由太阳系、银河系到宇宙;向内指向人类自身,由生命运动到意识运动,催生了人工智能.人工智能的类人属性,第一次动摇了以世界为舞台、人类为主角的社会活动剧幕,由此引发了人工智能伦理问题,当然也包括人工智能教育伦理问题.人工智能教育伦理问题是人类教育群体中植入类人,由于"演员"群体的转变而引发的问题,其主要议题包括类人的伦理问题、新的人与人行为准则的调整问题以及"演员"活动的舞台——人工智能教育场问题.人工智能教育伦理问题的规约应该以追求人类的福祉为宗旨,聚焦实践,主要从习俗迁移、规范构建、法律约束等方面着手.     

人工智能视域下重塑教师角色的三维内涵

在人工智能技术推动下的全新教育场域中,根据时代发展重新解读教师角色内涵是当今教育信息化社会的主题与集结点之一。将人工智能的理性限度与教育的人文向度相融合,以技术哲学为思考框架,发现教师正面临“技术化”降解教师智慧、“模式化”阻碍教师超越、“单一化”扭曲教师生命的角色维度的失衡困境。这在一定程度上忽视了教师在社会活动中作为人的主体性,也让教师无法领悟教育的真谛。进一步审视并解构教师角色成为关键。在“人工智能+教育”深入融合的过程中重塑教师角色,要回归到生命本质的探寻,实现教联网时代智能与生命的和合相生,最终引发对教师“生命化之维”的关照,达到技术、伦理与生命的有机融合。