算法公平：教育人工智能算法偏见的逻辑与治理

算法公平被视作人工智能领域的核心伦理问题。教育人工智能同样面临算法偏见、算法歧视等伦理风险。通过系统性回顾2013—2023年教育人工智能算法偏见的57篇文献,本研究发现,从总体架构看,教育人工智能算法偏见研究主要分概念性理论研究、教育场景应用研究与算法检测设计研究三类;从以算法偏见为核心厘清算法伦理风险、算法歧视、教育公平三层概念的逻辑层次看,研究样本在算法偏见的种类、成因和治理原则与方法方面存在共性和明确的指向。本研究最后以种类和成因为基础,提出未来教育算法偏见研究的五个方向,以期促进教育的算法公平,优化人工智能教育应用环境,推动教育人工智能生态系统的健康发展。     

教育人工智能伦理问题与伦理原则探讨

文章旨在揭示智能化时代的教育将面临哪些新的伦理问题,并在人工智能伦理和教育伦理的基础上,探讨教育人工智能的伦理原则。运用文献研究和逻辑推理方法,系统梳理了教育人工智能应用的特点和优势,及其可能引发的新的伦理问题:(1)角色层面,系统创建者、教师、学生和监测员等利益相关者将面临更加复杂的伦理困境;(2)技术层面,涉及自动化决策伦理问责、算法伦理和数据伦理等方面的问题;(3)社会层面,可能转变就业市场、改变人际关系和引发新的社会不公平。因此,需要对教育人工智能伦理问题的复杂性有充分的认识,同时需要遵循一般的人工智能伦理原则和教育伦理原则,其中,最核心的内容为二者之间的交集,具体包括:(1)福祉;(2)是非善恶;(3)公平正义;(4)人权和尊严;(5)自由自治;(6)责任和问责。     

人工智能教育应用风险与治理

随着人工智能在教育领域应用的推进,教育中不少重复性的机械劳动逐渐被人工智能技术所取代,但这同时也引发了一些问题：情感忽视导致人际疏离;技术崇拜引发的技术滥用侵犯个人隐私;人工智能偏见也会产生消极后果。因此,政府、社会、学校需要对人工智能教育应用进行风险分析,建立系统的风险评估机制,开设针对师生的人工智能素养课程,厘清人工智能的伦理界限,实现人工智能与教育的良性发展,共建和谐智能教育时代。     

人工智能教育应用伦理研究论纲

人工智能已成为影响未来社会发展的重要变量,其教育应用价值在获得认可的同时,也引起了伦理隐忧.教育伦理范畴视角下人工智能教育应用伦理的内涵,即教育教学过程中"人"与"人工智能"间的道德关系.人工智能教育应用的伦理旨趣在于"助",而助什么和如何助是研究的两个关键问题.人工智能教育应用的伦理原则应从教育主体维度展开,其中教育管理者需遵循权力规约原则,具体表现为数据收集的尊重原则、数据处理的理解原则和数据利用的边界原则;教师需遵循和谐共生原则,具体表现为人本原则、适度原则和关怀原则;学习者需遵循形塑自我原则,具体表现为良善原则、诚信原则和节制原则.人工智能教育应用的伦理实践过程应遵循从个体的伦理认知、伦理行为到社会的伦理制度,再到个体认知和行为伦理的轨迹,即由个体走向社会,又由社会反作用于个体的螺旋循环过程.但人工智能伦理研究的两种研究范畴——技术伦理和教育伦理杂糅交错,不利于伦理实践的开展,希冀跨学科学者能够专注于教育伦理范畴的研究.     

人工智能在教育应用中的伦理风险与理性抉择

教育是人类社会文明发展的重要领域,人工智能在教育领域的应用,对教育产生了革命性的影响;同时,也给教育伦理带来了一系列风险和挑战。人工智能在教育应用中导致的伦理困境和可能面临的伦理风险,主要表现在人工智能与教育主体的权利嬗变、算法推荐与学生个性的发展异化、人工情感与人机互动的情感危机、智能感知与教育数据的价值困境这四个方面。为了防范和消除这些伦理风险,“以人为本”“以德为先”“以法为界”是人工智能在教育应用中的理性选择,教育责任则是“可信赖的人工智能应该做什么”伦理准则的实践指向。     

人工智能算法歧视及其治理

人工智能的快速崛起,在人类事务领域引发无法想象的革命的同时,愈益严重的算法歧视现象也引发了人们普遍的担忧与焦虑。AI算法绝不仅仅是一项单纯的技术性问题,其蕴含的政治风险、安全风险与伦理道德风险同样不容忽视。实际上,算法歧视不仅会导致种族歧视、性别歧视等严重社会后果,在一些关键领域或特定情境下,还会侵害公民权利、自由,甚至危害其生命安全。因此,对算法歧视善加治理,才能为算法及其行业的健康发展创造良好的环境。     

如何识别与判定人工智能教育应用伦理问题——基于伦理策略形成的视角

伦理问题的产生在人工智能教育应用中不可避免。如何识别与应对之,是当前研究的热点,对于人工智能与教育融合创新具有显著的伦理导向作用。已有研究多着力于对伦理风险的预警,在一定程度上忽视了对伦理问题的识别与判断,暴露出“泛伦理化”研究趋向,难以形成系统的伦理策略。实际上,只有辨别人工智能教育应用行为的伦理属性,通过伦理判断的分类指引,经由不同伦理分析框架的多样尝试,才能确定适切的伦理意图并形成可行的伦理方案。从人工智能教育应用行为的自知性、自愿性、社会性三个基本原则出发,提出“识别人工智能教育应用伦理问题”的一般方法,并基于目的论、义务论、美德论等规范伦理理论,确定“判断人工智能教育应用伦理问题是否合乎伦理规范”的方案依据,从而阐释人工智能教育应用伦理策略的形成过程,为积极回应“伦理问题识别意识薄弱”“伦理原则照搬难适应”等实践困境提供理论依据与实践路径。     

Computers in Artificial Intelligence Education

Both the origin and development of artificial intelligence (AI) are connected with the origin and development of computers. Computers play a very important role in engineering education. AI influences such disciplines like CAD, CASE, CAE, and others. The specific experience concerning AI education at a technical university has been gathered in this paper. There is stressed need of good balance between theoretical background and individual training with computers as well as importance of personal experience in solving practical AI.     

我国人工智能教育现状与愿景分析

人工智能教育是人工智能与学习相结合的一个新领域。笔者进行了121份电子问卷的调查,有47.93%的被调查者认为教育机器人会取代教师的教学活动,占比例最大。它既有智能等的优势,又有情感方面等不足。其发展趋势为教育机器人、校外辅导、特殊教育等应用。     

我国人工智能教育研究现状及主题结构分析

人工智能教育是当前教育发展的大势所趋,自提出后受到全球教育研究者的广泛关注。为充分了解当前国内人工智能教育发展的现状,文章以CSSCI期刊库为数据源,以“人工智能”和“教育”为关键词,对相关文献进行检索分析。通过可视化方法对高被引文献、高频关键词等进行呈现,并采用聚类方法对高频关键词进行分类,详细探讨各类团的研究内容。最后,总结和讨论了人工智能教育各个领域的研究现状,并提出未来发展建议,为人工智能教育的研究发展提供借鉴。     

“智能+教育”：应用场景、风险挑战与治理对策

在人工智能技术赋能教育已经成为共识的大背景下,人工智能并未如预期的那样完美地促进教育高质量发展。本文从研究“智能+教育”的典型应用场景出发,分析“智能+教育”广泛应用面临的数据基础、制度规范、道德与伦理约束、社会关系异化等带来的风险挑战,然后,基于在教育领域广泛应用人工智能助推教育高质量发展的需求,探讨通过重视顶层设计、加强数据治理、提升技术能力、强化法理研究、加强智能素养培养等治理策略,发挥智能融合教育的积极作用,构筑我国“智能+教育”发展的先发优势。     

对人工智能在教育中应用的批判与主张

人工智能应用始终无法逾越技术乐观主义、悲观主义、“转化”主义的藩篱,进而堕入了教育应用中的“盲区”“禁区”“误区”。因此,目前人工智能教育应用的三种错误取向还需从批判的视角审视,进而人们应充分认识工具的意向结构,极力抵制坠入历史的虚无之中,拒绝陷入随意转化的虚假幻想。对人工智能教育应用的三点批判体现在忽视了师生的真实需求,漠视了培养完整的人的意义,轻视了人的存在价值。人工智能人文观是以辩证唯物主义为基础提出的教育主张。由此,人工智能教育的相关者必须要认识到人文主义的合理性论点,将人始终视为教育活动中的核心所在,继承“天人合一”的中国优秀传统文化,才能以智识的人文精神气质在教育活动中应用人工智能。     

关于人工智能在网络教育中的应用研究

人工智能技术可广泛地应用于网络教育,展现多种教育模式和教学方法.主要分析了网络教育的现状及存在问题,介绍了人工智能在网络教育中所用的相关技术,如专家系统、智能代理、智能决策支持系统等,并对其应用状况进行了探讨.     

面向未来工程教育的人工智能伦理谱系

面向未来人工智能时代的工程教育,建立一种人工智能伦理谱系是必要的,以此阐明人工智能伦理与工程伦理、传统伦理之间的联系和区别,为开展人工智能伦理教育提供支持.人工智能伦理谱系围绕着"人与机"关系展开,机器"质变"是划分人工智能伦理谱系层级的根本因素.当前人工智能处于"弱人工智能"阶段,不同的参与人群催生了不同类型的人工智...