AIGC时代的网络信息内容生态安全风险及其治理——兼以ChatGPT为对象的实验访谈案例分析

[目的/意义]针对ChatGPT等人工智能生成内容（AI Generated Content,AIGC）兴起背景下,网络信息内容生成呈现出的新特点,梳理网络信息内容生态安全面临的新风险,分析新背景下进行网络信息内容生态安全治理的可行路径。[方法/过程]以总体国家安全观为指引,通过逻辑分析和以ChatGPT为对象的实验访谈案例分析,探析AIGC带来的网络信息内容生态安全风险。[结果/结论]AIGC是Web3.0阶段网络信息内容生成的主要方式,网络信息内容生成呈现出方式智能化、规模海量化、主体空心化以及形态多样化等新特点,而这一变化也会在资源、主体、基础设施以及外部辐射等四大风险域诱发12种典型风险。当前,可通过“动态监管—协同监管—韧性监管—多元监管—系统监管”相结合的“五位一体”监管思路,有效治理AIGC所带来的网络信息内容生态安全风险。     

网络信息内容生态安全风险：内涵、类型、成因与影响研究

[目的/意义]对网络信息内容生态的安全风险进行概念界定、类型划分、典型风险成因和风险间影响关系分析,以期为网络信息内容生态安全治理研究提供分析依据。[方法/过程]通过对不断衍生的网络信息内容生态安全风险的总结,结合国家关注的网络信息安全风险防控与治理问题,剖析网络信息内容生态的安全风险类型,从网络信息生态安全风险整体视角,对主流、典型类型风险的内涵和成因进行分析,归纳网络信息内容生态的安全风险整体特性,并从具体类型网络信息内容生态安全风险与整体风险的关系角度,对整体安全风险可能引发的影响进行综合解析。[结果/结论]网络信息内容生态安全风险是网络信息生态安全风险的核心组成部分,各类型网络信息内容生态安全风险成因不一,但在特性和影响上互有交叠,要保障网络信息内容生态的安全需要具体针对不同类型网络信息内容生态安全风险并综合考虑其风险整体性影响。     

网络信息内容安全风险：特征、演变及场景要素解构

[目的/意义]网络信息内容治理已成为国家战略的重要部分,是建设网络强国的重要举措。进行网络信息内容安全风险识别和解构,是诊断网络信息内容治理重点和难点的有效途径。[方法/过程]通过文献调研分析,结合《网络信息内容生态治理规定》,对网络信息内容安全风险进行研判和特征分析;使用内容分析法,对中华人民共和国国家互联网信息办公室7年以来处理发布的网络信息内容治理事件进行量化分析;使用社会网络分析法,分析网络信息内容安全风险相关要素在治理中的相互关系,对其场景要素进行解构。[结果/结论]将网络信息内容安全风险分为9类,并分析每种风险的内涵和表现;风险的发展演化趋势及变化与网络新媒体技术的发展、突发性公共安全事件和网络治理相关政策法规的变化有关;不同类型风险的场景要素存在差异,信息服务平台参与度明显较低,网络意识形态风险、文化入侵风险的关注度较低。在治理对象方面提出需要细化网络信息内容安全风险特征,特别是要建立网络信息内容安全风险评估体系,在治理主体方面重点是明确信息服务平台的主体责任,在治理根本原则方面,需要聚焦国家总体安全观下的网络信息内容治理。     

网络信息内容生态安全风险整体智治的理论框架与实现策略研究

[目的/意义]网络信息内容生态安全风险是一种全新的信息生态安全问题,从多个维度影响和威胁着总体国家安全.[方法/过程]以整体性治理、智慧性治理理论为基础,以技术中介理论为依据,提出网络信息内容生态安全风险整体智治的理论框架构建理念、逻辑关系和基本内容,具体阐释整体智治理论框架构建的意义.[结果/结论]研究表明,网络信息...     

业界资讯

《网络信息内容生态治理规定》发布近日,国家互联网信息办公室发布《网络信息内容生态治理规定》。规定明确,网络信息内容生产者应当遵守法律法规,遵循公序良俗,不得损害国家利益、公共利益和他人合法权益。不得制作、复制、发布含有“危害国家安全.泄露国家秘密,颠覆国家政权,破坏国家统一”和“损害国家荣誉和利益”等内容的违法信息,应当采取措施,防范和抵制制作、复制、发布含有“使用夸张标题,内容与标题严重不符”和“炒作绯闻、丑闻、劣迹”等内容的不良信息。     

大数据驱动的图书馆风险治理:内涵及框架

[目的/意义] 现代风险社会对图书馆行业发展及其管理带来了严峻的挑战，传统的图书馆风险管理模式已不适应当前图书馆的发展，亟需探索新的风险治理框架。[方法/过程] 分析图书馆风险治理研究与实践过程中存在的概念界定不清晰、研究方法滞后、管理主体单一等不足。在风险社会理论及治理理论与方法的指导下，以大数据驱动为视角，提出图书馆风险治理的内涵，并分析图书馆风险治理的大数据应用需求、治理框架构建以及在此治理框架下图书馆风险治理内容、治理流程。[结果/结论] 针对图书馆领域存在的实体性风险（建筑、公共场所、自然灾害）、具体业务发展中的风险（资源建设、服务创新、技术应用与管理）以及外界环境（社会、技术、政策等的发展）所带来的行业风险，大数据分析能够有效地识别、预测、治理所面临的风险，为图书馆风险治理提供有效的技术工具。     

网络信息生态链风险防范方略

[目的/意义] 通过对网络信息生态链风险的表现及原因、风险防范的原则及相应措施进行研究,形成网络信息生态链风险防范方略体系,以指导网络信息生态链风险防范工作。[方法/过程] 基于现有相关研究成果,运用信息生态理论、风险管理理论,采用逻辑分析方法,在分析网络信息生态链风险的表现及原因的基础上,提出网络信息生态链风险防范的原则及措施。[结果/结论] 网络信息生态链风险主要表现为网络信息生态链断裂、瘫痪、信息流转效率过低、社会形象极差等;网络信息生态链的风险防范应遵循预防为主、损失最小、统筹全链和措施多样等原则;网络信息生态链风险防范应采取营造风险防范文化、建立风险预警系统、完善风险预防措施、优化风险处置策略等措施。     

新规以“制度优势”实现“治理优势”

加强互联网内容建设,建立网络综合治理体系,营造清朗的网络空间,是党的十九大作出的战略部署。为了营造良好网络生态,保障公民、法人和其他组织合法权益,维护国家安全和公共利益,国家互联网信息办公室近日发布了《网络信息内容生态治理规定》(以下简称《规定》)。《规定》把中国特色治网之道的“政治优势”转化为“制度优势”,并将以“制度优势”实现网络信息内容生态构建的“治理优势”。     

总体国家安全观下的跨境数据流动安全治理研究

[目的/意义]在全球格局加速重构的信息化时代,经济全球化、网络全球化向纵深推进,催生出日渐频繁的跨境数据流动实践。加强跨境数据流动安全治理,是我国贯彻总体国家安全观、推进国家安全体系和能力现代化建设的应有之义。[研究设计/方法]借助文献研究、政策文本分析、案例研究等方法,深入探究我国跨境数据流动安全治理面临的现实困境及因应策略。[结论/发现]我国跨境数据流动安全治理面临多法并轨、监管离散、风险复杂、管辖冲突等现实困境。以总体国家安全观为指导,推进跨境数据流动安全治理的行动策略包括：坚持底线安全观,完善跨境数据流动法律规制体系;秉持共同安全观,统筹推进跨境数据流动安全监管;运用整体安全观,提升跨境数据流动风险管控效能;践行国际安全观,为全球数据安全治理贡献中国方案。[创新/价值]为全面贯彻落实总体国家安全观,防范化解因数据无序跨境流动引发的非传统安全风险,加强跨境数据流动安全治理提供实践进路参考。     

生成式人工智能数据安全风险及其应对

[目的/意义]生成式人工智能的广泛应用催生了多重数据安全风险,传统的回应型治理和集中式治理模式显然难以应对新挑战,而敏捷治理则以其灵活的姿态彰显了独特的优越性。[方法/过程]首先,梳理生成式人工智能在数据安全领域引发的多重风险,进而对三类治理模式在风险管理上的成效进行对比分析,在此基础上提出我国应当尽快实现治理模式转变。然后以此为指导,构建具体的治理制度。[结果/结论]敏捷治理模式凭借其适应性、柔韧性和包容性特质,为应对生成式人工智能等新兴技术的数据安全风险提供了有效的方案,能够在实践中不断优化生成式人工智能数据安全治理体系。在敏捷治理模式下,应当树立“预防与应对并重”的适应性治理理念,构建“多元参与,合作互动”的韧性治理机制,运用“技术叠加法律”的包容性治理工具,从而形成综合的生成式人工智能数据安全治理体系。     

规范个性化内容推送的“中国方案”

《网络信息内容生态治理规定》(以下简称《规定》)是我国在网络信息内容生态治理方面的一部重要立法,以部门规章的形式全面规定了政府、企业、社会、网民等主体在网络信息内容领域应遵循的要求。尤其是针对当前网络信息内容服务平台采用个性化算法推荐技术推送信息带来的问题,《规定》给出了一套全新的解决方案,体现了监管部门在逐步探索促使新技术从发展走向规范的“中国方案”。     

移动互联网环境下品牌信息内容呈现对消费者参与影响的理论模型研究

[目的/意义] 针对移动互联网环境下网络信息平台消费者参与质量问题,建立品牌信息内容呈现影响消费者参与的理论模型,详细探讨其影响机理,为网络信息平台持续发展提供参考。[方法/过程] 借鉴环境心理学的S-O-R模型研究范式,引入品牌认知和品牌情感两种消费者内在状态作为影响中介,分析移动互联网背景下品牌信息内容呈现对品牌认知、品牌情感以及消费者参与的影响模型和作用机理。[结果/结论] 初步构建不同种类品牌信息内容呈现影响消费者参与的理论模型,深入剖析相应影响机理,为品牌信息内容呈现管理实践和理论研究提供借鉴。     

区块链技术在网络舆情风险管理体系的应用研究

[目的/意义] 挖掘弹性管理和区块链理论在网络舆情风险管理体系建设的应用价值,克服传统管理体系的技术弊端,突破现有网络舆情风险管理的难点和痛点,提高网络舆情风险管理效率。[方法/过程] 基于网络舆情风险管理、弹性管理理论,确立网络舆情弹性风险管理的理论框架,进而应用区块链技术提出网络舆情风险管理系统体系,并对网络舆情风险识别和感知智慧分类账本、风险关联树以及智能合约进行详尽阐述。[结果/结论] 构建的舆情风险管理系统、区块链数据保障系统体系,及应用区块链技术的网络舆情风险识别和感知智慧分类账本、风险关联树、智能合约,使得舆情风险管理数据更安全、数据可追溯、组织弹性适应性更强,能有效指引有关系统开发,并增强网络舆情风险管理可控性、提高网络舆情风险管理效率。     

价值、路径与格局：中国式现代化背景下的舆论生态治理

中国式现代化背景下,舆论生态治理体现出增进社会认同、提升国家治理能力以及促进全球对话的新可能。鉴于实践与学理的双重需求,本文尝试提出“价值指向—实践路径—格局塑造”的治理思路。以“价值指向”构成舆论生态治理的底层图景,以“实践路径”厘清舆论生态治理的行动逻辑,以“格局塑造”达成舆论生态治理的终极目标。依据这样的治理思路,实现舆论生态治理在向度、效度和能度层面的辩证统一,实现治理过程中自由与秩序的平衡,推动舆论生态治理渐次铺展、稳中求进、取得成效。     

试论政府数据治理的内涵、生成背景与主要问题

[目的/意义] 政府数据治理问题研究是当前政府信息管理领域的前沿热点问题,对于有效衔接和推进政府信息公开、开放数据以及公共信息再利用等政府信息管理的关键问题具有重要理论指导意义。[方法/过程] 通过文献调研、概念比较、背景分析以及逻辑推导等方法,着重探讨政府数据治理概念的内涵与构成要素,并从数据驱动型行政、经济、社会以及数据风险防范等角度指出政府数据治理概念出现的必然性。[结果/结论] 站在宏观、中观和微观的不同视角详尽分析政府数据治理的主要内容和程序,进而指出其在体系结构的整体性、管理的有序化以及治理结构的耦合性、风险应对的紧迫性等方面的基本特征。最后,着重分析政府数据治理在与IT融合、内外融合以及价值融合过程中所面临的主要问题和挑战。     

网络生态治理新规出台的三大意义

《网络信息内容生态治理规定》(以下简称《规定》),是我国在网络信息内容管理方面的一部重要立法,系统回应了当前网络信息内容服务市场所面临的问题,全面规定了网络信息内容生产者、网络信息内容服务平台、网络信息内容服务使用者以及网络行业组织等主体应当遵守的管理要求。《规定》为促进网络信息内容生态健康有序发展提供了重要指引,为保护公民、法人和其他组织的合法权益,维护国家安全和公共利益提供了有力保障。     

我国乡村文化治理标准体系及推进方略

[目的 /意义]构建乡村文化治理国家标准—地方标准的二维层级体系,指引以标准化增强城乡文化均衡可及建设的治理实践。[方法 /过程]以《农村文化活动中心建设与服务规范》为核心的乡村文化治理国家推荐标准,在内容框架上围绕农村文化管理与服务的原则要求、基本内容、管理运维、评价改进提供规范指向,为均衡可及发展政策锚点下的多元实践样态探索提供支持。不同省市形成的“美丽乡村”“数字乡村”“未来乡村”“非遗乡村”文化治理地方标准体系,进一步规范乡村文化管理与服务的多元实践模式发展。[结果 /结论 ]我国乡村文化治理形成以国家标准为经、地方标准为纬的标准体系框架。现有标准体系尚缺乏乡村文化服务的区域差异指标、缺失乡村文化参与的多元共治规范和缺少乡村文化场景的具体实施细则等,公共部门应从全域治理标准体系、专项治理标准内容、数字治理标准进路和场景治理标准向度等方面予以完善。     

半月掇闻

集中开展打击网络侵权盗版专项行动中央宣传部、全国“扫黄打非”工作小组办公室、新闻出版总署、国家版权局、公安部等八部门近日发出通知,要求在全国范围集中开展一次打击网络侵权盗版行为的专项行动。这次专项治理是继中央宣传部等八部委组织“严厉打击盗版音像制品夏季行动”之后,又一次打击侵权盗版的重要举措,显示了中国政府采取有力措施保护知识产权的决心。这次行动也是迄今为止我国对网络侵权盗版行为规模最大、力度最强的一次专项治理。这次行动的重点是打击各种形式的网络侵权盗版行为,特别是依法查处“三无网站”和情节严重、影…     

应对不确定性挑战：算法敏捷治理的理论界定

[目的/意义]算法普及应用过程中的规则化转向,使得既有的“包容性自规制”或“规制性监管”路径不能很好回应算法治理的新特征与新需求,而算法敏捷治理作为“第三条道路”的重要性虽然得到承认,但其理论内涵尚不清晰。需要从应对不确定性挑战视角出发,对算法敏捷治理做出理论界定。[研究设计/方法]以理论演绎和案例分析为主要研究方法,在理论上总结了人工智能类算法技术及应用不确定性在治理维度的具体表现和治理挑战,进而以深度合成算法的风险治理、犯罪风险评估算法的公平性治理、信息服务推荐算法的责任治理为案例,提炼了算法敏捷治理的机制创新。[结论/发现]指出算法治理挑战体现在共同无知、目标模糊、关系依赖三个方面,而算法敏捷治理的机制创新涵盖共同学习、同行评议、反馈迭代等不同内容。[创新/价值]建构的算法敏捷治理的理论框架可为未来技术监管理论发展和实践改革提供基础和参考。     

北京警方将开微博主动与民众交流

国家版权局、公安部、工信部联合开展的2010打击网络侵权盗版专项治理“剑网行动”7月21日启动。该行动将持续到10月底,这也是自2005年以来组织的第六次网络专项行动。