全国首个《人工智能法示范法1.0》发布
发布时间:2023年08月21日

8月16日,中国社会科学院国情调研重大项目《我国人工智能伦理审查和监管制度建设状况调研》起草组发布《人工智能法示范法 1.0(专家建议稿)》。

据悉,《示范法》涵盖总则、工智能支持与促进、人工智能管理制度、人工智能研发者和提供者义务、人工智能综合治理机制、法律责任和附则七大章节。总体来看,《示范法》坚持发展与安全并行的中国式治理思路,提出了负面清单管理等治理制度,并对人工智能产业链条各主体责任义务分配等核心问题进行了回应。

《人工智能法示范法 1.0(专家建议稿)》中,专家强调以国家机关的先行先试促进人工智能的推广应用,采用负面清单管理制度对人工智能进行风险管理,负面清单内的研发、提供活动采取许可机制,实行事前监管;负面清单外的研发、提供活动则采取备案机制,事后监管机制,并提出应设置“国家人工智能主管机关,负责统筹人工智能发展和管理”,同时相关部门应坚持发展导向,设计了尽职免责等相应条款,以为人工智能创新活动提供宽松政策环境。

在何种契机、背景下开始制定工作的?

2022年,生成式AI发展为人工智能发展注入一针强心剂。与此同时,全球都在展开人工智能的发展与规则体系建立的“军备竞赛”。如何通过立法来贡献出具有中国特色的AI治理路径,关系着行业发展、社会进步与公众生活,有必要对行业发展情况以及伴生风险进行广泛的调研、深入的探讨。

示范法起草团队成员来自于中国社会科学院国情调研重大项目《我国人工智能伦理审查和监管制度建设状况调研》课题组,长期研究人工智能发展与治理,结合产业发展动态以及国内外人工智能发展最新进展给出建议。

2023年上半年以来,在持续、长期追踪研究人工智能发展、监管的基础上,组建了来自学界、智库等专业人士的专家团队,经多次调研、讨论、修改,起草形成《示范法》。

《示范法》立足时代前沿,把握人工智能发展规律和全球治理趋势,在为国家相关立法提供参考的同时,也期待通过1.0、2.0及至N.0的迭代讨论,不断适应人工智能发展安全态势,更好推动凝聚依法发展和治理人工智能的共识。

主要结构和创新点

《示范法》分为六章,包括人工智能基本原则,促进发展举措、风险管理制度、主体责任分配、治理机制设计、法律责任。

总体来看,起草说明具有如下创新点:

一是明确人工智能主管机关。《示范法》为避免产生多头监管等问题,创设性提出设置国家人工智能主管机关统筹负责全国范围内人工智能发展与管理工作。

二是划明安全底线。《示范法》明晰不同行为主体的责任,针对人工智能特点及其风险提出规制措施。

三是促进发展有实招。《示范法》坚持发展方向,采取有效措施鼓励生成式人工智能创新发展,在制度设计上留出更多容错空间。

四是科学设计主体架构。《示范法》按“研发者-提供者-使用者”三类主体进行制度设计,跳出具体应用场景,直接穿透底层技术逻辑。

主体责任和义务分配上遵循何种原则?

近年来风险分类分级管理已成为治理思路,《示范法》一定程度上沿袭了该思路,但起草组认为,人工智能发展日新月异,应在管理制度给予宽松尺度,因此设计了负面清单管理制度,负面清单内的研发、提供活动采取许可机制,实行事前监管;负面清单外的研发、提供活动则采取备案机制,事后监管机制,大幅减轻人工智能研发、提供等活动的审查成本。

在义务分配上,《示范法》将人工智能研发者、提供者义务,分为一般规定、研发者义务、提供者义务,在强调发展的同时,人工智能涉及的相应主体也应承担相应责任,比如公平性义务、可解释性义务、科技伦理审查、安全审查,并且应将安全义务贯穿于人工智能活动整个生命周期,将人工智能治理的基本原则转化为企业可落地、监管可监督的义务类型。

同时基于人工智能产业链的特殊情况,对人工智能研发者、提供者分配了在其活动范围内的义务类型。

最后,结合《示范法》设定的负面清单管理制度,负面清单内的人工智能研发者、提供者以及基础模型研发者进一步规定了相应的义务类型,保障义务与风险一致,坚守安全底线。

在基本原则的指导下,《示范法》清晰阐述义务类型,实现了有章可循。一是明确了研发者和提供者需要遵守的一般性义务,将抽象的原则转化为具体行为,比如建立覆盖全生命周期的风险管理制度。二是基于研发者和提供者不同的活动性质,提出了各自的义务,比如研发者更侧重于训练数据处理、模型开发和测试期间的义务,提供者更侧重于向用户提供产品、服务阶段的义务。

为何将“国家人工智能办公室”作为主管机关?

在综合治理机制上,针对此前互联网平台时代治理的九龙治水困境,《示范法》创设性提出设置国家人工智能主管机关,负责统筹人工智能发展和管理。示范法明确了国家人工智能办公室是人工智能发展和管理的主管机关,其职责包括制定人工智能监管规则、指引,组织制定人工智能伦理、安全、管理等方面标准;组织人工智能技术监测、评估、审计工作等。

需要说明的是,《示范法》设计阶段,起草组提出两种思路,一是设置主管机关统筹人工智能发展与管理,二是根据此前各个部门职责,设计人工智能时代相应的管理规章。最终,选择了设置一个单独的主管机关模式,起草组起草团队认为应以更高维度来对待人工智能治理问题。

要点摘录

本文摘录《人工智能法示范法 1.0(专家建议稿)》部分要点如下:

人工智能法示范法1.0(专家建议稿)

中国社会科学院国情调研重大项目

《我国人工智能伦理审查和监管制度建设状况调研》课题组

第一章  总则

  • 第四条(以人为本原则) 从事人工智能研发、提供和使用活动应当以人为本、智能向善,确保人类能够始终监督和控制人工智能,始终以促进人类福祉为最终目标。

  • 第五条(安全原则) 从事人工智能研发、提供和使用活动,应当采取必要措施保障所研发、提供和使用的人工智能及其相关网络数据的安全。

  • 第七条(可问责原则) 从事人工智能研发、提供和使用活动,应当分别对其研发、提供和使用活动负责。

第二章  人工智能支持与促进

  • 第十五条(人工智能发展规划) 国家实施新一代人工智能发展规划,坚持人工智能研发攻关、产品应用和产业培育共同推进,全面支撑科技、经济、社会发展和国家安全。

  • 省级以上人民政府应当将人工智能发展纳入本级国民经济和社会发展规划,并根据需要制定人工智能发展规划。

  • 第二十条(专业人才培养) 国家支持高等院校完善人工智能领域学科布局,设立人工智能专业,推动人工智能领域一级学科建设。

  • 鼓励高等学校、科研机构和企业等开展面向人工智能领域重大科学前沿问题的基础理论研究和关键共性技术研发,承担重大科技和产业创新专项。

  • 国家支持建立有利于促进人工智能发展的项目管理创新机制、创新人才评定机制、科技成果转化激励机制等。

  • 第二十一条(财政资金支持) 国家鼓励各地方各部门发挥投资引导基金扶持作用,聚焦人工智能核心领域与关键环节开展专项扶持。

  • 国家鼓励社会资本参与人工智能产业发展。