生成式人工智能技术在带来深入的消费力革新时，也为监管管理提出新应战。如何促进其安康开展和标准应用？4月11日，国度互联网信息办公室发布《生成式人工智能效劳管理方法(征求意见稿)》(下称《意见稿》)，拟进一步强化相关主体义务，内容触及数据平安、个人信息维护、算法设计、内容合规等多个方面。

拟强化产品效劳提供者主体义务

依据《意见稿》，生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

《意见稿》第五条拟明白，应用生成式人工智能产品提供聊天和文本、图像、声音生成等效劳的组织和个人(以下称“提供者”)，包括经过提供可编程接口等方式支持别人自行生成文本、图像、声音等，承当该产品生成内容消费者的义务；触及个人信息的，承当个人信息处置者的法定义务，实行个人信息维护义务。

中国政法大学数据法治研讨院教授张凌寒表示，《意见稿》拟规则智能产品提供者承当内容产者的义务，实质在于请求企业承当起技术开发应可能形成的社会风险，以期构成担任任的智能。

南开大学法学院副院长、中国新一代人工智能开展战略研讨院特约研讨员陈兵教授指出，对生成内容消费者的认定是需求关注的重点。假如生成式人工智能产品提供者是生成内容的消费者，即应对详细数据信息的真实性、算法运用的恰当性等整个生成内容的过程担任。

在义务承当方面，陈兵补充道，假如作为消费者和提供者的平台尽到相应留意义务，鉴于其对创新开展的奉献，不宜施加其严厉义务，否则不利于技术的开发和将来商用。另外，关于运营公司能否需求承当相应的补充义务，应综合思索侵权范围、损伤水平以及平台防止损失扩展的才能。

广东财经大学法学院教授姚志伟表示，该条款主要是对生成式AI产品的法律义务停止划分。一是谁提供了产品，产品产生的内容谁来承当义务，这个是开发者的义务；另一个是个保法关于个人信息维护的义务。“在AI生成模型中，还有一个主体存在，即部署者，经过API接口接入AI模型的主体，目前来看，尚没有看到对这个主体的相关义务停止划分。”

海量的数据语料库是AIGC的运转根底，《意见稿》拟规则，提供者应当对生成式人工智能产品的预锻炼数据、优化锻炼数据来源的合法性担任。其中提到“数据包含个人信息的，应当征得个人信息主体同意或者契合法律、行政法规规则的其他情形。”

“此举是为了确保录入端数据的合法性。关于生成式AI而言，传统的同意机制会面临十分大的障碍，有待讨论新的办法来保证个人信息权益。”姚志伟说。

值得留意的是，《意见稿》第九条提出，提供生成式人工智能效劳应当依照《中华人民共和国网络平安法》规则，请求用户提供真实身份信息。但有采访对象指出，此处关于用户实名的场景和规范，或许还需进一步明白。

如何了解实名？姚志伟指出，实名包括强实名和弱实名，前者是指需求关联手机号码，而手机号码自身曾经实名；后者则是指必需提供用户包括姓名在内的真实信息。

清律律师事务所首席合伙人熊定中向记者指出，《网络平安法》中明白请求用户提供真实身份的场景主要包括入网、信息发布与通讯两种，而生成式人工智能效劳的用户输入信息行为，在大局部状况较少触及上述两种场景。《意见稿》第九条一定水平上含糊了其适用范围，在人工智能产业开展方兴未艾的当下，有必要对真实身份考证这一相对严厉的准入请求停止更为明白和慎重地设置。

增加人工智能算法透明度和可解释性

在事前检查方面，《意见稿》拟规则，应用生成式人工智能产品向公众提供效劳前，应当依照《具有言论属性或社会发动才能的互联网信息效劳平安评价规则》向国度网信部门申报平安评价，并依照《互联网信息效劳算法引荐管理规则》实行算法备案和变卦、注销备案手续。

“任何技术都是一把双刃剑。生成式AI产品作为高度聪慧化的人工智能形态，带给人类社会的便利与风险同在。”陈兵指出，对其停止事前检查，能及时发现其运作程序、效劳内容所存在的问题，提早鉴别某个行为能否违法，补偿外部监视的缺陷，加强AI产品的平安、可解释、可问责性，更好地预防风险。

“但同时，也可能存在因事前检查效率及检查范围设置不当而抑止生成式AI产品的研发与锻炼效能。客观上会招致生成式AI开展的降速。”陈兵提示道。

张凌寒表示，我国在信息内容平安范畴曾经有了较为完好的规则和理论。《意见稿》并未给成式AI创设很多新型监管，有很多链接其他算法监管规章的转致条款。当这些制度应于成式AI时，也请求根本说明功用原理、应范畴，评价报告等。“主要关注的还是在产品上线之前，企业有没有进相应的平安评价，以及能否有应对风险的才能。”

《意见稿》还提到，“生成式人工智能产品研制中采用人工标注时，提供者应当制定契合本方法请求，明晰、详细、可操作的标注规则”。

“这表现了法律层面关于人工智能的可解释性提出了更为细致的请求。”陈兵说道，这一方面能够保证生成式AI产品研制过程的透明化，防备平安风险；另一方面则能够经过明晰、详细、可操作的标注规则更好地对AI产品效劳停止管理，即现阶段在人工可控的范围内有序开展AI机器学习。

在信息公开方面，《意见稿》指出，提供者应当依据国度网信部门和有关主管部门的请求，提供能够影响用户信任、选择的必要信息，包括预锻炼和优化锻炼数据的来源、范围、类型、质量等描绘，人工标注规则，人工标注数据的范围和类型，根底算法和技术体系等。

“这能够看作是我国在算法监管范畴请求的透明度义务在成式AI范畴的详细化。”张凌寒以为，成式AI能够作为问答型的信息效劳具，当户依照其提供的信息去做出为和选择时，内容的提供者有必要停止标注，比方信息来源于专业站，或根据的数据并不全、存在争议等。此外，如何从技术语转化为户能够了解的必要信息，还需求继续探究。

在陈兵看来，这一请求使隐私权、个人信息权益维护不再仅局限于被动的事后救济，使维护链条前移，更积极有效地标准AI锻炼过程，有助于加强用户信任，使生成式AI产品更好地开展。

内容合规理论落地中

一段时间以来，应用AI生成虚假信息、歧视内容的事情频频发作。在内容合规方面，《意见稿》拟请求，应用生成式人工智能生成的内容应当表现社会主义中心价值观，不得含有推翻国度政权、推翻社会主义制度，怂恿团结国度、毁坏国度统一，鼓吹恐惧主义、极端主义，鼓吹民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济次序和社会次序的内容。同时对歧视性内容作出规则。

“从AI生成内容合规的结果请求来看，AIGC的管理在实质上和UGC的管理是分歧的。”某资深网络平安行业从业者向南财记者剖析，二者都需求在内容消费和发布过程中对违规内容停止检查和处置，从内容过滤的角度看，运用的办法是相通的。

有相关从业者向记者透露，目前在AIGC内容审核范畴，曾经相对明白的规范是相关应用需经过网信办双新评价，即“互联网新闻信息效劳新技术新应用平安评价”，且同一个大模型在不同场景中的应用都需求经过该评价。

4月11日当天，阿里云在北京云峰会宣布将开放通义千问的才能，协助每家企业打造本人的专属大模型，记者向其理解通义千问将采取哪些措施保证内容契合相关政策法规请求时，其相关担任人表示，阿里方面会严厉依照监管请求，执行相关规则。

记者同样向百度方面讯问了文言一心将采取哪些详细措施保证内容合规，其相关担任人则表示目前暂不便当对外透露。

相关企业相对慎重的态度也并非不可了解——虽然从生成结果合规的角度看原理分歧，但相较于UGC，AIGC需求采取的处置措施显然更为复杂。

上述网络平安从业者剖析，在前置端，用于AI学习的内容，无论是文本还是音视频，其自身就需求提早审核，相关请求已在《意见稿》中有所表现；在后置端，AI还需求具备一种才能，即发现违规内容时，要具备追溯其生成相关内容的学习“资料”才能，并判别是需求调整原始学习素材，抑或是修正模型参数，或是其他方式防止相关状况再次呈现。

在事中、事后处置阶段，《意见稿》拟请求提供者树立用户投诉接纳处置机制，并且，关于运转中发现、用户告发的不契合本方法请求的生成内容，除采取内容过滤等措施外，应在3个月内经过模型优化锻炼等方式避免再次生成。

“整改优化的结果考证应落实于技术理论，辅之以监管保证。”陈兵表示，应设定技术运用的根本门槛，落实于理论试用，加之定期和不定期的监测，保证其整改优化结果的平安性与可信度。在优化整改后，可经过人工测试模仿运转、“监管沙盒”以及设置监管过渡期等方式，检验其整改后能否仍存在不契合规则的生成内容。

“生成式AI带来了反动性的变化，这种变化不亚于互联网创造的革新。”姚志伟在谈及监管思绪时强调，面对新兴的反动性技术，一方面要划定底线，保证国度平安和公共平安；另一方面，也应发明宽松的监管环境，促进新兴技术和产业的开展，为国内产业增强国际竞争力发明良好条件。

“能够采取二元化的战略，关于危害到国度平安和公共平安的问题，列出明晰的规则，划定底线停止监管。而关于个人信息维护、学问产权侵权、人格权侵权问题，则能够先察看和等候。待产业理论更成熟、可供参考的海外经历更多的状况下，再进一步监管也不迟。 ”姚志伟表示。