1.登录中华人民共和国司法部中国政府法制信息网(www.moj.gov.cn、www.chinalaw.gov.cn)，进入首页主菜单的“立法意见征集”栏目提出意见。

2.经过电子邮件方式发送至：wajscy@cac.gov.cn。

3.经过信函方式将意见寄至：北京市海淀区阜成路15号国度互联网信息办公室网络安全和谐局，邮编100048，并在信封上注明“生成式人工智能效劳管理办法征求意见”。

意见反响截止时间为2023年5月10日。

国度互联网信息办公室

2023年4月11日

生成式人工智能效劳管理办法

(征求意见稿)

第一条 为促进生成式人工智能安康展开和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息维护法》等法律、行政法规，制定本办法。

第二条 研发、应用生成式人工智能产品，面向中华人民共和国境内公众提供效劳的，适用本办法。

本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

第三条 国度支持人工智能算法、框架等基础技术的自主创新、推行应用、国际协作，鼓舞优先采用安全可信的软件、工具、计算和数据资源。

第四条 提供生成式人工智能产品或效劳应当遵守法律法规的恳求，尊重社会公德、公序良俗，契合以下恳求：

(一)应用生成式人工智能生成的内容应当表现社会主义中心价值观，不得含有推翻国度政权、推翻社会主义制度，鼓动团结国度、破坏国度统一，宣扬恐惧主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济次序和社会次序的内容。

(二)在算法设计、锻炼数据选择、模型生成和优化、提供效劳等过程中，采取措施防止呈现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

(三)尊重学问产权、商业道德，不得应用算法、数据、平台等优势实施不公平竞争。

(四)应用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

(五)尊重他人合法利益，防止伤害他人身心安康，损伤肖像权、名誉权和个人隐私，侵犯学问产权。遏止非法获取、披露、应用个人信息和隐私、商业秘密。

第五条 应用生成式人工智能产品提供聊天和文本、图像、声音生成等效劳的组织和个人(以下称“提供者”)，包括经过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容消费者的义务；触及个人信息的，承担个人信息处置者的法定义务，实行个人信息维护义务。

第六条 应用生成式人工智能产品向公众提供效劳前，应当按照《具有行动属性或社会发起才干的互联网信息效劳安全评价规则》向国度网信部门申报安全评价，并按照《互联网信息效劳算法举荐管理规则》实行算法备案和变卦、注销备案手续。

第七条 提供者应当对生成式人工智能产品的预锻炼数据、优化锻炼数据来源的合法性担任。

用于生成式人工智能产品的预锻炼、优化锻炼数据，应满足以下恳求：

(一)契合《中华人民共和国网络安全法》等法律法规的恳求；

(二)不含有侵犯学问产权的内容；

(三)数据包含个人信息的，应当征得个人信息主体同意或者契合法律、行政法规规则的其他情形；

(四)能够保证数据的真实性、准确性、客观性、多样性；

(五)国度网信部门关于生成式人工智能效劳的其他监管恳求。

第八条 生成式人工智能产品研制中采用人工标注时，提供者应当制定契合本办法恳求，明晰、细致、可操作的标注规则，对标注人员中止必要培训，抽样核验标注内容的正确性。

第九条 提供生成式人工智能效劳应当按照《中华人民共和国网络安全法》规则，恳求用户提供真实身份信息。

第十条 提供者应当明白并公开其效劳的适用人群、场所、用途，采取恰当措施防范用户过火依赖或沉浸生成内容。

第十一条 提供者在提供效劳过程中，对用户的输入信息和运用记载承担维护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和运用情况中止画像，不得向他人提供用户输入信息。法律法规另有规则的，从其规则。

第十二条 提供者不得根据用户的种族、国别、性别等中止带有歧视性的内容生成。

第十三条 提供者应当树立用户投诉接纳处置机制，及时处置个人关于更正、删除、屏蔽其个人信息的央求；发现、知悉生成的文本、图片、声音、视频等损伤他人肖像权、名誉权、个人隐私、商业秘密，或者不契合本办法恳求时，应当采取措施，中止生成，防止危害持续。

第十四条 提供者应当在生命周期内，提供安全、稳健、持续的效劳，保证用户正常运用。

第十五条 关于运转中发现、用户揭发的不契合本办法恳求的生成内容，除采取内容过滤等措施外，应在3个月内经过模型优化锻炼等方式防止再次生成。

第十六条 提供者应当按照《互联网信息效劳深度合成管理规则》对生成的图片、视频等内容中止标识。

第十七条 提供者应当根据国度网信部门和有关主管部门的恳求，提供可以影响用户信任、选择的必要信息，包括预锻炼和优化锻炼数据的来源、范围、类型、质量等描画，人工标注规则，人工标注数据的范围和类型，基础算法和技术体系等。

第十八条 提供者应当指导用户科学认识和理性运用生成式人工智能生成的内容，不应用生成内容损伤他人形象、名誉以及其他合法权益，不中止商业炒作、不合理营销。

用户发现生成内容不契合本办法恳求时，有权向网信部门或者有关主管部门揭发。

第十九条 提供者发现用户应用生成式人工智能产品过程中违犯法律法规，违犯商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造渣滓邮件、编写恶意软件，实施不合理的商业营销等，应当暂停或者终止效劳。

第二十条 提供者违犯本办法规则的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息维护法》等法律、行政法规的规则予以处分。

法律、行政法规没有规则的，由网信部门和有关主管部门依据职责给予正告、通报批判，责令限期矫正；拒不矫正或者情节严重的，责令暂停或者终止其应用生成式人工智能提供效劳，并处一万元以上十万元以下罚款。构成违犯治安管理行为的，依法给予治安管理处分；构成犯罪的，依法清查刑事义务。

第二十一条 本办法自2023年 月 日起实施。