关键条款理解与适用-生成式人工智能服务安全基本要求

北京雷腾律师事务所  ꄲ  雷腾知库  ꄲ  关键条款理解与适用-生成式人工智能服务安全基本要求
2024 年 3 月5 日，由全国网络安全标准化技术委员会（SAC/TC260）编纂的生成式人工智能服务安全基本要求发布（下称 基本要求 ）
摘要
  1. 评估意义 ：明确了AIGC 服务提供者在向备案部门备案时，需要提供安全评估报告
  2. 评估要求： 基本要求中，明确了安全评估报告中关于提供 AIGC 服务应当满足的 安全要求 ，包括语料来源、语料内容（对接网络信息内容生态治理的相关规定）、语料标注、模型安全要求、安全措施要求
  3. 评估方式 ：安全评估可自行进行，也可以委托第三方服务机构进行。
  4. 可能的责任 ：未评估或者评估不合格的将无法备案，未备案情况下在向中华人民共和国境内的公众 提供 AIGC 服务时，相关主体（个人、实体） 可能涉及到警告、罚款等行政责任，构成犯罪的，依法追究刑事责任。（生成式人工智能管理办法第 21 条）
 

详解-生成式人工智能服务安全基本要求

相关实体、个人

关键条款-理解与适用

服务提供者 service provider
以交互界面、可编程接口等形式提供生成式人工智能服务的组织或个人
  • 理解： 服务提供者 ：提供 API 接口服务、以及通过网站、APP、小程序等可交互界面提供生成式人工智能服务的主体，包括个人与实体
  • 适用 ：本安全标准适用如下实体
  • Kimichat-月之暗面（境内实体）
  • Kimichat:该主体通过 APP 和网站等可交互界面提供生成式人工智能服务
 
 

 

 
    • MOONSHOT开放平台：该 平台属于安全服务基本要求中所提到的可编程接口形式提供服务的服务提供者
    • 因此，北京月之暗面科技有限公司属于本次基本要求适用范围。
       
       
       
    • Vmake.ai（境外实体）
    • hayo.com(香港实体）
    • 境内个人、境外个人暂不予举例说明
利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务
理解与适用 ：该类服务也就是我们常说的 文生图、文生视频等服务，以下是实际场景例举

 
服务提供者在按照有关要求履行备案手续时，按照本文件第9章要求进行安全评估， 并提交评估报告。
  • 理解 ：备案需要进行安全评估或者提交评估报告
  • 适用 ：若未进行安全评估或者未通过安全评估，则无法备案，而没有备案即提供 AIGC 服务的，可能涉及行政责任，涉嫌犯罪的，可能涉及刑事责任。
     
     
c）语料来源可追溯方面：
1）使用开源语料时，应具有该语料来源的开源许可协议或相关授权文件。
  • 理解 ：使用开源授权语料需要提供许可协议或者授权文件。
  • 适用 ：企业法务或者独立开发者，需要准备相关文件。
 
2）使用自采语料时，应具有采集记录，不应采集他人已明确不可采集的语料；
  • 理解 ：自采语料不得采集明确表明或者通过技术手段表明不可采集的语料和个人已经拒绝授权采集的个人信息。
  • 适用 ：企业或者独立开发者自采语料作为训练集时应判断是否存在上述情况，企业内部安全培训时也应当明确这一点。
 
3）使用商业语料时：
—— 应有具备法律效力的交易合同、合作协议等；
—— 交易方或合作方不能提供语料来源、质量、安全等方面的承诺以及相关证明材 料时，不应使用该语料；
—— 应对交易方或合作方所提供语料、承诺、材料进行审核。
理解 ：“确定语料商业性来源的途径；不属于商业或者开源的语料来源可能涉及知识产权侵权风险。
适用 ：
  1. 利好IP运营企业，如阅文
  2. 利好数据交易平台、训练用数据集提供公司
相关企业可着力打造相关业务模式。
 
对服务提供者的要求如下。
a）语料内容过滤方面：应采取关键词、分类模型、人工抽检等方式，充分过滤全部语料中的违法不良信息。
  • 理解 ：违法不良信息的范围，来自网络内容生态治理规定第 6 条与第 7 条

 
  • 适用 ：关键在于兜底条款：“其他法律、行政法规禁止的内容”，作为兜底条款，为后期监管法规的变更留下了相应的空间。
 
2）服务用于关键信息基础设施，以及如自动控制、医疗信息服务、心理咨询、金融 信息服务等重要场合的，应具备与风险程度以及场景相适应的保护措施；
理解 ：保护措施是指，采用的保护措施应当符合《网络安全法》《数据安全法》及相应部门规章、国家标准中对于关键信息基础设施以及其他场景的相应的保护措施，具体监管法规如
  • ⚙️通用：
    • 《网络安全法》
    • 《数据安全法》
    • 关键信息基础设施安全保护条例
    • GB/T 39204-2022信息安全技术 关键信息基础设施安全保护要求
  • 💰金融场景：
    • GB/T 41462-2022基于文本数据的金融风险防控要求
    • 中国人民银行业务领域数据安全管理办法（征求意见稿）
  • 🏥医疗场景：GB/T 39725-2020信息安全技术 健康医疗数据安全指南
  • 🚗智能驾驶场景：国家车联网产业标准体系建设指南（智能网联汽车）（2023 版）
 
适用 ：实体或者个人针对上述场景提供 AIGC服务 或者产品时，如 提供金融信息 AI简报 、 量化交易 、 智慧城市 、金融监管、自动驾驶决策等服务时，需要确定符合上述交管法规的要求。
 
3）服务适用未成年人的：
—— 应允许监护人设定未成年人防沉迷措施；
—— 不应向未成年人提供与其民事行为能力不符的付费服务；
—— 应积极展示有益未成年人身心健康的内容。
4）服务不适用未成年人的，应采取技术或管理措施防止未成年人使用。
 
b）服务透明度方面：
1）以交互界面提供服务的，应在网站首页等显著位置向社会公开服务适用的人群、场合、用途等信息，宜同时公开基础模型使用情况；
2）以交互界面提供服务的，应在网站首页、服务协议等便于查看的位置向使用者公开以下信息：
—— 服务的局限性；
—— 所使用的模型、算法等方面的概要信息；
—— 所采集的个人信息及其在服务中的用途。
3）以可编程接口形式提供服务的，应在说明文档中公开 1）和 2）中的信息。
c）当收集使用者输入信息用于训练时：
1）应为使用者提供关闭其输入信息用于训练的方式，例如为使用者提供选项或语音
控制指令；关闭方式应便捷，例如采用选项方式时使用者从服务主界面开始到达
该选项所需操作不超过4次点击；
2）应将收集使用者输入的状态，以及 1）中的关闭方式显著告知使用者
 
b）知识产权方面：
1）应设置语料以及生成内容的知识产权负责人，并建立知识产权管理策略；
2）语料用于训练前，应对语料中的主要知识产权侵权风险进行识别，发现存在知识产权侵权等问题的，服务提供者不应使用相关语料进行训练；例如，语料中包含文学、艺术、科学作品的，应重点识别语料以及生成内容中的著作权侵权问题；
 
3）应建立知识产权问题的投诉举报渠道；
4）应在用户服务协议中，向使用者告知使用生成内容时的知识产权相关风险，并与使用者约定关于知识产权问题识别的责任与义务；
5）应及时根据国家政策以及第三方投诉情况更新知识产权相关策略；
6）宜具备以下知识产权措施：
—— 公开语料中涉及知识产权部分的摘要信息；
—— 在投诉举报渠道中支持第三方就语料使用情况以及相关知识产权情况进行查询。
c）个人信息方面：
1）在使用包含个人信息的语料前，应取得对应个人同意或者符合法律、行政法规规定的其他情形；
2）在使用包含敏感个人信息的语料前，应取得对应个人单独同意或者符合法律、行政法规规定的其他情形。
对服务提供者的要求如下。
a）如需基于第三方基础模型提供服务，应使用已经主管部门备案的基础模型。

 

 

g）向使用者提供服务方面：

1）应采取关键词、分类模型等方式对使用者输入信息进行检测，使用者连续三次或一天内累计五次输入违法不良信息或明显诱导生成违法不良信息的，应依法依约采取暂停提供服务等处置措施；

2）对明显偏激以及明显诱导生成违法不良信息的问题，应拒绝回答；对其他问题，应均能正常回答；

3）应设置监看人员，并及时根据监看情况提高生成内容质量及安全，监看人员数量应与服务规模相匹配。

注：监看人员的职责包括及时跟踪国家政策、收集分析第三方投诉情况等

  • 理解 ：实际含义是指，若服务提供者向未成年人提供服务的以及若不向未成年人提供服务的，应当采取何种措施
  • 适用 ：
    1. 若向未成年人提供服务，AIGC 服务提供者需要
    1. 需要允许监护人设置防沉迷
    2. 不向未成年人提供与其年龄不符的付费服务（若合同无效、会退费）
    3. 展示有利于未成年人身心健康的内容
    4. 根据未成年人网络保护条例，具体合规要求如下：
     
    b.若不向未成年人提供服务 ，需要采取技术或者管理措施防止未成年人使用。
     
     
    b.以 API 形式提供服务的 ，应当在说明文档中展示上述信息
     
    • 理解 ：特定位置的信息展示义务
    • 适用 ：有交互界面 orAPI形式
      1. 有交互界面的（如网站、app）应当在首页或者显著位置 or 首页或者服务协议等便于查看的位置展示相关信息，具体如下
         
      1. 显著位置 ：服务适用的人群、 场合、用途等信息，宜同时公开基础模型使用情况
      2. 便于查看的位置 ：网站首页、服务协议等便于查看的位置，展示：
         
      1. 服务的局限性；
      2. 所使用的模型、算法等方面的概要信息；
      3. 所采集的个人信息及其在服务中的用途。
    • 理解 ：收集对话信息用于训练时，服务提供者需要
    1. 服务提供者需要提供 便捷的关闭选项 （操作不超过四步）
    2. 内容标识的要求如语料标注规则，具体可查看：一文读懂-生成式人工智能服务安全基本要求-关键条款理解与适用 > 语料安全详解图
     
    • 理解 ：本条款规定了服务提供者需要履行的义务，包括知识产权和个人信息保护相关的内容
    • 适用 ：
      • 对非商用或者开源途径获取的语料需要进行知识产权侵权风险的识别
      • 设立企业内部的知识产权管理策略和管理人
      • 获取个人信息需要依据种类不同获得用户同意或者单独同意
      1. 个人信息保护法第 13 条、29 条等
      2. 《 信息安全技术 移动互联网应用程序（App）收集个人信息基本要求 》
      3. 《常见类型移动互联网应用程序必要个人信息范围规定》

    • 理解 ：应当限制或者停止用户使用 AIGC 服务的情形

    • 适用 ：如下情形

      1. 使用者连续三次或一天内累计五次输入违法不良信息或明显诱导生成违法不良信息的

      2. 对明显偏激以及明显诱导生成违法不良信息的问题，应拒绝回答；对其他问题， 应均能正常回答

      3. 应设置监看人员，并及时根据监看情况提高生成内容质量及安全，监看人员数量 应与服务规模相匹配。

         

 
 
 

 

ꂃ前一个： 无
ꁹ后一个： 无