GB∕T 45654-2025 网络安全技术生成式人工智能服务安全基本要求

替代情况：被代替

大小：931 KB 文件后缀：.pdf

人气：0℃ 解压密码：www.bzfxb.com

下载积分：0 积分（1元等于10积分点击了解积分获取方法）

评论：发表评论错误报告

下载：前往下载地址

TAG：网络安全技术生成式人工智能服务安全

软件简介

GB∕T 45654-2025 网络安全技术生成式人工智能服务安全基本要求

网络安全技术生成式人工智能服务

安全基本要求

1 范围

本文件规定了生成式人工智能服务在训练数据安全、模型安全、安全措施等方面的要求。

本文件适用于服务提供者开展生成式人工智能服务相关活动,也为相关主管部门以及第三方评估

机构提供参考。

注:训练数据及生成内容涉及的主要安全风险见附录 A,生成式人工智能服务安全评估参考方法见附录 B。

2 规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中,注日期的引用文

件,仅该日期对应的版本适用于本文件;不注日期的引用文件,其最新版本(包括所有的修改单)适用于

本文件。

GB/T25069 信息安全技术术语

3 术语和定义

GB/T25069界定的以及下列术语和定义适用于本文件。

3.1

生成式人工智能服务 generativeartificialintelligenceservice

利用生成式人工智能技术向公众提供生成文本、图片、音频、视频等内容的服务。

3.2

服务提供者 serviceprovider

以交互界面、可编程接口等形式提供生成式人工智能服务的组织或个人。

3.3

分类模型 classificationmodel

对给定输入数据,输出其所属的一个或多个类别的机器学习模型。

[来源:GB/T41867—2022,3.2.6]

3.4

训练数据 trainingdata

所有直接作为模型训练输入的数据。

注:包括预训练数据和优化训练数据。

3.5

生成式人工智能数据标注 generativeartificialintelligencedataannotation

通过人工操作或使用自动化技术机制,基于对提示信息的响应信息内容,将特定信息如标签、类别

或属性添加到文本、图片、音频、视频或者其他数据样本的过程。

注:以下简称“数据标注”。

3.6

功能性数据标注 functionaldataannotation

用于训练生成式人工智能模型具备完成特定任务能力的数据标注。

3.7

安全性数据标注 securitydataannotation

用于训练生成式人工智能模型提升输出响应信息安全性的数据标注。

4 训练数据安全要求

4.1 数据来源安全

4.1.1 数据来源选择

对服务提供者的要求如下。

a) 面向拟采集的数据来源进行采集前,应对该数据来源进行随机抽样安全评估,经评估数据内容

中含违法不良信息情况超过5%的,不应对该数据来源进行采集。

b) 数据采集后,应对每个来源的已采集数据进行随机抽样安全核验,经核验数据内容中含违法不

良信息情况超过5%的,不应将该来源数据用作训练数据。

注1:本文件关注的违法不良信息主要是指包含附录 A 中 A.1~A.4中29种安全风险的信息。

注2:数据来源是指一个域名、一个数据提供方,或一个开源训练数据集等。

注3:抽样安全评估、抽样安全核验方式包括人工抽检、关键词抽检、分类模型抽检等。

4.1.2 不同来源训练数据搭配

对服务提供者的要求如下。

a) 应提高训练数据来源的多样性,对每一种语言的训练数据,如中文、英文等,以及每一种类型的

训练数据,如文本、图片、音频、视频等,均应有多个训练数据来源。

b) 如需使用境外来源训练数据,应合理搭配境内外来源训练数据。

4.1.3 训练数据来源管理及追溯

对服务提供者的要求如下。

a) 使用开源训练数据时,应遵循该数据来源的开源许可协议或取得相关授权文件。

注1:对于汇聚了网络地址、数据链接等能够指向或生成其他数据的情况,如需使用这些被指向或生成的内容作为

训练数据,将其视同于自采训练数据。

b) 使用自采训练数据时,应具有采集记录,不应采集他人已明确不可采集的数据。

注2:自采训练数据包括自行生产的数据以及自行从互联网采集的数据。

注3:明确不可采集的数据,例如已通过爬虫协议(robots协议)或其他限制采集的技术手段明确表明不可采集的网

页数据,或个人已拒绝授权采集的个人信息等。

c) 使用商业训练数据时:

———应有具备法律效力的交易合同、合作协议等;

———交易方或合作方不能提供数据来源、质量、安全等方面的承诺以及相关证明材料时,不应

使用该训练数据;

———应对交易方或合作方所提供的训练数据、承诺以及相关证明材料进行审核。

d) 将使用者输入信息用作训练数据时,应具有使用者授权记录。

4.2 数据内容管理

4.2.1 训练数据内容过滤

对于每一种类型的训练数据,如文本、图片、音频、视频等,应在将数据用于训练前,对全部训练数据

进行过滤,过滤方法包括但不限于关键词、分类模型、人工抽检等,去除数据中的违法不良信息。

4.2.2 知识产权保护

对服务提供者的要求如下。

a) 应具备训练数据知识产权管理策略和规则,并明确负责人。

b) 涉及知识产权的,不应侵害他人依法享有的知识产权。

c) 应建立针对知识产权问题的投诉举报渠道,并及时根据国家政策以及第三方投诉情况更新知

识产权相关策略。

d) 应在用户服务协议中,向使用者告知使用生成内容的知识产权相关风险,并与使用者约定相关

责任与义务。

4.2.3 个人信息保护

对服务提供者的要求如下。

a) 在使用包含个人信息的训练数据前,应取得对应个人同意或者符合法律、行政法规规定的其他

情形。

b) 在使用包含敏感个人信息的训练数据前,应取得对应个人单独同意或者符合法律、行政法规规

定的其他情形。

4.3 数据标注安全

4.3.1 标注人员管理

对服务提供者的要求如下。

a) 应组织对标注人员的安全培训,培训内容应包括相关法律法规、标注任务规则、标注平台或工

具使用方法、标注内容质量核验方法、标注内容安全性核验方法、标注数据安全管理要求等。

b) 应对标注人员进行考核,给予合格者标注上岗资格,并有定期重新培训考核以及必要时暂停或

取消标注上岗资格的机制,考核内容应包括相关法律法规知识、标注规则理解能力、标注平台

或工具使用能力、安全风险判定能力、数据安全管理能力等。

c) 应将标注人员职能至少划分为标注执行、标注审核等;在同一项标注任务中,标注执行人员和

标注审核人员不应由同一人员承担。

4.3.2 标注规则

对服务提供者的要求如下。

a) 标注规则应至少包括标注目标、数据格式、标注方法、质量指标等内容。

b) 应对功能性数据标注以及安全性数据标注分别制定标注规则,标注规则应至少覆盖标注执行

以及标注审核等环节。

c) 功能性标注规则应指导标注人员按照特定领域特点生产具备真实性、准确性、客观性、多样性

的标注数据。

d) 安全性标注规则应指导标注人员围绕训练数据以及生成内容的主要安全风险进行标注,宜覆

盖附录 A 中全部31种安全风险。

下载地址

下载地址1|需0积分
VIP会员1|需0积分

下载说明：

审核通过有积分哦。

②无法弹出下载页面，请检查浏览器是否禁止弹出页面，或更换浏览器进行重试；也可使用右键打开文件连接试试！！

③免费资源下载弹出页面下载失败可稍等刷新重试，提示文件已删除请联系网站解决！！

④标准出现数据错误或其它问题请点击上方「错误报告」通知站长，感谢您的反馈！

⑤本站资源均来源于互联网，仅供网友学习交流，若侵犯了您的权益，请联系我们予以删除；

⑥在本站找不到您需要的规范和图集，但在其他网站可以找到希望增加资料的【请在下面留言】。

二杆子资料网

GB∕T 45654-2025 网络安全技术生成式人工智能服务安全基本要求

软件简介

下载地址

相关阅读

评论留言

栏目分类

推荐

热门下载

二杆子资料网

GB∕T 45654-2025 网络安全技术 生成式人工智能服务安全基本要求

软件简介

下载地址

相关阅读

评论留言

栏目分类

推荐

热门下载

GB∕T 45654-2025 网络安全技术生成式人工智能服务安全基本要求