大家好,首先做一个简单的自我介绍,本人目前从事数据安全行业,之前有过网络安全、等级保护的工作经历。现在个人的目标是成为一名数据安全合规方向的资深人士。我会不定期解读输出一些数据安全、个人信息保护、生成式AI类标准文件的解读文章。帮助其他人了解标准文件的同时也提高自己。因为本人也是才开始学习解读文件,存在错误的地方欢迎大家在评论区留言共同探讨,也欢迎私聊~。
本次学习的是AI内容标识文件《人工智能生成合成内容标识办法》,我之所以选择第一次学习本文件,是因为本办法对应的标准《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》是强制性国家标准,且办法里也明确规定适用于所有提供或传播AI生成合成内容的服务提供者,适用范围广,且具有法律强制力。
接下来我会从文件定位、背景、结构、关键词的维度带大家一起看这篇文章,我会将每条正文内容转换成自己的理解,图片为原文,解读为文字,建议大家最好先读一下原文,再看解读文字。
一、文件定位
首先我们先看文件开头,由国家互联网信息办公室(网信办牵头)、工信部、公安部、国家电视广播总局四部门联合发文。为规范人工智能生成合成内容标识而制定。文件名称以”办法“结尾,属于规范性文件(拥有法律效力),发文日期为2025年3月7日。
二、拆结构看背景
文件背景
通过文件开头的依据,查看本文背景:
从上往下看,最上层的是《生成式人工智能服务管理暂行办法》,《互联网信息服务深度合成管理规定》是深度合成技术方面的规定与本办法也有关联,AI合成也包含在深度合成中。然后本办法《人工智能生成合成内容标识办法》与《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》属于政策+标准组合。本办法对《生成式人工智能服务管理暂行办法》第十二条的细化。45438文件负责细节落地。
一般文件(包括本文)都分为总-分-总结构,第一、二条、十三条、十四条为总,中间第三条至十二条为中间结构。
通过通读全文加整理脑图,我将中间部分划分为三大部分:服务提供者、内容传播者、应用商店与用户。本文最后面是我自己总结的脑图,供大家快速了解中间重要部分(花了一段时间,喜欢的话点个赞支持下~)。我们先聊聊开头和结尾的内容。
第一条、第二条
开头第一条说明本办法的依据来源,第二条说明本办法适用范围,服务提供者开展人工智能生成合成内容标识的均适用本办法。
人工智能生成合成内容也就是说指利用AI技术生产、合成的文本、图片、音频、视频、虚拟场景等信息的全部需要遵守本办法来添加标识(最经典的就是我们抖音短视频刷到的“内容为AI生成”字眼)。
第十三条、第十四条
最后两条第十三、十四条说明了处罚依据和实施日期,由2025.9.1日起施行。
三、正文内容
第三条
第三条是解释显式标识、隐式标识的含义。这里大白话翻译一下,显式标识的意思是可以被用户看到、听到的标识。隐式标识在内容上是不会直接被用户看到、听到的
第四条
第四条要求服务提供者(直接向用户提供生成或合成服务的主体)添加显式标识,咱们先判断是否属于《互联网信息服务深度合成管理规定》第十七条第一款有哪些情形,然后本条在符合要求的情况下列出了几种需要添加显式标识的情况。
《互联网信息服务深度合成管理规定》第十七条第一款如下图:可能导致公众混淆或者误认的,应当进行显著标识,并且罗列了对应场景
总结一下本条:也就是按照文本、音频、图片、视频、虚拟场景划分,可能导致公众混淆或者误认的需要在内容或内容附近添加显式标识。需要注意的是本文第四条的前两个要求里,有个“或者”二字,说明这是两种情况,需要在两种里最少选一条。再就是第四第五个要求里也有个“可以”二字,可以理解成在”可以“前面的内容是必须执行的,“可以"后面的内容是选择性执行的。
第五条
第五条是说的隐式标识,在读完之后的总结就是,所有AI生成合成内容都需要添加隐式标识。
接下来我们按照顺序看第一句,服务提供者都需要按照《互联网信息服务深度合成管理规定》第十六条的规定,规定的内容如下图所示:
图中所说的深度合成服务可以理解成是AI生成合成的一个子集,是深度学习等算法生成的内容。
回到第五条内容上,也就是服务提供者需要对生成或编辑的信息内容,都应该采取技术措施添加不影响用户适用的标识,也就是需要添加上隐式标识。隐式标识的具体包含内容在《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》中有具体说明。
这里多说两点,隐式标识分为文件元数据隐式标识和内容隐式标识(也就是数字水印形式)两种,文件元数据隐式标识是必须的,数字水印形势是加分项,鼓励提供者添加的。
然后文件的元数据是指描述数据本身的一些特征和背景,比如一段数据的格式、长度等属性数据。通俗来说就是“关于数据的数据”。举个例子:一个文件的文件名、文件大小(占多少KB/MB)、文件类型(.jpg, .pdf, .mp4)、位置信息(文件的存放路径)等。
到这里大家可能还有个问题,文件元数据隐式标识到底长什么样子,我先给大家看一下 45438文件里文件元数据隐式标识格式,在附录中有,大家可以自行了解。
然后我又自己动手验证了一下,大家推荐一个可以识别AI图片的网站,可以检测文件元数据(EXIF) 点击这里:
图穷-在线EXIF图片信息提取
网站名:exif.oneding.tech
AI生成的图片放到网站里检测,内容如下:
在版权信息里,会有一个“AIGC”的标识,有这个标识就代表AI生成合成的内容了,但是这只是代表大部分,我安装了智能体,我让智能体帮我把图片去掉AI生成的内容后,这个网站就检测不到了。
第六条
第六条说的是内容传播者的规定,也就是我们生活中看到的抖音、快手等传播内容的平台应该做的事情。本条是全文中比较难以理解的部分,主要是前三中情况。
前三条需要认真阅读和理解,特别注意“属于”、“可能”、“疑似”这几个字眼。已经在图片中圈出。
1、内容传播者需要核验,核验文件元数据中明确有隐式标识的要添加提示标识提醒“属于生成合成内容”;
2、未核验到元数据中的隐式标识,但是用户声明里声明了(第八条服务提供者需要在声明中明确方法),要添加显著提示标识提醒“可能为生成合成内容”;
3、未核验到元数据隐式标识的,用户声明也没有的,但是平台检测到合成痕迹的。为“疑似生成合成内容”。
上述三种情况均在内容发布周边添加显著提示标识。
第七条
这一条是关于分发平台的,比如说手机上的应用商城之类的平台,在提供AI生成合成服务的应用程序上架时,需要核查生成合成内容标识的相关材料
第八条
服务提供者要在用户协议中明确生成合成内容,上面第六条中的内容传播者核验内容里就有本条内容。
第九条
第十条
第十一条
目前我查到的还有《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》
第十二条
要求服务提供者在进行算法备案或安全评估时,必须一并提交标识合规的相关材料。标识信息共享是为了更好的快速定位责任主体。
安全评估相关标准:GB/T 45654-2025《生成式人工智能服务安全基本要求》
算法备案相关标准:《互联网信息服务算法推荐管理规定》
大模型备案相关标准:《生成式人工智能服务管理暂行办法》
四、总结
本文章的正文内容已经结束了。总结一下,学习这种政策类、规范类的文件并没有想象中的简单,甚至可以说是费时,本以为这十几条的文章会非常简单。可是想要深入吃透其中的所有内容很耗精力。与之前的研究等保测评项完全是两个概念。
个人建议,在学习时可以把《人工智能生成合成内容标识办法》与《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》各读一遍之后,两个搭配着再过一遍。前者是政策框架,后者是强制性国家标准,想要吃透的话两者缺一不可。
另外我在附件中除了本文还上传了《生成式人工智能服务管理暂行办法》、《GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法》、《互联网信息服务深度合成管理规定》。以供大家参考。下图是本人学习时制作的思维导图,也一起分享给大家,希望可以起到帮助作用。