人工智能生成合成内容（AIGC，AI Generates synthetic Content）是随着人工智能（AI）技术，特别是生成式人工智能（Generative AI）技术的发展而新兴的，它给人类带来了前所未有的生产力和体验的提升。然而， AIGC日益逼真，网络传播内容是否由人工智能生成合成难以分辨，社会上已出现多起利用AIGC传播虚假新闻、引发社会舆情，或是利用AI生成合成内容进行诈骗的案件。AIGC存在被误用、滥用、恶意使用的安全风险，严重影响国家安全，危害广大人民群众在网络空间的合法权益。鉴于此，我国依据相关法律法规制定并印发了《人工智能生成合成内容标识办法》（国信办通字 [ 2025] 2号，下简称《标识办法》）和《网络安全技术 人工智能生成合成内容标识方法》（GB 45438-2025，下简称《标识方法》）。《标识方法》和《标识办法》的发布和执行，对我国防范人工智能生成合成内容引发安全风险、提升人工智能安全水平起到规范作用，促进人工智能行业安全发展。
欲具体了解人工智能（AI）介绍的请进入。
一、AIGC标识：国家法规的管理要求
随着科技的发展进步，生成式人工智能已成为影响当今人类社会的一种新生技术，它不仅造福于人类社会，与此同时也带来了极大的社会安全风险。由于它导致的是对人类社会和人类文明的影响，国家政府必须施行法规进行管理，使得该技术能够真正推动人类社会和人类文明的健康进步。为此，依据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律和行政法规，我国相关行政主管部门出台了针对生成式人工智能服务管理的部门规章。主要有：
1、《互联网信息服务深度合成管理规定》（三部门令第12号）
2022 年 11 月，国家网信办、工信部和公安部三部门联合印发了《互联网信息服务深度合成管理规定》（三部门令第12号），提出了深度合成服务提供者对使用其服务生成或者编辑的信息内容进行标识的要求。其中，第十六条规定：深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。这即隐式标识的要求。其第十七条规定：深度合成服务提供者提供以下（见下表1-1）深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。这即显式标识的要求。其第十八条规定：任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。
表 1-1：需要进行显式标识的深度合成服务种类
2、《生成式人工智能服务管理暂行办法》（七部门令第15号）
2023 年 7 月，国家网信办、国家发改委、教育部、科技部、工信部、公安部和国家广电总局七部门联合印发了《生成式人工智能服务管理暂行办法》（七部门令第15号）。其中第十二条规定：提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。
总之，依据上述国家部门规章，我国建立了对人工智能生成合成内容（AIGC）的标识制度，它分为隐式标识（Implicit Label）和显式标识（Explicit Label）两种方式（其含义详见下表1-2）。人工智能生成合成内容标识是指表明某个内容是人工智能生成合成内容的信息，标识可包含生成合成服务提供者和内容传播服务提供者等信息。为了AIGC标识制度的有效开展，我国专门发布了《标识方法》和《标识办法》。
表 1-2：隐式标识与显式标识的定义
欲详细了解上述部门规章介绍的请进入。
二、《人工智能生成合成内容标识办法》（国信办通字 [ 2025] 2号）
为了落实我国建立的人工智能生成合成内容的标识制度，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局，于2025年3月7日联合发布了《人工智能生成合成内容标识办法》（国信办通字 [ 2025] 2号）的规范性文件。《标识办法》的内容共十四条，其具体内容请详见下表附件2。
附件 2：《人工智能生成合成内容标识办法》（国信办通字 [ 2025] 2号）
1、《标识办法》的管理思路
《标识办法》是对《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》的继承和延伸，从人工智能技术特性出发，在生成合成标识这一人工智能安全治理制度上提出了针对性的管理思路。其管理思路主要表现在：一是细化已有规定；二是解决关键问题；三是统筹发展和安全；四是管理要求与技术标准一体化考虑等方面，其具体描述请详见下表2-1。
表 2-1：《标识办法》的管理思路描述
2、《标识办法》的主要内容
《标识办法》规定的重点内容包括：一是明确了服务提供者的具体要求；二是明确互联网应用程序分发平台应当采取相应措施规范人工智能生成合成服务；三是明确合规获得没有添加显式标识的生成合成内容；等等方面，下表2-2给出了这些方面的介绍。
表 2-2：《标识办法》的重点内容简介
三、GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》
为了与上述的部门规章相配套，并对《标识办法》提供技术支撑，以规范生成合成服务提供者和内容传播服务提供者对人工智能生成合成内容开展标识活动，我国在2025年2月28日发布了国家强制性标准GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》，它制定了人工智能生成合成内容的显式标识和隐式标识方法的技术标准。下述给以概要介绍，若要详细了解具体内容的请查阅下附件3。
附件 3：GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》
1、显式标识法
显式标识方法是指在人工智能生成合成内容或交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识，主要用途是向公众提示内容由人工智能生成合成。其典型的应用场景详见下表3-1-1。显式标识按照标识对象可分为内容显式标识、交互场景界面显式标识，其构成图详见下图3-1。由图可知，内容显式标识可进一步分为文本、图片、音频、视频、虚拟场景等模态的显式标识；交互场景界面显式标识可进一步分为在内容附近的显式标识和交互场景界面适当位置的显式标识。显式标识法的具体要求详见下表3-1-2的介绍，包括标识显示的形式、要素、位置等要求及示例。
表 3-1-1：显式标识的典型应用场景
图 3-1：显式标识的构成图
表 3-1-2：显式标识法的技术要求
2、隐式标识法
隐式标识方法指采取技术措施在人工智能生成合成内容文件数据中添加的，不易被用户明显感知到的标识，主要用途是记录生成合成内容相关信息。隐式标识按照标识位置可分为文件元数据隐式标识、内容隐式标识（如在生成合成内容中添加的数字水印）等，其构成图详见下图3-2。文件元数据是指按照特定编码格式嵌入到文件中的描述性数据，用于记录文件来源、属性、用途、版权等信息。根据《标识办法》要求由于数字水印可能增加企业成本，暂不作强制要求。隐式标识的具体要求详见下表3-2的介绍，包括标识的要素、格式等要求及示例。
图 3-2：隐式标识的构成图
表 3-2：隐式标识法的技术要求
四、《标识办法》与《标识方法》之关系
其一，《标识办法》是对上述部门规章的细化及延伸，属于国家机关的规范性管理文件；《标识方法》是对《标识办法》提供的技术支撑，属于国家强制性标准。两者均是从2025年9月1日同步同时实施。
其二，《标识办法》主要从立法层面提出管理要求，明确生成合成内容制作传播各主体的责任义务，对具体实施操作不做要求。《标识方法》以强制性国家标准形式制定实施，主要提出强制执行部分的标识具体实施方式和操作方法。各自的着重点可详见下表4-2的描述。
表 4-2：《标识办法》与《标识方法》的着重点
其三，通过《标识办法》和《标识方法》组合，具有了政策标准通用性、技术实施可行性、标准承接符合性特点，强化主动合规方面的引导与指导，打破了人工智能生成合成内容“信任赤字”的困局。《标识方法》与《标识办法》所规范的对象均包括生成合成服务的提供者和内容传播服务的提供者。给出了提供者在合规框架下进行技术创新的指引，在保障安全性和可靠性的前提下促进新产品和新服务的快速落地，共同促进了人工智能生成合成内容技术的健康发展。
总之，《标识办法》与《标识方法》的发布实施，旨在从技术规则到技术标准的有机组合，以有效防范人工智能生成合成内容引发的信息安全风险，提升人工智能安全水平，规范人工智能行业应用和健康发展。
欲进一步了解人工智能（AI）关键技术介绍的请进入。
