随着人工智能（AI）尤其是生成式人工智能技术的飞速发展，深度合成及生成合成的内容质量显著提升、生成速度与合成深度明显提高、适用场景与接触人群不断扩展，生成式AI技术已逐步深入到人类社会，并进入了规模化的应用阶段。生成合成技术开始呈现工具化和普及化趋势，普通人都可以轻松地接触到各种生成合成工具。与此同时，其带来的各种安全问题也随之显现，譬如用AI生成虚假信息、AI换脸明星直播带货、AI实时换脸诈骗等违规甚至违法的事件不断出现。这种新的科学技术的进步，极大的影响着人类社会和人类文明。鉴于此，国家行政管控的职能，必将是引领该技术的合规合法的健康发展和应用，使得AI生成合成技术既造福于人类社会发展，又促进人类文明进步。为此，在我国，相关政府主管部门依据国家的法律法规，对相关AI生成合成技术的发展应用，制定了相应的部门规章及规范性管理文件。
欲具体了解人工智能介绍的请进入。
一、《互联网信息服务深度合成管理规定》（三部门令第12号）
在2022 年11月25日，国家互联网信息办公室联合工业和信息化部、公安部三部门，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律与行政法规，制定并印发了《互联网信息服务深度合成管理规定》（网信办、工信部、公安部令第12号）。该《管理规定》是对在我国境内应用深度合成技术提供互联网信息服务进行行政管理规范，旨在加强我国互联网信息服务深度合成管理，弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。下表1-0给出了该《管理规定》出台的意义。
表 1-0：《管理规定》出台的意义
欲具体了解上述相关法律法规介绍的请进入。
该《管理规定》的内容是由五章二十五条组成，自2023年1月10日起施行。下述对该《管理规定》给以简要的解读，若要详细了解具体内容的请查阅下附件1。
附件 1：《互联网信息服务深度合成管理规定》（三部门令第12号）
1、关于深度合成技术的定义
该《管理规定》对深度合成技术进行了明确的定义，是指利用深度学习（DL，Deep Learning）、虚拟现实（VR，Virtual Reality）等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。具体包括（但不限于）以下六类技术：其一，篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；其二，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；其三，音乐生成、场景声编辑等生成或者编辑非语音内容的技术；其四，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；其五，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；其六，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
欲具体了解深度学习（DL）技术的请进入。
2、关于深度合成技术的服务者
《管理规定》是对在我国从事深度合成技术服务者的监督管理和行为约束。深度合成技术服务者包括深度合成服务提供者、深度合成服务技术支持者和深度合成服务使用者，它们的具体含义详见下外表1-2-1。《管理规定》对深度合成技术服务者，尤其是深度合成服务提供者管控的重要方面包括：落实信息安全主体责任；数据和技术管理规范；标识要求；备案义务；履行安全评估和配合监督检查义务等等，下表1-2-2给出了其具体描述。
表 1-2-1：度合成技术服务者的含义
表 1-2-2：《管理规定》对深度合成技术服务者的管控要求
3、关于《管理规定》所建立的管理制度
根据上述，《管理规定》对深度合成技术服务的管理主要建立了以下三项关键管理制度：
一是监管制度：国家政府机关对深度合成技术服务实施监督管理，管理主体是国家网信办及工信部、公安部，包括它们的地方部门。
二是备案制度：具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。
三是标识制度：对互联网上生成合成的内容进行标识，标识方式包括显式标识和隐式标识两种。
二、《生成式人工智能服务管理暂行办法》（七部门令第15号）
2023年7月10日，国家网信办又联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律，针对利用生成式人工智能技术向我国境内公众提供生成文本、图片、音频、视频等内容的服务，制定并印发了《生成式人工智能服务管理暂行办法》（七部门令第15号）。旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。出台该《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。该《办法》的内容是由五章二十四条构成，自2023年8月15日起施行。若要具体了解该《办法》详细内容的请查阅下附件2。
附件 2：《生成式人工智能服务管理暂行办法》（七部门令第15号）
该《办法》主要规定的内容简单描述包括：提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。提出了促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求。规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。此外，还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。
由于生成式人工智能技术是近些年来刚刚兴起的一门技术，对于我国生成式人工智能生成内容服务的行政管理，其管理内容和管理方式还需要探索，如如何分类分级监管等。因此该《暂行办法》也是结合当前该服务的现状，依据现有的法律、法规，实施的初步行政管理。
三、关于标识制度的实施
上述两个部门规章建立的关键管理制度之一就是人工智能提供的生成合成内容实施标识制度。标识是指表明某个内容是人工智能生成合成内容的信息。标识可包含生成合成服务提供者和内容传播服务提供者等信息。
《互联网信息服务深度合成管理规定》中，第十六条规定：深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。这即隐式标识的要求。第十七条规定：深度合成服务提供者提供相关深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。这即显式标识的要求。其第十八条规定：任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。
《生成式人工智能服务管理暂行办法》中，第十二条规定：提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。
因此，为了人工智能生成合成内容标识制度的有效落实，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局，又于2025年3月7日联合发布了《人工智能生成合成内容标识办法》（国信办通字 [ 2025] 2号）的规范性文件。几乎同时，在2025年2月28日，我国还发布了GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》国家强制性标准。《标识办法》是对上述部门规章的细化及延伸，《标识方法》是对《标识办法》提供的技术支撑。两者均于2025年9月1日同时生效并共同使用，以配套标识制度的具体落地。
欲详细了解《标识方法》和《标识办法》介绍的请进入。
欲进一步了解国家网信办相关部门规章索引的请进入。
164.41KB
221.12KB
