权威解读！四部门联合发布《人工智能生成合成内容标识办法》（附全文）
国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），该办法将于2025年9月1日正式实施。
人工智能生成合成内容标识办法
第一条 为了促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章，制定本办法。
第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（以下简称“服务提供者”）开展人工智能生成合成内容标识活动，适用本办法。
第三条 人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。
人工智能生成合成内容标识包括显式标识和隐式标识。
显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识：
（一）在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；
（二）在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；
（三）在图片的适当位置添加显著的提示标识；
（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；
（五）呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；
（六）其他生成合成服务场景根据自身应用特点添加显著的提示标识。
服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。
第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。
文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。
第六条 提供网络信息内容传播服务的服务提供者应当采取下列措施，规范生成合成内容传播活动：
（一）核验文件元数据中是否含有隐式标识，文件元数据明确标明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，明确提醒公众该内容属于生成合成内容；
（二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容可能为生成合成内容；
（三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的，识别为疑似生成合成内容，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容疑似生成合成内容；
（四）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。
有前款第一项至第三项情形的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。
第七条 互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的，互联网应用程序分发平台应当核验其生成合成内容标识相关材料。
第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
第九条 用户申请服务提供者提供没有添加显式标识的生成合成内容的，服务提供者可以在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并依法留存提供对象信息等相关日志不少于六个月。
第十条 用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。
任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
第十一条 服务提供者开展标识活动的，还应当符合相关法律、行政法规、部门规章和强制性国家标准的要求。
第十二条 服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。
第十三条 违反本办法规定的，由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。
第十四条 本办法自2025年9月1日起施行。
专家解读
作者：张凌寒 联合国高级别人工智能咨询机构中方专家，中国政法大学数据法治研究院教授
2022年以来，国内外生成式人工智能大模型快速迭代发展，改变了传统的内容生产与信息传播范式。与此同时，生成式人工智能带来的深度伪造、虚假信息等潜在风险进入国际社会规制视野，各国纷纷采取措施应对。
《人工智能生成合成内容标识办法》（以下简称《标识办法》）进一步明确了人工智能生成合成内容全生命周期履行标识义务的具体要求与主体责任，完善了我国生成式人工智能的治理框架。
一、人工智能生成内容标识的制度价值成为国际共识
第一，人工智能生成内容标识制度具备独特制度价值。首先，标识能够有效区分出人工智能生成合成的信息，防范虚假信息的传播利用；其次，标识能够帮助用户快速了解生成式人工智能产品或服务的相关属性或参数信息；最后，标识能够协助监管部门对生成式人工智能产品或服务实施评估、追溯等监管，推进人工智能生成合成内容合法合规发展。
第二，标识制度的独特制度价值已经成为国际共识。日前，世界各国以及国际组织纷纷采取措施推进生成式人工智能标识制度的建立。2024年3月，联合国发布《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》，鼓励开发和部署有效、可获取、适应性强、具有国际互操作性的内容认证和来源识别机制。2024年4月，美国国家标准与技术研究院发布的《降低合成内容带来的风险》列出了检测、验证和标记合成内容的方法，包括数字水印和元数据记录。2024年5月，新加坡政府发布《生成式人工智能治理模型框架》，提出数字水印和加密溯源两种标识技术方案。2024年8月1日，欧盟《人工智能法》正式生效，规定了生成合成音频、图像、视频或文本内容的有限风险AI系统应履行透明度与明确标识义务。2025年3月，英国《人工智能（监管）法案》通过一读，其中规定任何提供涉及人工智能的产品或服务的人，必须向客户提供“清晰明确的健康警告、标签”。
综合来看，不论是国际组织，还是有关国家，肯定人工智能生成内容标识的制度价值并已提出相应规范，价值层面均倡导真实性以遏制虚假信息、深度伪造，技术层面基本均采用水印、内容标签等标识技术进行规制。
二、生成式人工智能改变内容生产与信息传播范式
第一，生成式人工智能革新生产方式。不同于传统的专业生成内容、用户生成内容形式，基于递归式生成模型，生成式人工智能可以通过与大量用户的对话和反馈，快速积累和更新内容；基于生成式对抗网络，生成式人工智能能够生成逼真的图像、音频和视频等内容。
第二，生成式人工智能赋能行业发展。2025年《政府工作报告》在部署今年工作任务中强调，持续推进“人工智能+”行动，将数字技术与制造优势、市场优势更好结合起来，支持大模型广泛应用。生成式人工智能业已为各行各业注入新质生产力。
在科研领域，生成式人工智能可快速查阅并总结参考文献，拟定研究思路，进行统计分析，甚至生成学术论文。一项收集1600名科研人员调查问卷的研究结果显示，使用AI辅助论文写作比例达25%。在制造领域，2024年10月，世界经济论坛“灯塔工厂”评选结果显示，生成式人工智能的应用使工厂的劳动生产率平均提高了50%。在视听领域，网络音频平台通过与汽车厂商共建车联网、与家电企业合作打造智能物联家居等方式，加速推进网络音视频服务在车载娱乐系统、智能家居、穿戴设备等终端的整合应用。
第三，生成式人工智能存在潜在风险。生成式人工智能给各行各业带来技术革新的同时，也带来了深度伪造、虚假信息的潜在风险。2024年1月，香港一家跨国公司经历了“变脸”诈骗，诈骗者通过公开渠道获取的媒体资料，利用深度伪造技术合成了该公司高管的形象和声音，并制作出多人参与视频会议的虚假视频，诈骗金额高达2亿港币。在某美国乘客起诉美国某航空公司的案件中，代理律师引用了人工智能生成的六个案例，然而法官发现六个案例的判决结果、引用出处均为虚构。不仅在事实信息上出现错误，甚至对知识类信息进行虚构。
第四，生成式人工智能的风险亟待防范规制。任何技术革新都是双刃剑，在发扬生成式人工智能的正向功能的同时，正视其潜在风险并进行相应的规制与防范，是AI治理的国际共识。国家网信办等部门于2022年发布的《互联网信息服务深度合成管理规定》，是世界范围内首次明确提出生成式人工智能标识义务的部门规章，要求深度合成服务提供者对深度合成服务履行标识义务。国家网信办等部门联合发布的《生成式人工智能服务管理暂行办法》沿用了该条规定。
三、《标识办法》进一步细化推进人工智能生成内容管理
《标识办法》对人工智能生成内容的标识方法提出要求，通过显式标识明确“哪些内容是生成的”，隐式标识明确“是谁生成的”和“由谁传播的”，明确了人工智能生成合成内容的全生命周期中网络信息服务提供者（以下简称“服务提供者”）等不同主体的合规责任，从而降低人工智能安全风险，促进行业健康发展，是对标识制度的进一步细化与规范。
第一，在人工智能生成合成内容的生产环节，服务提供者应对生成合成内容添加标识。服务提供者应对文本、图片、音频、视频、虚拟场景等典型应用场景的生成合成内容添加显式标识，并在生成合成内容的文件元数据中添加隐式标识，以明确内容属性、服务提供者信息等内容。
第二，在人工智能生成合成内容的传播环节，不同主体应对标识的合规性进行确认。服务提供者在提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。网络信息内容传播平台应当核验文件元数据中是否含有隐式标识，并采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户。互联网应用程序分发平台在应用程序上架或上线审核时，应核验生成合成内容标识相关材料。
第三，在人工智能生成合成内容的使用环节，用户同样应履行标识义务。服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。用户向网络信息内容传播平台上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。
目前的人工智能生成合成内容标识制度主要关注于“是否机器生成”的形式判断，随着标识技术的进步与发展，未来标识制度能够发挥更为丰富的功能，从形式判断逐渐转向“是否足够可靠”的质量判断，进一步促进行业健康发展。