马四维
国家网信办3月7日会同工信部、公安部、广电总局印发《人工智能生成合成内容标识办法》，宣布自今年9月1日起，对文本、图片、音频、视频乃至虚拟场景等全部 AIGC 成果实行“显式+隐式”双重标识，并明确违规主体将受到网信、电信、公安、广电等多部门联合处罚。官方给出的理由无外乎三点：第一，打击虚假信息与深度伪造，维护公共利益；第二，保护个人隐私与著作权；第三，为 AI 建立可溯源机制，提升公众信任。就表面目标而言，这与欧盟 AI Act、美国白宫“AI 水印倡议”等国际讨论并不冲突，中国甚至可以炫耀“率先落地具体操作细则”。然而当我们将此办法置于中国数字治理的大框架中，利弊天平却呈现出明显的结构性倾斜——它更像一把行政闸门，而非产业催化剂。
从“利”的维度看，确立统一标识标准确有三处正面意义。其一，提供最低限度的内容可追溯能力。面对拟真度与日俱增的深度合成技术，若缺乏技术签名与元数据，事后追责几乎无从谈起。其二，给监管部门一种可操作的执法抓手。此前“深度合成管理规定”已要求服务商添加“难以被用户感知的标识”，但并未详细说明怎样添加、由谁核验；新办法在显式位置、元数据字段、下载导出义务等环节补上细则，有助于缩小执法裁量空间。其三，至少在短期内能缓解公众对“真假难辨”的焦虑感。大量“伪造明星直播”“合成领导人发言”等案例已证明深度伪造对公共舆论的破坏力，强制水印有助于树立基本的事实边界。
然而同一套条款换个角度便显现出深远的“弊”。首先，它将由人工智能技术生成的内容（AIGC） 置于严密而昂贵的合规罗网：显式标识要放“视频首末中三处”“虚拟场景全过程随处可见”，隐式标识需嵌入文件头并包含“属性信息、服务商编码、内容编号”等一整串元数据；平台在分发环节还要二次核验、疑似标注，并对所有环节留存日志六个月以上。对巨头而言，这意味着额外的工程链路；对中小创业团队，则可能直接抬高准入门槛、扼杀创新萌芽。更糟糕的是，这些成本会层层外溢到下游创作者和文化产业链，形成“用 AI 就要贴警示、流量排序降级”的隐形歧视。政府宣称“促进人工智能健康发展”，却用行政性交易费用抬高了试错成本，实际上是“先卡位后喊加油”。
其次，技术可行性存疑。隐式水印基于元数据或数字水印，经历二次压缩、截图、转录往往便难以保真；显式标识则极易被裁剪、涂抹、局部重混。办法第九条甚至允许用户在签署协议后导出“无显式标识版本”，再加上海外模型与本地模型的多源剪贴，任何严肃的溯源逻辑都会在实际社交链条中被快速稀释。打个比方，这就像强制每封电子邮件都加密签章，可是一旦内容被复制到新的文档或截图，签章即告失效——监管成本线性上升，效果却呈指数衰减。
第三，也是最关键的：它将 AI 创作当成潜在威胁，而非产业机会。文化产业正进入“生成式涌现”的临界点，编剧用 GPT 写分镜、画师用 Diffusion 打草稿、B 站 UP 主用 TTS 配音——创意链路早已深度混合，技术上无法截然“人机分界”。如果凡使用 AI 助手就必须显眼贴签、流量降级，创作者的机会成本瞬间放大；一旦海外平台对同类内容不设强制水印，中国内容在全球市场就被贴上“标签污染”“合规负担重”的弱势标记。产业与人才随后向“无设限”法域流失，中国 AI 创意生态被迫上演“清末铁路停驶”翻版：担心火车轰鸣惊动龙脉，结果把自己锁在信息革命的站台外。
对比 19 世纪的大清以及 1990 年代中国互联网早期“先接入后备案”的宽松窗口，新办法代表的是持续收紧的治理序列：算法备案→深度合成规定→生成式 AI 暂行办法→标识办法，每一步都以“安全”之名向前迈半步，却把产业活力往后拉一大截。表面上，政府试图用可量化方案替代无法量化的信任赤字；实质上，行政部门对新技术的本能戒惧仍在复制“先批判后使用”的旧路径。
当然，“完全放任”并非良策，深度伪造诈骗、造谣、诽谤的社会成本实实在在。问题在于，监管手段不该停留在对技术本身的普遍怀疑，而应转向对行为后果的风险分级治理：一是以侵权、欺诈、冒名等可识别危害为靶点，进行事后重罚和赔偿，而非对所有 AIGC 一刀切贴标签；二是构建行业自律和开源可验证工具，让模型源码、训练数据、关键调用 API 在“可信沙箱”中开放验真，而不是将一切责任外包给终端分发平台；三是将合规门槛与企业规模挂钩，为初创公司设“豁免期”“补贴期”，鼓励创新先行、合规后置。只有将监管重心从“阻止”转向“赋能”，中国才可能在全球人工智能技术生成的内容竞赛中保持速度。
在全球范围内，水印与标识已成“监管共识”并非假话，但共识的要害是“可选、可互操作、无感知”。欧盟草案强调“风险越高，合规越严”，而非对所有由人工智能技术生成的内容一律强标；美国则侧重产业自愿标准，由 Adobe、OpenAI、NVIDIA 等发布 CAI（内容真实性倡议）与 C2PA 标准，标识信息存储在可信链上，却不强制显式展示。中国新办法一旦落地，创作者需要在显眼位置挂“AI 制作”灯牌，等同于在封面贴“二等品”标签。对大多数普通用户，AI 已是随手可得的数字铅笔，自然不会因为贴不贴标签就改变造谣者的动机，却可能劝退正当的新手作者，制造“正向淘汰”。
从更长的历史视角看，信息革命与铁路、蒸汽机一样，是“惯性不可逆”的技术跃迁。清廷因担心龙脉与政权震荡而拆毁唐胥铁路，结果错过工业化窗口；20 世纪 90 年代曾有人提议把互联网关在“局域网”，也被历史淘汰。今天的人工智能技术生成的内容标识办法如果固化为高墙，将再次把中国置于“内循环创意、外循环市场”的尴尬境地：国内内容贴满标签难以流通，国外创新借助开源社区飞速演化，两条轨道的速度差如果拉大到倍数级，再好的“追赶战略”也难以抹平代差。
更令人担忧的是，它可能在社会心理层面加剧“技术羞耻感”——把 AI 助手视作作弊而非工具。当学生写作文使用 GPT 时被一键检测、当设计师的展示 因“疑似 AI 生成”被折叠排序，技术本该提供的公平杠杆反而成为新的分层手段：掌握外国模型的顶尖团队自带“技术豁免”，而普通人因无法证明“纯人类创作”被永远困在池底。这不仅阻碍创新，还可能在教育和就业层面固化新的数字鸿沟。
回到治理初衷，标识办法所谓“促进 AI 健康发展”并非毫无可能，关键在于监管者是否愿意从“管控心态”转向“生态心态”。监管与发展并非零和：与其贴无处不在的标签，不如建立可验证的开源水印协议并在链上公开；与其让公安、网信、广电多头执法，不如授权第三方行业协会持证审计；与其要平台移除“疑似 AI 内容”，不如要求其公开训练日志、发布透明度报告。唯有如此，才能让合规成本转化为信任红利，而非创新阻力。
政策文件写着“维护社会公共利益”，真正的公共利益是让人们在不被欺骗的前提下尽可能便捷地使用新技术，而不是被动接受“被保护”的待遇，更不是被卷入一场旷日持久的标签战争。由人工智能技术生成的内容对中国来说，是一次弯道超车的罕见机遇，也是摆脱“人口红利消失”困局的技术杠杆。如果因害怕噪声惊龙脉而束手束脚，只会让本已脆弱的创新生态陷入新一轮“准入—整顿—收缩”的周期。
写到这里，再回看“促进人工智能健康发展”的那句开场白，健康从来不只是“严管少动”。健康的肌体要有免疫系统，也要有充足的血液循环；要能对毒素迅速排异，也要能对新陈代谢保持开放。对 AI 亦然。如果监管者真想让这条产业动脉血脉畅通，就该把“标识”设计成加速器，而不是拦路石；把风险可控与价值释放放在同一张蓝图里，而不是在标语里说促进，在实际操作里层层加码。否则，当下一波技术列车鸣笛驶过，我们又会在站台上慨叹“当年若不是担心惊动龙脉，或许已在车上”。
9月起施行！国家网信办发布AI生成合成内容标识办法
关于印发《人工智能生成合成内容标识办法》的通知
国信办通字〔2025〕2号
各省、自治区、直辖市互联网信息办公室、通信管理局、公安厅（局）、广播电视局，新疆生产建设兵团互联网信息办公室、工业和信息化局、公安局、文化体育广电和旅游局：
为了促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》，现印发给你们，请认真遵照执行。
国家互联网信息办公室
工业和信息化部
公安部
国家广播电视总局
2025年3月7日
人工智能生成合成内容标识办法
第一条 为了促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章，制定本办法。
第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（以下简称“服务提供者”）开展人工智能生成合成内容标识活动，适用本办法。
第三条 人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。
人工智能生成合成内容标识包括显式标识和隐式标识。
显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条 第一款情形的，应当按照下列要求对生成合成内容添加显式标识：
（一）在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；
（二）在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；
（三）在图片的适当位置添加显著的提示标识；
（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；
（五）呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；
（六）其他生成合成服务场景根据自身应用特点添加显著的提示标识。
服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。
第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条 的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。
文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。
第六条 提供网络信息内容传播服务的服务提供者应当采取下列措施，规范生成合成内容传播活动：
（一）核验文件元数据中是否含有隐式标识，文件元数据明确标明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，明确提醒公众该内容属于生成合成内容；
（二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容可能为生成合成内容；
（三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的，识别为疑似生成合成内容，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容疑似生成合成内容；
（四）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。
有前款第一项至第三项情形的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。
第七条 互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的，互联网应用程序分发平台应当核验其生成合成内容标识相关材料。
第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
第九条 用户申请服务提供者提供没有添加显式标识的生成合成内容的，服务提供者可以在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并依法留存提供对象信息等相关日志不少于六个月。
第十条 用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。
任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
第十一条 服务提供者开展标识活动的，还应当符合相关法律、行政法规、部门规章和强制性国家标准的要求。
第十二条 服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。
第十三条 违反本办法规定的，由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。
第十四条 本办法自2025年9月1日起施行。
（新华社）