深度合成新规 互联网信息服务治理的里程碑与产业启示

国家互联网信息办公室就《互联网信息服务深度合成管理规定（征求意见稿）》（以下简称“新规”）公开征求意见。这是继《网络安全法》《数据安全法》《个人信息保护法》之后，我国在互联网信息服务领域推出的又一重要监管举措。新规针对深度合成技术——即利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频等信息的技术——进行了系统性的规范，标志着我国对新兴技术应用的治理进入精细化、体系化的新阶段。

一、新规的核心要点：全链条、分类别、重标识

新规共五章三十条，核心在于构建“全链条治理”框架。它明确了深度合成服务提供者、技术支持者、使用者的主体责任，要求落实信息安全管理制度、算法审核机制和用户实名制。新规强调对深度合成内容进行“显著标识”，无论是生成还是编辑后的信息，均需以足以引起用户注意的方式标明“合成”字样，避免公众混淆或误认。对于可能涉及国家安全、社会稳定的特定深度合成服务，新规设置了更严格的准入与评估要求。

值得注意的是，新规并未“一刀切”禁止深度合成技术，而是采取分类分级思路：对新闻、医疗、司法等严肃场景严格限制，对娱乐、社交等场景适当放宽，这体现了监管的包容审慎与精准施策。

二、治理背景：技术双刃剑下的安全需求

深度合成技术具有显著的“双刃剑”效应。积极层面，它推动了影视制作、虚拟主播、在线教育、医疗影像合成等产业的创新；消极层面，它被用于伪造名人讲话、制作虚假新闻、实施电信诈骗、炮制色情内容等，严重扰乱网络秩序，侵害公民权益。例如，此前出现的“AI换脸”淫秽视频、伪造企业高管声音诈骗等案件，暴露出技术滥用的巨大风险。

与此全球主要经济体纷纷加强监管。欧盟《人工智能法案》将深度伪造列为高风险应用，美国多个州出台反深度伪造法，新加坡、韩国等也制定了针对性规范。我国新规的出台，既是回应国内治理需求，也是与国际监管趋势接轨。

三、产业影响：合规挑战与创新机遇并存

对于互联网企业而言，新规带来明确的合规要求。深度合成服务提供者需投入资源建立内容审核、用户实名、数据安全、标识溯源等体系，短期内可能增加运营成本。例如，短视频平台、直播平台、语音社交软件等需升级AI识别与标记能力。但长远看，统一规则消除了“劣币驱逐良币”的乱象，为合规企业营造了公平竞争环境。

新规也催生了新的产业机会。深度合成检测技术、数字水印、内容溯源、算法审计等合规科技将迎来需求爆发。新规鼓励技术研发与标准制定，有望推动我国在深度合成治理领域形成自主标准与话语权。

四、落地关键：平衡安全与发展、技术与伦理

新规的实效取决于执行细节。一是“标识”标准的可操作性。如何确保标识难以被恶意移除？如何对音频、视频中的每一帧或每一段进行标记？这需要技术标准配套。二是跨境服务的管理。境外深度合成服务若向境内提供，如何有效管辖？需探索跨境协作机制。三是避免过度规制抑制创新。监管应聚焦于“滥用行为”而非“技术本身”，保留科研探索与合法创作的空间。

从伦理角度看，新规背后是对“真实”价值的维护。当眼见不一定为实，社会信任基础将被侵蚀。因此，除了法律约束，还需加强公众数字素养教育，提升对合成内容的辨识能力。

五、迈向负责任的深度合成时代

《互联网信息服务深度合成管理规定》的制定，是我国网络空间法治化的重要一步。它既不是对技术的恐惧式封堵，也不是放任自流的旁观，而是刀刃向内的规则塑造。随着征求意见后的完善与正式出台，深度合成技术有望在安全、可信、可控的轨道上释放更大价值。对于企业、用户和监管者而言，这既是挑战，更是共建清朗网络空间的契机。只有技术向善、规则向实、责任向人，才能真正驾驭这场智能革命。