2026-06-21 10:38:25
当前，人工智能产业已步入快速增长阶段，2025年我国人工智能核心产业规模超过1.2万亿元，企业数量超过6200家，应用场景持续拓宽，展现出蓬勃的创新活力与广阔的应用前景。人工智能技术在赋能经济社会发展的同时，也带来了新的风险挑战。2025年第一季度，全国AI换脸、拟声诈骗案件数量环比激增高达45％。在人工智能深度融入社会运行的当下，网络空间的安全挑战正从传统的代码对抗升级为新型的智能化、算法化博弈。如何在促进创新发展与防范安全风险之间取得平衡，成为人工智能时代提升网络安全保障能力必须回答的问题。
以人工智能生成合成内容为例，近年来，随着生成合成技术的迅猛发展，普通公众有时难以分辨接收到的网络内容是由真实世界产生的还是由人工智能生成合成的。同时，诈骗手段从传统电信诈骗演化为换脸换声等新型模式，利用大模型技术制作虚假音视频，当“眼见”不再“为实”，网络空间生态面临极大挑战。
针对这一难题，我国已探索形成显隐双轨的人工智能生成合成内容标识技术方案。显式标识面向公众，重点解决“看得见”的问题。文字内容可以在起始、末尾或适当位置添加提示，音频可以通过语音提示或节奏提示，图片、视频、虚拟场景可以通过显著角标、画面提示、播放周边提示等方式降低公众混淆误认风险。隐式标识面向机器识别和责任追溯，重点解决“查得到”的问题，通过文件元数据记录生成合成属性、服务提供者名称或编码、内容编号等制作要素，在传播环节，还可写入传播平台名称或编码、内容编号等传播要素。显式标识保护公众知情权，隐式标识支撑平台治理，两者共同构成AI内容治理的基础坐标系。
当前，我国已构建起技管结合、逐层细化的人工智能生成合成内容标识制度体系，即“一部规范性文件、一项强制性国家标准、一套实践指南”的“1＋1＋N”标识体系。
第一个“1”是国家网信办、工信部等部门印发的《人工智能生成合成内容标识办法》（以下简称《标识办法》），从管理层面提出要求，明确生成合成内容制作传播各主体的责任义务，推动由生成合成到传播各环节的全流程安全管理，把“看得见的提醒”和“查得到的来源”结合起来，使普通用户获得辨别提示，使平台和部门具备核验、处置和追溯依据。
第二个“1”是配套《标识办法》的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（以下简称《标识方法》）。如果说《标识办法》解决“应当做什么”，那么《标识方法》就是解决“具体怎么做”。《标识方法》把制度语言转化为技术语言，提出了标识具体实施方式和操作方法，指导相关主体规范开展标识活动，对文本、图片、音频、视频、虚拟场景等不同模态分别规定显式标识方式，对文件元数据隐式标识的要素、格式和预留字段作出安排，从而避免各平台各做一套、互不兼容。
“N”则是围绕《标识办法》和《标识方法》形成的配套生态。全国网络安全标准化技术委员会已发布7项网络安全标准实践指南，覆盖服务提供者编码、元数据安全防护指南、生成合成内容检测，以及文本、图片、音频、视频等内容的文件元数据隐式标识方法，为生成合成服务提供者和内容传播服务提供者提供参考。此外，与标识系列工作配套的人工智能生成合成内容标识服务平台开放了服务提供者编码、编码规则校验和多模态标识合规性检测等功能，为标准落地提供工具化支撑。以更广的视角来看，“N”是一个持续扩展的实施网络，哪里有新场景、新风险、新技术，哪里就可以形成新的指南、工具和实践。
“1＋1＋N”标识体系的意义，不只是给生成合成内容贴标签，而是为人工智能时代的网络空间建立一套可识别、可核验、可追溯的信任机制。标识体系把政策法规、标准规范、工程工具和社会共治连接起来，既回应了普通公众对辨别生成合成内容的需求，也为人工智能产业健康发展划定了清晰边界。智能向善不能只靠道德呼吁，更需要制度、标准和实践共同发力。人工智能生成合成内容标识，正是把“向善”落实到网络安全治理中的一项基础工程。
有效的人工智能安全治理不能仅靠单一主体或单一手段，需推动多元主体协同发力。政府部门持续完善配套法律法规，提供制度保障。企业主动承担主体责任，严守安全底线，确保产品与服务安全可用。公众主动学习人工智能安全知识，形成“看标识、辨来源”的网络素养，不随意泄露人脸、声音等信息，不恶意使用人工智能工具。此外，产学研用各方加强合作，推动标准迭代与技术创新同步，持续开展人工智能安全标准宣传与技能培训，提升全社会的人工智能安全意识与使用素养。
（作者系中国电子技术标准化研究院网络安全研究中心人工智能安全部主任）