随着人工智能技术的飞速发展，生成合成内容（如文本、图片、音频、视频等）的应用场景日益广泛。然而，这些内容的真实性与标识问题也引发了诸多挑战。2025年3月，国家互联网信息办公室等部门印发了《人工智能生成合成内容标识办法》，旨在规范生成合成内容的标识，保护公民、法人和其他组织的合法权益，维护社会公共利益。
本文将结合数治网关于人工智能治理、安全及风险等相关内容，探讨企业如何应对生成合成内容标识的要求，同时通过法规遵循、加强治理与完善管理实现可信人工智能。
一、新规解读：办法的核心要点
1、定义与适用范围
《人工智能生成合成内容标识办法》明确了生成合成内容的定义，包括利用人工智能技术生成的文本、图片、音频、视频等信息。标识分为显式标识（用户可明显感知）和隐式标识（嵌入文件数据中）。该办法适用于符合相关规定的网络信息服务提供者。
2、显式标识要求
服务提供者需在生成合成内容中添加显式标识，具体要求包括：
- 文本内容需在起始、末尾或中间位置添加文字提示或符号。
- 音频内容需在起始、末尾或中间位置添加语音提示。
- 图片需在适当位置添加显著标识。
- 视频需在起始画面、播放周边或末尾添加显著标识。
- 虚拟场景需在起始画面或持续服务过程中添加标识。
3、隐式标识要求
服务提供者需在生成合成内容的文件元数据中添加隐式标识，包含内容属性、服务提供者信息、内容编号等。鼓励使用数字水印等形式的隐式标识。
4、传播规范
内容传播服务提供者需采取以下措施：
- 核验文件元数据中的隐式标识，并在发布内容周边添加显著提示标识。
- 用户声明为生成合成内容的，需添加提示标识。
- 检测到生成合成痕迹的，需标识为疑似生成合成内容。
- 提供标识功能，提醒用户主动声明内容属性。
5、用户与平台责任
用户需主动声明并使用标识功能标识生成合成内容。服务提供者需在用户协议中明确标识方法与责任，并留存相关日志不少于六个月。
二、应对新规：标识内容的“妙招”
1、确保下载等功能中的标识完整性
当提供文本内容的下载、复制、导出等功能时，要确保文件中含有满足要求的显式标识。比如，用户下载一篇人工智能生成的文章，下载后的文档应保留原有的标识内容，避免用户在传播过程中因标识缺失而引发误解。对于图片、视频的下载、分享等功能，要保证图片、视频文件中的显式标识不被删除或篡改。
2、确保标识在传播中的稳定性
在文本内容的文件元数据中添加隐式标识，包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。当提供图片、视频的下载、分享等功能时，要保证图片、视频文件中的显式标识不被破坏。
同时，对于隐式标识，要按照要求在图片、视频文件元数据中添加相关信息，如图片的生成属性、制作方编码，或视频的生成合成属性、服务提供者信息等。采用数字水印技术，将隐式标识嵌入图片数据、视频数据流中，即使图片被压缩、裁剪或视频被转码、剪辑等操作，隐式标识仍能保留，便于追踪和识别来源和生成情况。
以下是针对标识完整性、稳定性以及隐式标识技术的具体措施：
- 提供提取接口：服务提供者应提供从文本中提取隐式标识的接口或工具，方便用户和相关平台在需要时能够提取和验证文本的标识信息，确保标识的完整性和真实性。
- 文件元数据利用：在文件的元数据中添加扩展字段，包含服务提供者名称、内容生成时间、内容 ID 等信息，这些信息可以作为文本的隐式标识或视频标识的辅助手段，即使内容本身被篡改，元数据中的标识信息依然存在，便于追溯和识别生成情况。
- 文本内容嵌入：除了元数据，还可以在文本内容本身中嵌入标识信息，例如在文本的开头或结尾添加固定的标识语句，或者在文本中每隔一定段落插入标识，这样即使元数据被篡改或丢失，文本内容中的标识依然可以提醒用户其为人工智能生成合成内容。
- 变换域水印：将图片、视频转换到变换域，如离散余弦变换（DCT）域或小波域等，在变换后的系数中嵌入标识信息。变换域水印能够更好地抵抗图片的压缩、缩放、旋转以及视频的压缩、格式转换等操作，保持标识的稳定性。
- 数字水印：利用数字水印算法，在图片中嵌入不可见的水印信息。这些水印信息可以包含服务提供者名称、内容ID等，通过特定的检测算法可以从图片中提取出来。数字水印技术具有较高的安全性和稳定性，是目前比较常用的一种图片隐式标识技术。
三、新规落实：高效标识策略
对于大型内容平台、人工智能企业来说，首先，在生成合成内容时采用数字水印技术，确保内容的不可篡改和可追溯性。其次，企业在用户协议中明确标识要求，提醒用户主动声明内容属性。最后，建立内容审核机制，防止生成合成内容被用于虚假信息传播。
1、技术升级：优化设计与应用
企业需升级技术架构，确保生成合成内容能够添加显式和隐式标识，同时优化设计、灵活应用。例如：
- 优化标识设计：文本内容采用角标形式，仅在内容末尾加注“AI”即可。音频内容在音频适当位置加入“短长短短”节奏的摩斯码标识。视频内容在画面四角添加提示文字，文字高度不低于20像素。
- 应用标识方法：提供多种标识方法，适应不同产品形态，减少对用户体验的影响。对于可能影响用户体验的场景，采用隐式标识，同时通过技术手段确保标识的可追溯性。
2、流程优化：确保标识一致性
企业在内容生成、传播和下载等环节需确保标识的一致性。例如：
- 内容生成：在生成合成内容时，自动嵌入显式和隐式标识，确保标识的一致性。
- 内容传播：传播平台需核验文件元数据中的隐式标识，并在发布内容周边添加显著提示标识。
- 内容下载：确保文件下载时包含满足要求的显式标识。
3、用户教育：提升标识意识
企业需在用户服务过程中明确标识要求，提升用户对生成合成内容标识的意识。例如：
- 用户注册：在注册时弹出提示框说明标识要求。
- 内容发布：在页面提醒用户主动声明内容属性。
- 服务协议：在协议和服务说明中明确标识要求。
4、合规管理：留存日志与自查
企业需建立日志管理系统，记录生成合成内容的标识信息，定期自查标识合规性，及时整改问题。例如：
- 内部机制：建立AIGC标识的流程和审核机制，确保标识的合规性。
- 人员培训：对操作人员进行培训，明确标识的操作合规要求。
- 监督机制：建立监督机制，确保制度和流程的有效落地。
四、新规背后的AI治理与安全
在《我国出手了！构建四大层级体系，让AI风险无处遁形（附下载）》一篇中，先深入分析人工智能治理核心议题趋势动态，研究各国人工智能治理模式和实践经验。《全球可信人工智能治理全知道：现状、挑战与应对》再提出，企业应开展专业团队职责定位和能力建设，平衡技术与伦理、加强AI技术和应用案例宣导，建立闭环评估机制并加强协作培训。
而《四大典型行业的可信人工智能治理秘籍，最佳实践大放送！》结合不同的行业属性，重点从人工智能在行业中的战略定位、风险治理和应对情况等方面阐述其特有的治理方案。《深入生成式人工智能风险治理 做好个人信息合规》则认为生成式人工智能的风险治理需要贯穿产品的全生命周期——模型训练、服务上线、内容生成、内容发布与传播各阶段。
（一）法规遵循：重视标识合规性
企业要充分认识到人工智能生成合成内容标识的重要性，从内容创作、传播到管理等各个环节，都要将标识合规性纳入考虑范围。不再仅仅关注内容的质量和效果，还要确保内容的标识符合法律法规要求，避免因标识问题引发的法律风险和信任危机。
企业需严格遵循国家关于人工智能的政策与法规，确保合规运营。例如：
- 算法备案：按照要求完成算法备案，提交标识相关材料。
- 安全评估：定期进行安全评估，确保生成合成内容标识符合要求。
- 信息共享：加强标识信息共享，支持监管部门打击违法犯罪活动。
（二）加强治理：构建可信人工智能体系
企业应加大在人工智能生成合成内容标识技术方面的研发投入，提升标识的准确性和稳定性。例如，开发更先进的数字水印技术，使其能够更好地适应不同类型的文件格式和传播场景，同时提高抗破坏能力。此外，还要不断优化标识的添加和识别算法，提高效率，降低成本。
企业需构建可信人工智能体系，从技术层面提升治理能力。例如：
- 数据安全：采用加密技术保护生成合成内容的数据安全。
- 算法透明：确保生成合成内容的算法可解释、可追溯。
- 数字水印：在生成内容中嵌入不可见的数字水印，防止内容被篡改和滥用。
（三）完善管理：防范合成内容风险
企业要建立完善的内部管理流程，明确各部门在人工智能生成合成内容标识方面的职责和任务。从内容生成部门到传播部门，再到技术维护部门等，都要有相应的标识管理规范和操作流程。同时，加强员工培训，提高员工对标识重要性的认识和操作技能，确保标识工作能够顺利执行。
企业需从安全管理角度，防范生成合成内容带来的风险。例如：
- 内容审核：建立内容审核机制，防止生成合成内容被用于虚假信息传播。
- 用户认证：通过用户认证机制，确保生成合成内容的传播符合用户意愿。
- 应急响应：建立应急响应机制，及时处理生成合成内容引发的纠纷。
结语
《人工智能生成合成内容标识办法》的实施，为企业带来了新的合规挑战，同时也带来了治理提升的契机。通过技术升级、流程优化、用户教育以及合规管理，企业不仅能够满足监管要求，还能在用户体验和标识可见性之间找到平衡。同时，通过培训和教育，提升员工对标识办法的理解和执行力，是确保企业合规运营的关键。
互动话题
在《人工智能生成合成内容标识办法》实施后，企业面临的最大挑战是什么？是技术实现的难度，还是管理流程的调整，还是用户对标识的认知和接受度？欢迎在文末留言，加入数治Pro成长营社群，分享你的想法！
- 你认为哪些技术手段可以提升标识效率？
- 如何落实生成合成内容标识的要求？
- 企业如何平衡标识要求与用户体验？
课程推荐
2025年3月开学季起，数治网院iDigi将围绕“数字ABC：分析、业务转型及以客户为中心”陆续推出《AI和数据素养双效提升》、《数据驱动型企业构建》等体系化课程。
我们邀你升级职业“防护盾”，扫码测评免费领取数智第一课，即可15分钟AI适配“一人一表”“一人一课”。¥199开卡预约导师开讲，¥999起任选6课时，滚动开班随到随学。
在此特别推荐其中的《数字水印应用与电商数据防泄露实战》课程，围绕数字水印技术在电商数据防泄露领域的应用展开，结合行业现状与技术挑战，系统解析水印技术原理、典型算法及实战场景。
首期《2025智能网联汽车数据安全与合规入门到最佳实践》现已开班，完整12课时仅需¥1998，马上扫码添加老邪企业微信付款锁定名额，领取课表、脑图、问答手册等开课包！
来源：数治网院iDigi，本篇结合生成式 AI 做出的核心摘要和解答，仅作为参考，请以原文为准。
