20250117-欧盟委员会-生成的AI透明度_识别机器生成的内容_6页_808kb

生成的AI透明度：识别机器生成的内容

核心内容

生成式人工智能（GenAI）是AI领域的重要分支，能够生成逼真且类人类的文本、音频、图像和视频内容。其广泛应用带来了诸多好处，但也引发了对虚假信息、意见操控、欺诈、就业和版权等问题的关注。因此，识别机器生成内容的重要性日益凸显。

为确保数字内容的透明度和可信度，欧盟AI法案提出了相关义务，要求AI系统输出内容以机器可读格式标记，并确保其可验证性。同时，美国和中国也对AI生成内容的识别提出了各自的监管措施。

主要观点

• 生成式AI技术具有高度创造力和推理能力，可能影响所有智力和艺术职业。
• 识别AI生成内容的解决方案需满足四个关键属性：效率、数据完整性、对内容更改的鲁棒性、防止操纵。
• 当前技术手段（如元数据、水印、指纹识别和检测）在实现这些属性上仍存在局限性，尚未找到全面覆盖所有需求的单一解决方案。
• 透明度措施需结合技术和法律因素，考虑内容类型、AI模型特性、提供者的责任及平台实践。

关键信息

四种技术解决方案

技术背景

• 元数据：嵌入在文件中的信息，如版权、时间戳等。适用于图像和音频，但对文本生成不适用。可被轻易篡改或删除。
• 水印：将标识信息嵌入内容中，对内容质量影响较小。但可能被篡改或移除，需额外安全措施。
• 指纹识别：生成唯一标识符并存储于外部数据库，用于识别内容。需要专门的基础设施支持。
• 检测：基于AI的分类技术，通过训练数据区分生成内容和人工内容。误报率较高，且需持续更新以适应新技术。

透明度技术挑战

• 开源AI模型可能导致识别机制被轻易绕过。
• 需要整合识别机制到生成过程中，如嵌入水印或在训练数据中加入标记。
• 技术实施可由AI提供商自行处理，也可通过制定标准以促进互操作性。
• 需要设置合适的公钥基础设施（PKI）和组织程序以确保数字签名的可信度。

未来方向

• 需要进一步的基础研究和工程探索，以开发更高效、更可靠的识别方法。
• 推动技术与法律框架的结合，形成综合的AI治理系统。
• 在分散式开源项目和边缘设备中实施透明度措施面临诸多挑战，需多方协作解决。

参考文献

• [1] AI相关术语，通用AI与法律
• [2] 信息操纵campaign及新兴技术模型
• [3] 剽窃与欺诈
• [4] 生成式AI对全球选举的影响
• [5] 版权与艺术创作
• [6] 欧盟AI法案
• [7] 欧洲议会关于AI统一规则的修正案
• [8] 欧洲议会2024年会议更正
• [9] 美国对AI生成内容的监管
• [10] 中国对深度合成内容的监管
• [11] 水印技术在数字媒体中的应用
• [12] Transformer模型
• [13] 卷积网络
• [14] GAN模型
• [15] 扩散模型
• [16] 视频生成模型
• [17] 透明度措施的重要性
• [18] 图像元数据修改工具
• [19] 嵌入水印的GenAI模型
• [20] 水印技术研究
• [21] 检测AI生成内容的文献
• [22] 机器学习会议
• [23] 神经信息处理系统会议
• [24] 水印鲁棒性研究
• [25] AI生成内容检测技术
• [26] 机器学习会议
• [27] 水印规避攻击
• [28] AI生成内容检测
• [29] 语言模型检测
• [30] 检测AI生成文本
• [31] 教育工作者对AI生成内容的反应
• [32] 图像检测技术
• [33] 水印在扩散模型中的应用
• [34] 内容来源标准
• [35] 生成式AI提供商实践
• [36] Meta对AI生成内容的标记

作者信息

• 作者：罗南·哈蒙、伊格纳西奥·桑切斯、大卫·费尔南德斯·洛尔卡、艾米利亚·戈麦斯
• 声明：本简报中的信息和观点仅为作者个人观点，不代表欧盟委员会的官方立场。

版权

© European Union, 2024