2024 年 8 月 27 日，OpenAI 宣布支持加州的一项新法案，该法案要求在所有 AI 生成的内容上添加水印，以确保内容的透明度和可追溯性。TechCrunch 报道了这一消息。OpenAI 的首席战略官在一封信中表示，支持这一法案是为了在选举年确保 AI 生成内容的透明度。该法案预计将在八月份进行最终投票。
加州法案 AB 3211 要求在 AI 生成的照片、视频和音频片段的元数据中添加水印。许多 AI 公司已经在执行这一要求，但大多数人并不会查看元数据。AB 3211 还要求大型在线平台，如 Instagram 或 X，以普通观众能够理解的方式标记 AI 生成的内容。OpenAI、Adobe 和 Microsoft 已经公开表示支持这一法案，相关信件已被 TechCrunch 查看。
这一法案的提出者是第 14 区议员 Buffy Wicks，她表示：“在一个信息泛滥的时代，确保内容的真实性和可追溯性至关重要。我们需要为公众提供工具，以便他们能够识别和信任他们所看到的内容。” 她还指出，这一法案不仅仅是为了防止虚假信息的传播，更是为了保护内容创作者的权益。
OpenAI 在声明中表示：“我们相信，透明度是建立公众信任的关键。通过在 AI 生成的内容上添加水印，我们可以帮助用户更好地识别和理解这些内容的来源。”
这一法案的通过将对多个领域产生深远影响。首先，对于内容创作者和平台运营者来说，添加水印将成为一项新的合规要求。这可能会增加内容创作和发布的复杂性和成本，但也有助于保护原创内容的版权和防止虚假信息的传播。其次，对于用户来说，这一法案将提高他们对 AI 生成内容的信任度，使他们能够更容易地识别和区分 AI 生成的内容和人类创作的内容。
目前，AI 生成内容已经广泛应用于多个领域，包括新闻、娱乐、广告和教育等。生成式 AI 技术，如 OpenAI 的 GPT-4 和 DALL-E，能够生成文本、图像和视频内容。这些技术的进步使得 AI 生成内容越来越逼真，但也带来了虚假信息和版权侵权等问题。为了应对这些挑战，许多公司和研究机构正在开发各种技术手段，以确保 AI 生成内容的透明度和可追溯性。
OpenAI 最近宣布计划开发新工具，通过使用防篡改水印来帮助识别 AI 生成的内容。ChatGPT 的制造商正在与微软合作，启动一个 200 万美元的社会韧性基金，以推动溯源标准的采用和理解。通过其研究人员访问计划，OpenAI 的图像检测分类器的早期访问申请现已向第一批测试者开放。这些技术手段将有助于提高 AI 生成内容的透明度和可追溯性，减少虚假信息的传播。
然而，这些技术手段也面临一些挑战。例如，如何在不影响内容质量的情况下嵌入水印，以及如何确保水印在各种传播渠道中不被篡改或删除。此外，如何平衡透明度和隐私保护也是一个需要解决的问题。一些专家指出，虽然水印技术可以提高内容的透明度，但也可能带来隐私泄露的风险。因此，在开发和应用这些技术时，需要充分考虑各种潜在的风险和挑战。