2024 年 8 月 10 日，美国联邦通信委员会（FCC）提出了一项新规，要求自动拨号者在使用人工智能（AI）技术时必须进行披露。该提议旨在提高透明度，确保消费者在接到电话时能够知晓是否由 AI 生成。FCC 要求在寻求同意时，拨号者必须明确说明是否计划在未来的电话和短信中使用 AI 技术。
FCC 的新规不仅要求在寻求同意时披露 AI 的使用，还要求在任何 AI 生成的电话中添加类似的披露。根据 FCC 的定义，“AI 生成的电话” 是指使用技术创建 “人工或预录的声音或使用计算技术或其他机器学习，包括预测算法和大型语言模型，处理自然语言并生成语音或文本内容以与被叫方进行外拨电话通信的任何电话”。
这一提议还包括对有言语和听力障碍的人使用 AI 生成语音软件进行外拨电话的例外情况。FCC 要求在这种情况下，电话中不得包含 “未经请求的广告”，并且接收电话的人不应为此类电话支付费用。该机构还要求公众对这一例外情况是否可能被诈骗者滥用以及如何更新规则以防止这种情况提出具体意见。
这一提议是 FCC 打击 AI 生成的自动拨号问题的最新举措。早在 2024 年初，FCC 就发布了一项声明，禁止在未经接收者同意的情况下使用语音克隆技术进行自动拨号。这一声明是由于一名政治顾问使用 ElevenLabs 的技术创建了总统乔・拜登的深度伪造语音克隆，并通过来电显示欺骗新罕布什尔州的选民，传播虚假信息。随后，ElevenLabs 关闭了该用户账户。
除了 FCC 的提议，其他机构和公司也在采取措施应对 AI 生成内容带来的挑战。例如，微软最近呼吁国会通过一项全面的法律，以打击利用 AI 生成的图像和音频（即深度伪造）进行欺诈、滥用和操纵行为。微软副主席兼总裁布拉德・史密斯在一篇博客文章中表示，科技行业和非营利组织最近采取了一些措施来解决这个问题，但显然我们的法律也需要发展，以应对深度伪造欺诈。他呼吁国会通过一项 “深度伪造欺诈法”，为执法官员提供法律框架，以起诉 AI 生成的诈骗和欺诈行为。
微软还希望立法者确保联邦和州的法律涵盖 AI 生成的内容，包括儿童性剥削和虐待以及未经同意的亲密图像。参议院最近通过了一项打击性深度伪造的法案，允许未经同意的性深度伪造的受害者起诉其创作者并要求赔偿。这项法案是在中学生和高中生被发现伪造女同学的露骨图像，以及网络喷子在 X 平台上发布大量泰勒・斯威夫特的 AI 生成伪造图像后通过的。
微软还在其自身的 AI 产品中实施了更多的安全控制措施，此前该公司的 Designer AI 图像生成器的一个漏洞允许人们创建名人如泰勒・斯威夫特的露骨图像。史密斯表示，私营部门有责任创新并实施防止 AI 滥用的保障措施。
在 2024 年总统选举前夕，生成性 AI 使得创建虚假音频、图像和视频变得容易，FCC 已经禁止使用 AI 生成语音进行自动拨号。埃隆・马斯克最近在 X 平台上分享了一段恶搞副总统卡马拉・哈里斯的深度伪造视频，这一帖子似乎违反了 X 平台关于合成和操纵媒体的政策。
微软希望像马斯克这样的帖子能够明确标注为深度伪造。史密斯表示，国会应该要求 AI 系统提供商使用最先进的溯源工具来标注合成内容。他说，这对于建立信息生态系统的信任至关重要，并将帮助公众更好地理解内容是否由 AI 生成或操纵。