今年年初，利用 AI 技术生成的假冒拜登总统的音频传到了新罕布什尔州的选民手中。这些音频通过自动拨号系统传播，意图误导选民。联邦通信委员会（FCC）迅速采取行动，确认德克萨斯州的 Life Corporation 是幕后黑手，并对其及相关个人处以 600 万美元的罚款。这些骗子还得到了电信公司 Lingo Telecom 的帮助。Lingo Telecom 将支付 100 万美元的民事罚款，并同意从现在开始严格遵守规则。
事件发生在今年年初，当时新罕布什尔州的选民接到了假冒拜登总统声音的电话。这些电话使用了先进的 AI 语音克隆技术，模仿拜登的声音，传播虚假信息，试图误导选民。联邦通信委员会（FCC）在接到投诉后迅速展开调查，最终确认德克萨斯州的 Life Corporation 是幕后黑手。Life Corporation 多年来一直从事类似的诈骗活动，利用 AI 技术生成假音频，进行各种欺诈行为。此次事件中，他们使用了 ElevenLabs 的技术生成拜登的语音克隆，并通过 Lingo Telecom 的网络进行传播。Lingo Telecom 是一家电信公司，曾多次涉及不正当行为，现已更名为 Lingo Telecom（又名 Ameritel、Excel、Impact、Startec、Trinsic 等）。
FCC 对 Life Corporation 及其相关个人处以 600 万美元的罚款，并对 Lingo Telecom 处以 100 万美元的民事罚款。Lingo Telecom 还同意从现在开始严格遵守规则，包括严格的来电显示认证规则和要求，更彻底地验证其客户和上游提供商提供的信息的准确性。
FCC 主席 Jessica Rosenworcel 在声明中表示：“每个人都有权知道电话线另一端的声音是否真实。如果使用了 AI 技术，这一点应该明确告知任何消费者、公民和选民。FCC 将在我们的通信网络信任受到威胁时采取行动。”
此外，非营利消费者权益保护组织 Public Citizen 对 FCC 的行动表示支持。该组织的联合主席 Robert Weissman 表示，消费者有权知道他们接收到的内容是真实的还是 AI 生成的深度伪造。Weissman 还指出，这一案件说明了深度伪造对民主的 “生存威胁”。
FCC 执法局局长 Loyaan Egal 表示，来电显示欺骗和生成性 AI 语音克隆技术的结合构成了重大威胁，“无论是国内的政治操纵者还是进行恶意影响或选举干预活动的外国对手”。
事件曝光后，社交媒体上引发了广泛讨论。许多用户对 AI 技术被滥用表示担忧，认为这对选举的公正性和民主制度构成了严重威胁。一位 Twitter 用户表示：“这次事件让我们看到了 AI 技术的黑暗面，我们需要更严格的监管来防止类似事件再次发生。” 另一位用户则指出：“AI 技术本身并没有错，关键在于如何使用。我们需要确保这些技术被用于正当用途，而不是被用来欺骗和操纵公众。” 这种观点在社交媒体上得到了广泛认同，许多人呼吁政府和科技公司采取更多措施，确保 AI 技术的透明性和可追溯性。
在公众反应方面，许多选民对这次事件感到愤怒和失望。一位新罕布什尔州的选民在接受采访时表示：“我从未想过会有人用这种方式来欺骗我们。这不仅是对选举的干扰，更是对我们信任的背叛。” 这种情绪在选民中普遍存在，许多人呼吁政府采取更强有力的措施，保护选举的公正性。
ElevenLabs 已经关闭了 Life Corporation 的账户，并表示将加强对用户的审查。