2024 年 8 月 20 日，AI 学者 Andrew Ng 在社交媒体上感谢众议员 Zoe Lofgren 对加州 AI 法案 SB-1047 的反对。Lofgren 是众议院科学、空间和技术委员会的资深成员，她的团队认为该法案存在核心问题，缺乏足够的证据基础。吴恩达的这一表态引发了广泛关注，进一步推动了关于该法案的讨论。
SB-1047 法案全称为《前沿人工智能模型安全与创新法案》，旨在通过严格的安全协议和责任规定来防止 AI 技术可能带来的灾难。该法案由加州参议员 Scott Wiener 提出，试图从过去社交媒体和数据隐私政策的失败中吸取教训，并在为时已晚之前保护公民。
支持者认为，随着 AI 技术的快速发展，制定相关法规以确保公共安全是必要的。AI 安全中心主任 Dan Hendrycks 表示，这符合加州和美国更广泛的行业的长期利益。研究人员 Geoffrey Hinton 和 Yoshua Bengio 也支持这项法案，他们担心 AI 技术可能引发危险的末日场景。
反对者的声音同样强烈。硅谷的许多大公司和风险投资人对此表示强烈反对，认为该法案可能会限制技术创新，增加创业者的风险，甚至导致他们迁往其他州。AI 科学家 Yann LeCun 在社交媒体上表示，SB-1047 将损害研究工作。斯坦福大学教授李飞飞也警告说，该法案将会削弱公共部门和学术界的 AI 研究。
法案的具体内容包括：
- AI 开发者必须向一个由五人组成的委员会提交年度认证，评估其 AI 模型的潜在风险、安全协议的有效性以及公司如何遵守 SB-1047 的规定。委员会成员包括来自 AI 行业、开源社区和学术界的代表，由加州州长和立法机构任命。
- 如果发生 “AI 安全事件”，开发者必须在得知事件后 72 小时内向 FMD 报告。
- 如果开发者未能遵守这些规定，SB-1047 允许加州总检察长对开发者提起民事诉讼。对于训练成本为 1 亿美元的模型，首次违规的罚款可高达 1000 万美元，后续违规的罚款可达 3000 万美元。
- 该法案包括对员工的举报保护，如果他们试图向加州总检察长披露有关不安全 AI 模型的信息。
科技界和学术界对 SB-1047 法案的反应非常强烈。斯坦福大学教授李飞飞在《财富》专栏中写道，该法案将 “损害我们新兴的 AI 生态系统”。她指出，开源开发对私营部门很重要，但对无法在没有协作和数据访问的情况下前进的学术界更为关键。加州大学伯克利分校的 Sky Computing Lab 主任 Ion Stoica 也表示，“这个法案将损害加州的创新，并导致一个更加危险和不安全的世界。” 技术企业家 Andrew Ng 则认为，“这个拟议的法律在监管 AI 技术而不是 AI 应用方面犯了根本性的错误，因此无法真正提高 AI 的安全性。”
在社交媒体上，关于 SB-1047 的讨论也非常热烈。许多用户表达了对该法案的担忧，认为它可能会对开源社区造成负面影响。开源社区在 AI 技术的发展中扮演了重要角色，许多创新都是在开源平台上实现的。严格的安全审查和透明度要求可能会使得开源项目难以继续进行，从而影响整个 AI 生态系统的发展。
一些用户指出，法案中的某些条款可能会导致法律上的不确定性，增加企业的法律风险。初创公司 Omniscience 的 CEO 兼旧金山 AGI House 的创始人 Jeremy Nixon 担心 SB-1047 会摧毁他的生态系统。他认为应该惩罚那些造成重大危害的坏人，而不是那些公开开发和分发技术的 AI 实验室。