2024 年 7 月，加州通过了 SB 1047 法案，即《安全和创新前沿人工智能模型法案》。该法案旨在通过严格的安全审查和透明度要求来监管在加州开发和部署的 AI 系统。
SB 1047 法案的具体内容包括：
- 要求所有在加州开发和部署的 AI 系统必须经过严格的安全审查。这些审查将由一个独立的监管机构进行，确保 AI 系统的设计和运行符合安全标准。
- 法案还规定了对 AI 系统的透明度要求，开发者必须公开其 AI 系统的工作原理和决策过程，以便公众和监管机构进行监督。
加州参议员斯科特・维纳（Scott Wiener）在法案通过后表示：“我们需要确保 AI 技术的发展是安全和负责任的。” 他还指出，随着 AI 技术的快速发展，监管措施的缺失可能会导致不可预见的风险。
一些反对者担心，这一法案可能会对开源社区造成负面影响。开源社区在 AI 技术的发展中扮演了重要角色，许多创新都是在开源平台上实现的。严格的安全审查和透明度要求可能会使得开源项目难以继续进行，从而影响整个 AI 生态系统的发展。
除了加州，其他州也在积极推进 AI 监管法案。例如，马萨诸塞州在 2023 年 1 月由参议员巴里・费恩戈尔德和州众议员乔什・S・卡特勒提出了一项部分由 ChatGPT 撰写的法案，名为《在 ChatGPT 帮助下起草的监管生成式人工智能模型的法案》。该法案要求公司向州检察长办公室披露其算法和数据收集实践，安排定期风险评估，并为防止抄袭做出贡献。该法案于 2023 年 7 月 13 日的听证会上正式提出。
与加州的 SB 1047 法案相比，马萨诸塞州的法案更加注重算法和数据收集的透明度。该法案要求公司定期向州检察长办公室披露其算法和数据收集实践，并安排定期风险评估。这一措施旨在确保 AI 系统的透明度和安全性，同时防止数据滥用和隐私侵犯。