2024 年 8 月 8 日,OpenAI 宣布卡内基梅隆大学的 Zico Kolter 教授加入其董事会。Kolter 是卡内基梅隆大学机器学习系的教授和主任,主要研究方向是人工智能安全。OpenAI 在其官方博客中称,Kolter 的加入将为公司的治理带来技术指导。
Kolter 的任命正值 OpenAI 内部对 AI 安全问题的高度关注之际。几个月前,包括联合创始人 Ilya Sutskever 在内的多名高管和员工因对 AI 安全的关注而离职。Kolter 将加入 OpenAI 董事会的安全与保障委员会,与其他董事会成员一起负责对所有 OpenAI 项目的安全和保障决策提出建议。
Kolter 的任命背景复杂,涉及到 OpenAI 内部对 AI 安全问题的高度关注。几个月前,OpenAI 的联合创始人 Ilya Sutskever 和其他几名高管因对 AI 安全的关注而离职。这些离职者大多来自 Sutskever 的 “超级对齐” 团队,该团队专注于治理 “超级智能” AI 系统。然而,据消息人士透露,该团队未能获得最初承诺的计算资源,导致了这些高管的离职。
Kolter 的研究主要集中在通过自动化优化技术绕过现有的 AI 安全措施,他还将与其他董事会成员一起加入安全与保障委员会,该委员会负责对所有 OpenAI 项目的安全和保障决策提出建议。Kolter 此前曾担任 C3.ai 的首席数据科学家,并在斯坦福大学完成了计算机科学博士学位,随后在麻省理工学院进行了博士后研究。
2024 年 8 月 5 日,Elon Musk 再次对 OpenAI 及其领导层提起诉讼,指控他们背叛了公司的初衷。Musk 在诉讼中声称,OpenAI 的联合创始人 Sam Altman 和 Greg Brockman “操纵” 他共同创立了 OpenAI,并利用他的 AI 安全担忧进行 “莎士比亚式的背叛”。诉讼指控 Altman 和 Brockman 建立了一个不透明的营利性 OpenAI 附属网络,进行猖獗的自我交易,控制了 OpenAI, Inc. 的董事会,并系统地掏空了非营利组织的宝贵技术和人员。
这并不是 Musk 第一次对 OpenAI 提起诉讼。今年 2 月,Musk 曾起诉 OpenAI,指控其背离了最初的非营利使命,将一些最先进的 AI 技术保留给私人客户。然而,在 OpenAI 公布了围绕公司创建的旧邮件后,Musk 在 6 月撤回了诉讼。新的诉讼在北加州联邦法院提起,篇幅几乎是前一诉讼的两倍,并包括指控 OpenAI 从事敲诈活动。
微软与 OpenAI 的关系在 2024 年变得更加复杂。7 月 31 日,微软在其最新的年度报告中将 OpenAI 列为竞争对手。这一变化发生在 OpenAI 宣布其搜索引擎原型 SearchGPT 的几天后。微软是 OpenAI 的最大投资者,已向该公司投入了约 30 亿美元。尽管两家公司有长期合作关系,但微软将 OpenAI 列为竞争对手表明它们正在进入彼此的领域。微软在文件中指出,OpenAI 在 AI 产品和搜索广告方面是其竞争对手。

