OpenAI 的治理研究员 Richard Ngo 近日宣布离职,他在离职信中表达了对过去一年中公司事件的困扰,并对 OpenAI 实现 AGI 的目标表示怀疑。Ngo 自 2021 年加入 OpenAI,致力于 AI 预测与治理研究,在此之前,他曾就职于 Google DeepMind。
Ngo 的离职并非孤例,OpenAI 最近经历了一系列的人事变动,包括安全副总裁 Lilian Weng 和 AGI 筹备团队领导 Miles Brundage 的离职。今年早些时候,超级对齐联合负责人 Ilya Sutskever 和 Jan Leike 也因公司文化问题离开。Ngo 在 AI 安全领域有一定影响,他是 “深度学习视角下的对齐问题” 论文的合著者。
OpenAI 已暂停新模型研发,如 GPT-5,这被视为对技术路线的一次再评估。Richard Ngo 计划未来从事 AI 治理和对齐问题的独立研究,这反映出越来越多的 AI 研究人员在探索伦理与安全课题上寻求独立性。当前,政界和公众对 AI 政策的关注度持续上升,全球范围内如何平衡创新与监管成为重要议题。