人工智能领域最近发生了一件大事：OpenAI 的联合创始人 John Schulman 宣布离职，转投竞争对手 Anthropic。在社交媒体平台 X 上，Schulman 解释了他的决定，表示希望更多专注于 AI 对齐研究，也就是确保人工智能按照预期行为运作的科学。他特别强调，这次离职并非因为 OpenAI 在对齐研究上的支持不足，而是出于个人职业发展的考虑。
Schulman 在 OpenAI 担任了多个重要角色，特别是在强化学习和生成式 AI 领域。他是 OpenAI 的创始成员之一，自 2016 年从加州大学伯克利分校获得计算机科学博士学位后就加入了公司。在 OpenAI 期间，Schulman 领导了多个关键项目，包括 ChatGPT 的开发。他在创建这个 AI 驱动的聊天机器人平台中发挥了作用，领导了 OpenAI 的强化训练组织，对生成式 AI 模型进行微调，使其能够更好地遵循人类指令。此外，他还接管了超级对齐团队，专注于防止人工智能对社会造成危害。
Anthropic 是一家由前 OpenAI 员工创办的初创公司，专注于 AI 安全和对齐研究。公司致力于开发安全、可靠的人工智能系统，确保这些系统能够按照预期行为运行，并减少潜在的社会风险。Anthropic 的核心研究领域包括 AI 对齐、AI 安全和 AI 伦理。公司通过多种技术手段，确保人工智能系统在执行任务时能够遵循人类的价值观和道德准则。Anthropic 的研究团队由多位在 AI 领域具有背景的专家组成，他们在 AI 安全和对齐研究方面拥有经验。