在人工智能快速发展的今天,我们正站在一个关键的历史节点。自两年前 ChatGPT 问世以来,AI 技术不仅重新定义了我们的工作方式、交流方式和创新方式,更深刻地改变了人们对未来的想象。
在这场变革中,OpenAI 及其联合创始人兼 CEO Sam Altman 无疑扮演着核心角色。作为估值达 1570 亿美元的科技巨头掌舵人,Sam 不仅带领团队将人工智能推向大众,更在通用人工智能(AGI)的探索道路上不断突破。
然而,在技术快速迭代、竞争日益激烈的今天,OpenAI 正面临着前所未有的挑战与机遇。从非营利组织到商业实体的转型、与微软的深度合作、行业监管的平衡,以及对 AI 安全性的持续思考,每一个决策都牵动着整个行业的神经。
2024 年 12 月 5 日的 New York Times DealBook Summit 上, 在这场由 Andrew Sorkin 主持的深度对话中,Sam 不仅坦诚分享了对当前 AI 发展的思考,更深入探讨了技术变革背后的伦理考量、社会影响,以及人类文明的未来图景。在快速发展与审慎推进之间,在商业利益与社会责任之间,OpenAI 的选择或将为整个行业提供重要参考。
Sam Altman 的核心观点包括:
- 技术发展与预期: Sam Altman 认为,技术发展到某一时刻,人们对其理解会从模糊转为清晰,大语言模型的扩展和实用功能变得显而易见。预计到 2025 年,AI 系统的发展将令怀疑者惊叹,带来显著变化。
- AI 发展的规律与挑战: 存在关于 AI 发展可能放缓的讨论,但 Sam Altman 认为 AI 将继续发展,OpenAI 准备了许多新项目。算力、数据和算法是 AI 规模化的三个关键因素,它们之间可以互为补充。
- AGI 与超级智能的未来: AGI 被视为发展过程中的一个里程碑,但达到 AGI 并不意味着超级智能的实现。从 AGI 到超级智能的过渡仍需很长时间,且伴随着经济和社会的显著变化。
- 安全性与社会责任: OpenAI 面临着安全性和社会责任的挑战,需要在技术发展的同时考虑其社会影响。迭代部署的理念被强调,即通过将系统推向世界来观察其使用情况,从而识别缺陷和优点。
- AI 的商品化与未来: 存在对 AI 技术商品化的担忧,但 Sam Altman 认为 AI 将成为像半导体一样普遍的技术。OpenAI 的目标是使 AI 技术广泛传播,即使面临竞争和商品化的风险。
- 非营利组织与盈利导向的转变: OpenAI 最初以非营利研究机构的形式成立,但随着资金需求的增加,开始考虑部分转型为盈利导向。
以下是本期播客内容的完整翻译,我们作了不改变原意的删减。
AI 规模化:算力、数据和算法
安德鲁·索金(Andrew Sorkin)
非常感谢你的到来,Sam。Sam 是 OpenAI 的联合创始人兼首席执行官。OpenAI 是当今最具影响力的公司之一。自两年前推出 ChatGPT 以来,Sam 和他的团队已将人工智能推向大众,并从根本上改变了我们的工作、沟通和创新方式。这使得人们开始重新思考未来的图景。
OpenAI 的估值约为 1570 亿美元。我必须说,OpenAI 不仅引发了一场技术竞赛,也重新定义了技术的可能性。随着 Sam 在通用人工智能(AGI)领域的推进,我们面临着未来工作、权力平衡和伦理等方面的挑战。我们将和 Sam 一起探讨这些问题。感谢你的到来。
那么,我们从哪里开始呢?几乎正是在两年前的这周,你推出了 ChatGPT。当时,全球的格局发生了变化,讨论、筹款优先级和资源流动都随之转变。其他科技公司也纷纷调整策略,甚至发生了诉讼。因此,我很想知道,如果你能回到两年前,就像我所说的,几乎是在按下按钮的那一天,你当时预期会发生什么。
山姆·奥特曼(Sam Altman)
从抽象的角度来看,我们总是知道,总有那么一个时刻,无论出于何种原因,世界对某项技术的理解将从模糊转为清晰。突然之间,这项技术的内部运作会变得一目了然。届时,大语言模型的不断扩展变得显而易见,它们将带来众多实用功能。至于是何时这种转变在 ChatGPT 发布时发生,我有一些理论。
但为什么这种转变既没有在我们发布 GPT-3 的 API 时发生,也没有推迟到几个月后 GPT-4 发布?我认为,这种转变的时机实际上具有偶然性。 我们观察到,通过 API 和 GPT-3 发布时,模型还处于早期阶段,应用场景有限。然而,它的一个杀手级应用场景是在开发者测试环境中,开发者可以快速试验想法而无需立即集成 API,他们非常乐于与模型进行对话。他们会与 GPT-3 进行各种对话,成为主要的使用方式。
因此,我们提出,如果这种使用方式符合人们的需求,我们可以让它更易用。用户无需注册开发者账户即可使用,优化了对话中的用户体验。因此,我们决定将其作为一款产品发布。实际上,我们本计划与 GPT-4 一起发布这款产品。我们在 2022 年 8 月就大致完成了 GPT-4,但我们暂时保留了一段时间。
安德鲁·索金(Andrew Sorkin)
您预料到这一切会发生吗?
山姆·奥特曼(Sam Altman)
曾几何时,我们以为世界会发生重大变化。那时我们知道会是 ChatGPT 的发布?当然不是。
安德鲁·索金(Andrew Sorkin)
两年过去了,我们现在正在讨论下一个重大问题。我几乎不敢相信,我们是在两年后才开始关注这个问题。您最近写了一篇关于此主题的文章,并提到未来我们可能会拥有超级智能。两年前,您曾有这样的想法吗?提到“未来”,我可以尝试用一些算法来预测这意味着什么。
山姆·奥特曼(Sam Altman)
关于超级智能的定义,确实存在广泛的不确定性和多种不同的看法。两年前,我们感受到自己正踏上一条极具挑战的上升道路。创立 OpenAI 的原因是我们相信超级智能的发展不仅可能,而且可能并非遥不可及。事情的进展符合我们的期望。
我们相信,深度学习是人类的一项了不起的新发现。 我们认为该目标能够实现,并认识到我们有责任推动其实现,并尽可能广泛地分享其收益。虽然没有百分之百的把握,但我们认为只要付出大量的努力和进行深入的研究与工程开发,这一目标是可以实现的,且可能并不需要等待太久。我预计,到 2025 年,我们会看到一些系统的发展,即便是对当前进展持怀疑态度的人也会惊叹不已:哇,我没想到会看到这样的事情。这究竟带来了什么样的改变?
山姆·奥特曼(Sam Altman)
智能代理是当前的热门话题,我认为这有充分的理由。这一概念意味着,我们可以将一个相当复杂的任务分配给一个 AI 系统,就如同交给一个非常聪明的人一样。这个人需要花时间去解决问题,运用各种工具,最终创造出有价值的东西。
我期待这一发展的到来,并希望明年能够实现。如果这一切如我们期望的顺利推进,将会带来巨大的变革。当我们讨论这件事时,总是会说“哦,你知道,这迟早会发生”。但如果真的实现,它的影响将是显著的。
安德鲁·索金(Andrew Sorkin)
过去几周,许多报道都在讨论 AI 发展的规律可能正在放缓。对此,我们应该如何看待呢?你发了一条推文,但我不太确定你的推文是在说什么。你在推文中写道:“没有墙”。
山姆·奥特曼(Sam Altman)
我觉得这看起来不会比那更难理解。实际上,这是一种尝试,不是让事情变得复杂,而是说,这将会继续发展。事实上,我希望这至少能让事情暂时稳定下来。我总是惊讶于人们对是否存在瓶颈、扩展是否会继续等问题的猜测。与其对进步的曲线持否定态度,也许我不该反对那样的指数增长。
不管怎样,我们准备了许多新的好项目。我们为节日季策划了一项有趣的活动,我们将举办为期 12 天的 OpenAI 活动。从明天(12月6日)开始,在接下来的 12 个工作日里,我们每天都会推出一个新项目或演示。 虽然现在不能透露太多关于明天的内容,但这象征着持续的进步,并为我们提供了更多的线索。
安德鲁·索金(Andrew Sorkin)
如果计划明天开始,那么不如就现在开始。
山姆·奥特曼(Sam Altman)
我不想让你失望……我们很快就会知道结果了。
安德鲁·索金(Andrew Sorkin)
当前,关于 AI 的一个重要议题是与规模化相关的问题,即需要多少数据以及在什么条件下才能继续扩大规模。这在多大程度上涉及到计算能力还是资金呢?这又与数据有多大关系,尤其是与数据来源、合成数据以及我们根据数据重建数字化概念的能力之间的关系。人们在讨论这些限制因素时,如今要实现规模化究竟需要具备哪些条件?这其中似乎隐含了对于哪个环节能够实现目标的疑问。
山姆·奥特曼(Sam Altman)
因此,有三个关键因素:算力、数据和算法。 尽管还有其他因素,但这三个是最主要的。有时候,它们之间可以互为补充。例如,拥有更好的数据可以减少对计算资源的依赖;或者,有更多的计算能力可以生成模拟数据,从而创造更多的数据。在某些时期,计算能力带来了显著的直接收益。最近,我们在算法方面也取得了很大进展。然而,这几个因素都需要同时推进。在不同的时间点上,它们带来的收益可能有所不同,但我认为这三者都同样重要。
安德鲁·索金(Andrew Sorkin)
计算资源对你而言是首要的。如果没有计算能力,其他一切都显得不重要。
山姆·奥特曼(Sam Altman)
从某种意义上,算法的进步是一项重大成就,是最为关键的突破。虽然你可以通过增加资本投入或者随着时间的推移将计算机性能提高一倍甚至十倍,但有时通过算法的改进可以带来高达 1000 倍的提升。 尽管这样的情况非常罕见,一旦发生,其带来的好处是巨大的。最近的 Transformer 就是一个很好的例子。
安德鲁·索金(Andrew Sorkin)
现在似乎存在一场关于筹资和处理能力的竞争,各方争相获取更多的计算能力。你与 Microsoft 有合作关系,依靠他们提供支持。
山姆·奥特曼(Sam Altman)
我认为在这些方面存在一场竞赛。其中,计算能力的竞赛最引人注目也最具戏剧性,因为涉及的数字庞大而获得了最多关注。这当然非常重要,我并不想低估它的重要性。但与此同时,确实也有大量精力投入于谁能提出最好的算法设计,以及谁能找到新的数据来源。因此,我认为在这三个方面都有竞争。
安德鲁·索金(Andrew Sorkin)
您与微软确实存在这种关系。有时,这种关系被形容为一种理想的技术“兄弟情谊”。我刚刚读到了一篇由 Alex Heath 撰写的文章,其中提到微软和 OpenAI 正在逐步解除这种关系。
山姆·奥特曼(Sam Altman)
我认为我们之间还有一些问题尚未完全厘清,但请听我说,我明白其中可能存在一些不一致和挑战,确实有一些问题。然而,总体来看,我认为这对两家公司来说都是一件非常积极的事情,我期待未来能够有更多的合作。
安德鲁·索金(Andrew Sorkin)
从长远来看,您认为拥有自己的处理能力,而不是依赖他人,是必要的。
山姆·奥特曼(Sam Altman)
我们需要确保有足够且可靠的计算能力。虽然可能会有一些大胆的想法,尝试实施高风险高回报的项目,但并不意味着 OpenAI 必须擅长构建大规模的数据中心。或许是由于我在互联网创业初期成长的背景影响,在那个时代之前,每家公司都需自行建设硬件,拥有自己机房和数据中心,这是必不可少的。
然而,AWS 的出现改变了这一切,这让我一直以来都这样思考。尽管我们可以考虑自己构建某些东西,或者随着时间推移实现更深的垂直整合,但能够专注于研究和产品,充分发挥我们的特长,这样的方式实在是太好了。
安德鲁·索金(Andrew Sorkin)
我之所以提出这个问题,是因为这种情况会导致一种既是朋友又是敌人的“友敌”关系。即使你有自己的产品,实际上,我昨天还是用了它来查阅一些事情,效果非常好。
山姆·奥特曼(Sam Altman)
很高兴听到这个消息。
安德鲁·索金(Andrew Sorkin)
顺便提一下,我们稍后将见到 Sundar。你们在搜索产品上的工作非常吸引人,真是太酷了。
山姆·奥特曼(Sam Altman)
不得不说,这是我们推出的产品中我最喜欢的一个。感谢你对它的认可。我经常使用它,并对此感到非常满意。它彻底改变了我使用互联网的方式。
安德鲁·索金(Andrew Sorkin)
在与 Microsoft 的合作中,OpenAI 的产品被应用于 Copilot,现在 Apple 也在使用这些产品。此外,你们也在销售自有的产品。你们是否会担心未来在利益上的一致性问题?
对于《纽约时报》的一些报道提到的情况,如可能存在的处理能力和访问权限方面的困难,以及 OpenAI 员工使用 Microsoft 产品和服务时遇到的不同需求,其中一些产品和服务员工可能不愿使用,我想了解这些情况。
山姆·奥特曼(Sam Altman)
的确,我们在不同时间点曾面临过真正的计算资源短缺。我们的产品规模增长迅速。两年前,我们的业务几乎不存在,而现在每周活跃用户已经超过 3 亿。用户每天向 ChatGPT 发送的消息超过十亿条。
我们的开发者业务也非常庞大,仅在美国就有大约 130 万名开发者,全球范围内更多。因此,我们需要大量计算资源,这远超出我们的预期。在商业史上,这是一个非常罕见的增长速度,这也给我们带来了一些压力。然而,我没有听到任何关于使用 Microsoft 服务的不满。我们同时管理庞大的平台和自有业务,许多公司也是如此。
在某些方面,我们表现出色,而 Microsoft 在另一些方面更为优异。当然,并非完全没有压力,但总的来说,我认为我们的目标是一致的。
AGI 到超级智能仍有很大距离
安德鲁·索金(Andrew Sorkin)
谈到人工通用智能,你提到过如果真的达到那一步,将根据协议终止合作。听起来你们似乎已经接近这一目标。
山姆·奥特曼(Sam Altman)
我们也曾表示,我们的目标是将 AGI(通用人工智能)视为发展过程中的一个里程碑。我们给自己留了一些灵活性,因为我们无法预测将会发生什么,但我猜想,我们实现 AGI 的时间可能会比世界大多数人预期的要早,而且它的影响可能没有人们想象的那么显著。
实际上,人们,包括我们,所表达的许多安全性担忧不会在 AGI 面世时发生。即便 AGI 被开发出来,世界依然会如常运转,经济加速,事物发展的速度也会更快。然而,从我们所谓的 AGI 阶段到超级智能阶段,中间仍有很长的一段路要走。
安德鲁·索金(Andrew Sorkin)
这正是我们应该开始担心的时候。记得这些年你曾在华盛顿和其他地方提醒我们说,我们应该感到紧张。
山姆·奥特曼(Sam Altman)
即使在通用人工智能(AGI)时代来临时,我认为仍然会有一些令人担忧的事情。我预计,经济的变化一开始可能会比人们想象的更加缓慢,因为社会中存在一种保持现状的惯性。然而,随后的变化可能会比预期更加剧烈。最初几年或许不会有太大变化,但之后经济可能会发生显著的转变。
我不相信会出现失去工作的情况,而是认为我们总能找到需要完成的任务。每次重大的技术革命都会导致大量的工作变动,但毫无疑问,我们从未见过如此快速的变化。因此,我认为在相对较短的时间内,经济和就业会出现一些我们需要密切关注的变化。
山姆·奥特曼(Sam Altman)
我认为,这些事情比实现一个系统更加遥不可及,你明白我的意思吧。
安德鲁·索金(Andrew Sorkin)
您认为政府或其他组织能找到解决这个问题的方法吗?
山姆·奥特曼(Sam Altman)
我相信研究人员会找到避免这种情况的方法。可能会出现一些问题……让我详细解释一下。我认为全球最聪明的人正在解决一系列技术难题。尽管可能有些乐观,我仍相信他们能找到解决方案。我们正在努力工作,其他人也是如此。未来的工作任务繁重,但我们拥有深度学习这一非同寻常的科学成就,它可以帮助我们解决这些极其复杂的问题。我假设我们能够实现这一目标。
至于社会问题,不仅仅是人工通用智能(AGI),我们谈论的是一种真正的超智能——不仅比你我聪明,还要比我们所有人加起来更聪明的系统,具备惊人能力的系统。即使在技术上我们能够确保其安全,我也假设我们能够解决这个问题,我们仍然需要对我们的政府有一定的信心。这涉及到政策问题,并需要全球协同。我相信在必要时这种协同会实现,但这显然是一项富有挑战性的任务。
迭代部署的理念非常重要
安德鲁·索金(Andrew Sorkin)
这是一个关于安全性的问题,我们都看过相关的头条新闻。在过去的一两年里,你们一直是新闻的焦点。许多人选择离开或指出 OpenAI 在安全方面的关注不够,这对公司的信誉和信任度造成了影响。请简要说明一下,当人们认为关注安全性不够时,您认为实际情况是怎样的?有哪些事情应该发生却没有发生?
山姆·奥特曼(Sam Altman)
我是指我们的过往记录。我想说的是,我们谈论的是一种大型产品的市场投放。这项技术非常新,并且发展迅速。起初,我们并不确定如何进行有效的调整。现在,它的安全性和稳健性已经被社会普遍接受。这样的安全性总是通过众多利益相关者的共同协商来确定的。因此,准确界定使儿童版 GPT 安全的标准可能会非常困难。
安德鲁·索金(Andrew Sorkin)
我之所以提这个问题,是因为我们听到一些人在离开组织后公开发声,他们在 Twitter 上表示这些人忽视了安全问题。这究竟与安全资源、处理能力还是您所关注的重点有关呢?
山姆·奥特曼(Sam Altman)
有些人认为,ChatGPT 的安全性不足,导致了一些本不该发生的事件,或者未能履行其应有的责任。但也有人对此表示质疑,认为 ChatGPT 可能比我们想象中更安全一些。那么关于未来系统的计划是什么呢?我们应该如何应对这些问题?另外,也有人认为,这类平台的发布本身就存在安全隐患,因为 OpenAI 的加速发展让全球竞争加剧,使我们有更少的时间来研究安全问题。
基于此,我们坚持认为,迭代部署的理念非常重要。 我们必须将这些系统推向世界,以便在社会和技术共同演进的过程中,观察人们如何使用它,从而识别其缺陷和优点。然而,还有一些人认为,尽管有好处,但付出的代价是不值得的。
安德鲁·索金(Andrew Sorkin)
这是一个可能与计算能力有关的不同问题。我原本想提及,Elon Musk 正在建立他自己的计算设施,这些设施实际上是用于支持 xAI 的大型计算能力实验室。我之所以问你们是否需要自己的设施,是因为似乎每个人都在建立自己的。
我们刚刚和 Ken 谈到了 Elon Musk。多年来,Elon Musk 在你们公司中扮演了一个相当特殊的角色,既是创始人也是现在起诉公司的那个人。你如何看待 xAI 作为竞争对手的地位?显然,我们一直在谈论 Google,也讨论过 Anthropic 和 Microsoft 的更大布局。不过,我不太清楚你们对 Amazon 的看法。今天下午我们还将与 Jeff Bezos 交流。你怎么看?
山姆·奥特曼(Sam Altman)
他们是彼此的竞争对手。
安德鲁·索金(Andrew Sorkin)
您认为他们是您最大的竞争对手之一吗?他们似乎正在获得很大的发展势头。
山姆·奥特曼(Sam Altman)
是的,我认为他们将成为一支非常强劲的对手队伍。现在许多前沿模型的表现非常接近。不过,我们无疑应该高度赞赏这些企业在建设数据中心方面的速度。
安德鲁·索金(Andrew Sorkin)
请问,您是否担心这一切会因此被商品化?我的意思是,尽管并不是每个人都能做到,但似乎有这样的趋势。那么,您的优势是什么?又有哪些劣势呢?
山姆·奥特曼(Sam Altman)
我认为,技术本身可以被视为一种深度学习的物理法则。如果你相信这一点,并认为我们发现了一个重要的科学成就,那么确实,会有很多人参与其中。每个人对人工智能都有自己的比喻方式,例如有人像 Sundar 那样,把人工智能比作电力,还有人将其比作工业革命或文艺复兴。
而我更倾向于把它比作半导体——这种科学发现由几家公司率先研发并推广,它彻底改变了我们的社会,并迅速实现了规模化。就像在谈论规模法则时,最好的比喻是摩尔定律。这项技术最终被众多公司和全世界广泛采用,就像这个房间里使用的所有半导体设备一样。尽管如此,我们并不将这些视为半导体设备,也不会称 Google 为半导体公司,尽管如果没有半导体,Google 可能不存在。
我认为这就是人工智能将要发展的方向。未来,将会有非常强大的模型广泛应用于各个领域,人们将难以想象他们使用的设备、产品和服务不是智能化的。虽然他们可能会称自己为 AI 公司或提供 AI 产品,但从某种意义上来说,AI 本身及其推理引擎的性质会变得越来越普遍。 不过这并无妨,因为科学理应在社会中得到广泛传播。这也是我们致力于开发像 ChatGPT 这样的产品的原因。
安德鲁·索金(Andrew Sorkin)
其中一个与 Elon 有关的问题是,你们目前正在努力将业务中的盈利部分增加。你们现在是一个非营利组织,而他因为这个问题及其他原因对你们提起诉讼。对此你有什么感觉吗?其实,我只是想从个人层面了解你的感受,而不是讨论案件本身的优劣。作为曾经与他共事并共同创立这个项目的人,你今天对此有何感想?
山姆·奥特曼(Sam Altman)
这真令人感伤。从小到大,我一直视 Elon 为超级英雄。我认为他所做的事情对世界有着极大的意义。尽管现在我对他的看法有所改变,我仍然很庆幸他的存在。这不仅仅因为我欣赏他的公司,确实如此,更是因为在当今社会普遍缺乏雄心的情况下,他激励了包括我在内的许多人,让我们拥有更大的抱负。但这不是唯一原因,我是真心这么认为。
我也不知道“感激”是不是合适的词,但对此我抱持积极态度。我们共同创办了 OpenAI,但后来他对 OpenAI 失去了信任,选择了自己的道路,这无可厚非。不过,我认为 Elon 是个建设者,众所周知,即使没有核心角色,他仍在市场和技术领域竞争,而不是诉诸法律。不管表面上有什么抱怨,我相信他只是个竞争者,而我们也表现得非常出色。整体情况看上去令人感伤。
安德鲁·索金(Andrew Sorkin)
我想问你一些事情。《华尔街日报》的一篇文章提到你、杰夫·贝索斯,以及他的几位主要竞争对手。文章猜测,像你这样的人可能担心他的影响力,这不仅涉及到科技行业,还包括他与当选总统的亲密关系。
山姆·奥特曼(Sam Altman)
实际上,我对此非常有信心。虽然我可能会被证明是错的,但我相信 Elon 会做出正确的选择。对于美国人来说,Elon 如果利用其政治权力来打击竞争对手并从中获利,这将极大违背美国精神。我认为人们不会容忍这样的行为,我也不认为 Elon 会这样做。尽管他身上有些许让人反感的地方,但我相信这些与他所珍视的价值观是深刻抵触的, 所以我对此并不太担心。
安德鲁·索金(Andrew Sorkin)
好的,关于这个相关问题,这是最后一个。然后我想谈谈公司另一项技术的问题。他指控说,你们公司现在已经发展得非常庞大,导致市场上缺乏足够的竞争。他还认为,你们试图通过不允许潜在投资者同时投资于你们和如 XAI 或其他竞争对手的方式来阻止竞争。
山姆·奥特曼(Sam Altman)
没错,我的意思就是这样。如果你选择投资我们,同时也想投资我们的竞争对手,这完全没有问题。在那种情况下,我们会停止为你提供信息访问权限。你仍然可以这么做,不过和其他同规模公司的标准条款一样,我们将不再向你披露我们的研究路线图。这对大家来说都是合理的。同样地,你愿意去投资他们的话,那就去吧。
安德鲁·索金(Andrew Sorkin)
让我问一个关于公司不同方面的问题。您最初创办这家公司时,是以非营利研究机构的形式进行的。如今,有观点认为公司必须转型为盈利导向。那么,公司真的有必要这样转变吗?
山姆·奥特曼(Sam Altman)
首先,我想谈谈我们为何最初选择以非营利组织的形式存在,因为这能解释我们的初衷。起初,我们没有计划发展成为一家产品公司,也未曾预料到我们会需要如此庞大的资金。如果当时了解这些,我们可能会选择不同的组织结构。
2016 年与现在的差距是难以言喻的,尽管时间不长,情况却已截然不同。当时,我们距离开展导致语言模型的研究还有好几年;距离首次发布产品还有四年半;距离 ChatGPT 推出还有六年半。我们只知道,我们希望从事一些人工智能(AI)研究,并坚信人工通用智能(AGI)和超级智能最终会对世界产生重大影响。我们想做一些有益于社会的事情。
当时,我们专注于撰写论文、开发新的强化学习(RL)算法、新理论、玩视频游戏的方法以及一个机械手,但并不明确是否会产生产品或收入来源,也未认为需要大量资金。在完成 GPT-1 及其他一些工作后,我们意识到需要扩大规模。同时,埃隆决定停止为我们非营利性地提供资金,而我们找不到其他赞助人,因此需要找到一种有限盈利的方法。
我们希望继续保留非营利组织的诸多优点,因此成立了一个限制利润的子公司,这个模式运作了一段时间,从某种意义上说至今依然有效,但在某些方面也挑战了非营利控制机构理论的极限以及我们在下一阶段的资本需求。因此,我们早已开始寻求一些改变,虽然目前尚未做出决定。
正如你所想,情况非常复杂,需要仔细考虑,董事会正在努力处理此事。无论最终做出何种安排,非营利部分都不会消失。 董事会曾研究的一种方案是由一个非营利机构持有公众利益公司(PBC)的大部分股份,并通过该资产实现非营利目标。当然,还有其他想法。
安德鲁·索金(Andrew Sorkin)
让我一直感到着迷的是,你从未持有这家公司的股权。我有些惊讶,发现你的薪水是 76,000 美元。
安德鲁·索金(Andrew Sorkin)
如果公司确实处于这样的关键时刻,他们通常会希望能够向你提供一些股权。
山姆·奥特曼(Sam Altman)
许多新闻已经对此事进行了报道,而我们也面临一些投资者的压力。值得一提的是,我没有获得股权,这的确有些奇怪。
安德鲁·索金(Andrew Sorkin)
你想要这个吗?其实,你并不是真的想要它。
山姆·奥特曼(Sam Altman)
不,我当时并不想这样做。如果我能回到过去,我会做出一些调整,这样就不用总是回答有关我工作的质疑。无论我多次尝试向别人解释,我的工作是世界上最有趣、最酷的。这就像是我的退休梦想,能够在经历了一段相当成功的职业生涯后,以这样的方式度过时光。
有人参与艺术项目时并不考虑酬劳,这并不奇怪。然而,这种想法似乎不被接受,所以我希望当时能拥有一些股份。我认为这不会让我更加或减少努力。如果这样做的话,我在处理与投资者或其他方面的关系时可能会更明确,同时筹集资金也会更顺利。很多投资者没有投资,仅仅是因为我没有持有股权。
安德鲁·索金(Andrew Sorkin)
真的吗?这很有趣。他们是不因为你没有持股而不进行投资的吗?
山姆·奥特曼(Sam Altman)
这种事情确实已经发生过好几次了。
安德鲁·索金(Andrew Sorkin)
目前公司的市值已达到 1570 亿美元……如果假设某种情况发生,你认为合理的市值应该是多少?
山姆·奥特曼(Sam Altman)
我觉得你应该重新仔细考虑一下这个问题。
安德鲁·索金(Andrew Sorkin)
由于时间不多,我得快速提几个问题。
山姆·奥特曼(Sam Altman)
在你离开之前,可以让我说一句话吗?我会简短的。这份工作一直以来是我的梦想。从小我就渴望能够从事通用人工智能(AGI)的研究。我并不是每天都有机会投身于这样的工作,而更愿意避免经历太多挫折。然而,能够参与这项工作,与世界顶尖的研究人员共事,这段疯狂的旅程正是我儿时的梦想。对我而言,这份工作比任何金钱都更有意义。尽管这听起来有些奇怪,但希望你能理解。
安德鲁·索金(Andrew Sorkin)
既然提到这一点,我必须说一下:纽约时报公司对 OpenAI 和微软提起了一起关于内容训练的诉讼。在座有很多依靠内容创作谋生的人。我非常好奇,虽然我知道你无法对这场诉讼发表评论,但对于写书、撰文或制作电影的人来说,我们应该如何看待这些信息被用于训练的问题?无论这些信息是在开放网络、封闭网络还是在 YouTube 上。
山姆·奥特曼(Sam Altman)
我认为,我们的确需要一个新的协议标准,无论叫什么,用来明确创作者如何获得回报。我非常支持学习的权利。如果一台 AI 读了一本物理学教材并掌握了物理学知识,它就可以像人一样将这些知识应用于其他领域。
我认为,著作权法和合理使用的原则依旧需要适用。然而,我觉得探索一些额外的方式也很重要,例如,我一直对能否找到一种实施微支付的方法感兴趣。比如,在生成一个模仿 Andrew Ross Sorkin 风格的故事时,可以选择使用他的名字和风格,并因此获得报酬。
当然,还有很多其他想法。我认为目前关于合理使用的讨论层次不对。我们坚定认为需要一种支持学习权利的途径,但我同意我们需要找到新的经济模式,让创作者能获得新的收入来源。至于《纽约时报》的问题,我认为谈论他人立场时要保持礼貌,但我认为《纽约时报》在很多方面站在了历史的错误一边。
安德鲁·索金(Andrew Sorkin)
我们可以讨论这个问题,我认为最终会在法庭上予以解决。
山姆·奥特曼(Sam Altman)
期待与你见面。
安德鲁·索金(Andrew Sorkin)
最后我想问一个问题,这几乎与技术无关,但可能有一点关联。接下来的一年,对你而言有一件极其令人兴奋的事情,那就是即将迎来一个孩子。对于所有的父母或准父母来说,他们都在思考 AI 将如何影响我们的生活,甚至影响人类的意义。如果机器真的能做到我们无法做到的事,我们该如何应对?我们应如何思考?这对我们的尊严又意味着什么?当你有了孩子并与他们交流时,你会如何描述即将来临的新世界呢?
山姆·奥特曼(Sam Altman)
对我来说,没有什么事情比迎接一个孩子更令人激动。当然,做父母会是一种更深刻的体验。但在准备迎接这个孩子的过程中,我感到从未有过的时刻,让我觉得通用人工智能(AGI)的重要性相对减弱。我原以为自己对 AGI 的热情已经很高,但迎接孩子的激动之情远远超过了它。
这段经历让我真正明白了什么才是最重要的。我认为这体现了一种特定的视角,同时也反映了一个更普遍的现象。我们已经开发出一些令人惊叹的新技术,而每当新技术诞生时,人们总会展开讨论。这意味着什么呢?工业革命时期,机器取代了一些工作;计算机革命时期,计算机又取代了一些工作。
那么,这究竟意味着什么呢?至少从人类的角度来看,答案并没有太大改变。经济将增长,工作的类型会发生变化,但人们对孩子的关心和热爱始终远远超过对 AGI 或其他任何技术的关注。深厚的人类驱动力如此强大,存在已久,而进化的步伐却如此缓慢。因此,我认为,从某种意义上来说,我的孩子将在一个非常不同的世界中成长,但从另一种角度来看,这个世界并没有太多变化。
安德鲁·索金(Andrew Sorkin)
感谢大家的参与和交流。谢谢你们。