Skip to content
毫河风报
菜单
  • 首页
  • 关于我们
  • 联系我们
  • 播记
 
Nvidia 与 Oracle 联手,L40S GPU 加速生成式 AI 和 LLM 应用

Nvidia 与 Oracle 联手,L40S GPU 加速生成式 AI 和 LLM 应用

2024-08-02

在最近的 SIGGRAPH 2024 大会上,Nvidia 和 Oracle 宣布了一项合作,瞄准生成式 AI、大型语言模型(LLM)、高级图形和数字孪生工作负载的加速。合作的核心是 Nvidia 最新的 L40S GPU,这些 GPU 现在可以通过 Oracle Cloud Infrastructure 进行订购。

Nvidia 的 L40S GPU 基于 Ada Lovelace 架构,配备了第四代张量核心和 FP8 Transformer 引擎,能够提供超过 1.45 petaflops 的张量处理能力。相比之前的 A100 Tensor Core GPU,L40S GPU 在生成式 AI 推理性能上提升了 1.2 倍,训练性能提升了 1.7 倍。这种性能的提升将加速 AI 训练和推理、3D 设计和可视化、视频处理以及工业数字化等高计算需求的应用流程。

此外,Beamr 在大会上演示了如何利用 Nvidia 的加速计算技术在 Oracle Cloud Infrastructure 上优化高质量视频。Oracle Cloud Infrastructure(OCI)最近引入了 Nvidia L40S GPU 和新的 Nvidia H100 Tensor Core GPU 虚拟机选项,为企业用户提供了更强大的计算资源。这些新服务旨在帮助企业快速部署和扩展其 AI 应用。

Nvidia 和 Oracle 的合作由来已久,两家公司在多个项目上取得了成果。去年,Oracle 与 Elon Musk 的 xAI 达成协议,为其提供云基础设施,帮助训练大型语言模型(LLM)。Oracle 提供了 24,000 个 Nvidia H100 GPU,使 xAI 成为 Oracle 云服务的最大客户之一。

Nvidia 创始人兼首席执行官黄仁勋表示:“生成式 AI 的大热激发了一轮公司转向云计算来支持自身业务模式的热潮。我们正在与 Oracle 一起帮助他们以更容易的方式获取所需要的功能并创造出新的工具和应用。”Oracle 云基础设施首席执行官 Thomas Kurian 也表示:“通过与 Nvidia 的合作,我们能够为客户提供更强大的计算能力,帮助他们加速 AI 和数据科学的发展。”

Oracle 宣布将进一步扩大与 Nvidia 的合作,推出新的 GPU 选项和 AI 基础设施服务。这一动作表明,Oracle 正在借助 Nvidia 的技术来提升其云服务的竞争力。Oracle 表示不打算开发自家的 AI 芯片,而是继续依赖 Nvidia 的 GPU 和 AI 加速器。这种做法确保了云基础设施可以迅速适应市场的需求。

AI 日报

查看全部日报

  • AI 技术在医疗领域的突破性应用:从诊断到治疗的全新变革
  • AI 代理战场新核武!OpenAI 发布 o3 模型:比肩人类决策,媲美专业审核
  • 软银 5000 亿美元 AI「星门」陷融资困境,孙正义:短期波动不足为惧
  • 贝索斯加持 AI 搜索新星估值 140 亿!3 年超谷歌 7 年成绩
  • 苹果重磅爆料:秘密研发两大“杀手锏”芯片,剑指智能眼镜与 AI 服务器!

©2025 毫河风报 沪ICP备18012441号-5