Groq，这家以 AI 芯片闻名的公司，最近完成了一轮 6.4 亿美元的融资，使其估值直逼 28 亿美元。这次融资由 BlackRock Private Equity Partners 领投，Neuberger Berman、Type One Ventures、Cisco Investments、Global Brain 的 KDDI Open Innovation Fund III 和 Samsung Catalyst Fund 等参与其中。同时，Groq 还宣布了两项人事任命。深度学习领域的图灵奖得主 Yann LeCun 将担任技术顾问，前惠普和英特尔高管 Stuart Pann 将担任首席运营官。
Groq 由一群前谷歌 TPU 团队的核心成员创办，专注于 AI 加速芯片的研发。他们推出的新型 AI 加速芯片 LPU，计划在 2025 年第一季度末部署超过 108000 个 LPU。Groq 的 LPU 芯片在 AI 推理方面表现良好。在推理 Llama-3 8b 模型时，每秒能够处理 1200 个 tokens，相当于每秒输出约 900 个单词。LPU 芯片专为 AI 推理设计的架构，能以更低的能耗实现更高的计算性能。这使得 LPU 在需要高效处理大量数据的场景中，例如自动驾驶、金融交易和实时翻译等，具有竞争优势。
Nvidia 的 GPU 一直是 AI 任务的主力军，但 Groq 凭借其专为 AI 推理设计的 LPU 芯片，提供了一个高效且低成本的替代方案。相比 Nvidia 的 GPU，Groq 的 LPU 在推理性能上表现良好，能以更低的能耗实现更高的计算速度。
Groq 在短时间内吸引了大量开发者，开发者社区的规模和活跃度显著提升。截至目前，已有超过 30 万名开发者在 Groq 的系统上进行构建和开发。这些开发者通过不断的反馈和改进，推动了 LPU 芯片和相关软件的持续优化。