2024 年 11 月 7 日,Hugging Face 的机器学习增长负责人 Ahsen Khaliq 宣布,开发者可以通过 SambaNova 的云平台部署模型,如 Llama 3.2-11B-Vision-Instruct。这一集成简化了聊天机器人的部署过程,适用于文本和图像处理。
该平台提供 AI 解决方案,并配备工具以满足企业的 AI 实施需求。服务旨在降低开发者的门槛,并缩短传统部署所需的时间。SambaNova 的平台展示了 Llama 3.2-11B-Vision-Instruct 模型的处理速度以及 Llama3 405B 模型的硬件资源消耗,集成利用了 SambaNova 的 SN40L 芯片和设计支持 AI 推理。
此外,SambaNova 的云平台支持多个 Llama 3.1 模型版本,提供不同选择和定价策略,便于开发者在流程中专注于解决实际问题。SambaNova 和 Hugging Face 还计划举办活动以收集用户反馈。