Anthropic 于 2024 年 10 月 8 日推出了 Message Batches API,这一工具旨在提升 AI 模型与用户之间的交互效率。通过允许开发者批量发送和接收消息,该 API 优化了通信流程,提高了响应速度。
Anthropic 成立于 2021 年,由前 OpenAI 高管和研究人员创办,获得了包括亚马逊和谷歌在内的多家科技巨头的投资。2023 年,Anthropic 从亚马逊获得了 40 亿美元的投资,这使得公司能够在 AI 技术的开发和应用上取得进展。Anthropic 的主要产品 Claude 系列 AI 模型在市场上与 OpenAI 的 ChatGPT 直接竞争。
在与亚马逊的合作中,Anthropic 利用 Amazon Bedrock 平台为其 AI 模型提供支持。Message Batches API 的推出进一步巩固了这种合作关系,允许在 Amazon Bedrock 上进行批量推理,支持 Claude 3.5 Sonnet、Claude 3 Opus 和 Claude 3 Haiku 等模型。通过这种方式,Anthropic 不仅提升了 AI 模型的交互效率,还降低了企业在使用 AI 技术时的成本。
Message Batches API 允许开发者以批处理的方式发送和接收消息,从而提升了 AI 模型的响应速度和处理效率。具体来说,Message Batches API 支持一次性处理多达 10,000 个查询,并在 24 小时内完成,成本仅为标准 API 调用的一半。其异步处理能力使得开发者可以在不影响实时响应的情况下,处理大量数据。
在用户体验方面,Message Batches API 的推出使得企业能够更高效地利用 AI 技术进行数据分析和决策支持。例如,在金融服务行业,企业可以利用该 API 进行大规模数据分析,从而更快速地做出投资决策。在零售行业,企业可以通过批量处理客户查询,提高客户服务的响应速度和质量。