最近，全球 AI 聊天平台 Character.AI 推出了一款新的开源工具 ——Prompt Poet，专门用来优化 Prompt 提示词设计。这个工具结合了 YAML 和 Jinja2，通过渲染和加载两大步骤，将输入数据处理成结构化的 YAML 文件，从而实现高效缓存和低延迟响应。用户可以自定义编码和截断策略，这样可以提高 GPU 前缀缓存的利用率，缓存率高达 95%。此外，不论用户喜欢在线 API 还是本地 LLM，这个项目都能满足需求。
Character.AI 以其名人聊天列表和用户自定义 AI 角色功能而闻名，用户可以与虚拟的哲学家、诗人甚至耶稣基督对话。Character.AI 最近还推出了实时对话功能，让用户与 AI 代理的互动更加即时。
Google 正在开发一个名为 Gemini 的新项目，直接对标 Character.AI。据悉，Gemini 采用的是全新的多模态 AI 方法，目标是与 Character.AI 竞争。AI 聊天机器人市场正在迅速升温，各大科技公司都在积极布局，争夺这一领域的领先地位。