Command R+

Command R+ 概述

Command R+ 是 Cohere 的大型语言模型，针对对话交互和长上下文任务进行了优化。据 Cohere 官方文档介绍，该模型适用于依赖复杂检索增强生成（RAG）功能和多步工具使用（代理）的工作流，被定位为生产级模型，可帮助企业超越概念验证阶段。较旧、较小的 Command R 则被建议用于更简单的 RAG、单步工具使用和对价格敏感的应用程序。

模型规格与部署

在 Cohere 的 API 上，Command R+ 以模型 ID command-r-plus-08-2024 提供服务，具有 128,000 个 token 的上下文窗口，最多可生成 4,000 个输出 token，知识截止日期为 2024 年 6 月 1 日。Amazon Bedrock 也提供该模型，模型 ID 为 cohere.command-r-plus-v1:0，具有相同的 128K 上下文窗口和 4K 最大输出 token。除了 Cohere 自身的 API，Command R+ 还通过多个企业部署渠道提供，包括 Amazon Bedrock、Microsoft Azure AI Foundry（通过 Azure Marketplace 按需付费）以及 Oracle Cloud Infrastructure Generative AI。Cohere 的 Command 系列页面还强调了安全的私有部署选项，包括超大规模云 VPC 部署，以及与 Cohere 的 Tool Use API 集成以构建代理。

2024 年 8 月更新

Cohere 的旗舰文本生成模型 Command R 和 Command R+ 在 2024 年 8 月进行了重大更新，在 API 上指定为 command-r-plus-08-2024。据 Cohere 官方文档，更新后的 Command R+ 与之前版本相比，吞吐量提高了约 50%，延迟降低了 25%，同时保持相同的硬件占用。此外，它还改进了工具使用决策、系统消息中的指令遵循、结构化数据处理，增强了对非语义提示更改的鲁棒性，并倾向于拒绝无法回答的问题。

多语言能力

Command R+ 是多语言的，针对全球业务重要的十种语言进行了优化：英语、法语、西班牙语、意大利语、德语、巴西葡萄牙语、日语、韩语、简体中文和阿拉伯语。预训练数据还涵盖了另外 13 种语言，包括俄语、波兰语、土耳其语、越南语、荷兰语、捷克语、印度尼西亚语、乌克兰语、罗马尼亚语、希腊语、印地语、希伯来语和波斯语。该模型经过训练，可以用用户的语言进行响应，并能处理跨语言任务，如翻译和回答有关其他语言内容的问题。

功能特性

Command R+ 支持基于检索的生成和代理工作流。它可以基于提供的文档片段生成响应，并包含指示信息来源的引用（RAG），并且经过训练支持多步工具使用，模型可以顺序调用工具，并在后续步骤中使用一次调用的结果来构建简单的代理。2024 年 8 月版本还可以在没有引用的情况下执行 RAG 工作流。两个更新后的模型都增加了可配置的安全模式（STRICT、CONTEXTUAL 或 NONE），为开发人员提供对输出护栏的细粒度控制。

开放权重与研究

Command R+ 是一个 1040 亿参数的模型，以开放权重形式发布供研究使用。模型卡说明，C4AI 向全球研究人员发布了高性能 104B 参数模型的权重，该模型受 CC-BY-NC 许可和可接受使用附录的约束，并要求遵守 C4AI 的可接受使用政策。Cohere 的官方模型卡报告称，Command R 和 Command R+ 在 BOLD 偏差基准上进行了评估，两者都表现出普遍缺乏偏差，而更强大的 Command R+ 显示的偏差略小于 Command R。