Cohere、ビジネス向けにRAGに焦点を当て精度を高めた言語モデル「Command R+」を発表

2024年4月7日

当記事のリンクにはアフィリエイト広告が含まれています。

OpenAIのライバルと目されているCohere社は、先日のAccentureとの提携に続き、エンタープライズ向け分野での動きを強化している。

今回Cohereは、「Command R+」と名付けられた、エンタープライズ・アプリケーション向けに設計された新しい大規模言語モデル（LLM）を発表した。このモデルはRAG（Retrieval-Augmented Generation：検索拡張生成）とツールの使用に特化したもので、以前発表されたCommand Rを基盤とし、全体的にパフォーマンスが向上したモデルだ。Cohereは、Command R+は同カテゴリーの類似モデルを凌駕し、GPT-4のような高価なモデルにも引けを取らないと主張している。

CohereによるCommand R+の主な特徴は以下の通りだ：

128kトークンのコンテキスト・ウィンドウ
誤情報を最小化するソース引用による高度な検索拡張生成（RAG）。
10の主要ビジネス言語をサポート：英語、フランス語、スペイン語、イタリア語、ドイツ語、ポルトガル語、日本語、韓国語、アラビア語、中国語
複雑なビジネスプロセスを自動化するツールとの統合

特に、エンタープライズ対応ということで、問題になってくるのはLLM特有の幻覚など精度面だが、Command R+は高度なRAG向けに最適化されており、回答精度を向上させ、ソース情報を提供することで幻覚を減らすことができるとしており、企業にとって特に魅力的なものとなっている。

テキストフロー、引用の質、全体的な有用性を評価する比較テストにおいて、Command R+はGPT-4などの競合モデルを上回った。Cohere社によれば、このモデルはWikipediaやインターネットのデータを使った質疑応答テストでも高い精度を示した。

(左）テキストの流暢さ、引用の質、および全体的な実用性を組み合わせた総合的な評定スキームを使用した、人間による直接対決の優先結果。引用は、ソース文書の塊に接続された要約内部の文レベルで測定される。Cohereは非常に多様な250の文書と、APIデータに似た複雑な指示を持つ要約リクエストからなる独自のテストセットを使用した。ベースラインモデルは、数ショットのプロンプト（Sonnet）と、最初に要約、次に引用挿入の2ステップ（GPT4）で広範囲にプロンプトエンジニアリングされており、Command R+はCohereのRAG-APIを使用している。(右) 同じ検索ツールにアクセスし、Wikipedia(HotpotQA)とインターネット(BamboogleとStrategyQA)から検索する様々なモデルを搭載したマルチホップREACTエージェントの精度。HotpotQAとBamboogleの精度は、プロンプト評価者（Command R、GPT3.5、Claude3-Haiku）による3者多数決で判定され、1000例のサブセットで人間によるアノテーションを用いて検証された。StrategyQAの精度は、YES/NO判定で終わる長文の回答を用いて判定される。テストセットは、(Shin et. al. 2023)、(Press et al. 2023)、(Chen et al. 2023)のものを使用する。

また、Command R+の価格設定も企業にとっては魅力的で競争力があるものだ、100万トークンのインプットとアウトプットのコストはそれぞれ3ドルと15ドルに設定されている。これはClaude 3 Sonnetと同等である。最新のGPT-4 Turboモデルは100万投入トークンで10ドル、100万出力トークンで30ドル、Claude 3 Opusはそれぞれ15ドルと75ドルである。

(左）Azureで利用可能なモデルを3つの主要機能で性能比較：多言語、RAG、ツール使用。パフォーマンスは、以下の図に記載されているベンチマークにおけるモデルのスコアの平均値。(右）Azure上で利用可能なモデルの100万トークンあたりの入力および出力トークン・コストの比較。 (Credit: Cohere)

Command R+は、CohereとLangChain APIを通じてアクセスできるツール使用機能も提供している。これにより、CRMのレコードを自動的に更新するといったタスクを実行することができる。

新機能として、マルチステップツールの使用がサポートされ、複雑なタスクを解決するために複数のステップで複数のツールを組み合わせることができます。Command R+は、ツールを誤って使用しようとした場合や、ツールが失敗した場合に自己修正することもできます。

MicrosoftのToolTalk (Hard)やBerkeleyのFunction Calling Leaderboardのようなツールベンチマークにおいて、Command R+はClaude 3 SonnetやGPT-4 Turboに匹敵する結果を達成している。

Command R+とそのウエイトは自由に利用できるが、ライセンスは研究目的のみに限定されている。ローカルまたは現在提供されていないクラウドプラットフォームでの商用利用に興味のある方は、ライセンス契約についてCohereが別個に対応するとしている。このモデルのデモ・バージョンは、テスト用に利用可能である。

Cohereはまた、Microsoft Azureとのコラボレーションを発表し、開発者や企業がAzureプラットフォームを通じて最新のモデルにアクセスできるようになった。今後数週間のうちに、CohereはOracle Cloud Infrastructure (OCI)やその他のクラウドプラットフォームでも利用可能になる予定だという。

Source