検索拡張世代 (RAG) (Retrieval-augmented generation (RAG))

例

以下のプロンプトには、いくつかの事実を確立するコンテキストが含まれています。

Aisha recently painted the kitchen yellow, which is her favorite color.

Aisha's favorite color is 

アイシャが、一般的なプリトレーニング・データ・セットに含まれている多くのオンライン記事でお気に入りの色が言及されている有名な人物でない限り、プロンプトの開始時にコンテキストがないと、ファウンデーション・モデルは、プロンプトの終了時に文の正しい完成を確実に生成することができません。

ファクトが入力されたコンテキストを含むテキストを使用してモデルにプロンプトを出すと、モデルが生成する出力が正確である可能性が高くなります。 詳しくは、 事実上正確な出力の生成を参照してください。

取得増補世代の由来

「 Retrieval-augmented generation (RAG)」という用語は、 Retrieval-augmented generation for knowledge-nLP tasksという資料で紹介されています。

「我々は、パラメトリック・メモリーが事前にトレーニングされた seq2seq 変圧器であり、ノンパラメトリック・メモリーが Wikipedia の高密度ベクトル指標であり、事前にトレーニングされたニューラル・リトリーバーを使用してアクセスする RAG モデルを構築します。」

この資料では、 RAG モデル という用語は、 リトリーバー (特定の照会エンコーダーおよびベクトル・ベースの文書検索索引) および 生成プログラム (事前にトレーニングされた特定の生成言語モデル) の特定の実装を指します。 ただし、基本的な検索および生成のアプローチを一般化して、さまざまなリトリーバー・コンポーネントおよび基盤モデルを使用することができます。

知識ベース

知識ベースは、以下のような情報を含む成果物の任意のコレクションにすることができます。

• 社内 Wiki ページのプロセス情報
• GitHub 内のファイル (任意の形式: マークダウン、プレーン・テキスト、JSON、コード)
• コラボレーション・ツールでのメッセージ
• 製品資料内のトピック (長いテキスト・ブロックが含まれる場合があります)
• 構造化照会言語 (SQL) 照会をサポートするデータベース内のテキスト・パッセージ ( Db2 など)
• PDF ファイルとして保管されている法的契約などのファイルの集合を持つ文書ストア
• コンテンツ管理システムでのお客様サポート・チケット

リトリーバー

リトリーバーは、 IBM Watson Discovery のような検索ツールや、 GitHubで提供されるような検索 API やコンテンツ API など、知識ベースから確実に関連コンテンツを返す検索ツールとコンテンツ・ツールの任意の組み合わせにすることができます。

ベクトル・データベースは、特に有効なリトリーバーです。 ベクトル・データベースは、データだけでなく、データのベクトル組み込みも保管します。これは、データの意味をキャプチャーするデータの数値表現です。 照会時には、照会テキストのベクトル埋め込みを使用して、関連する一致が検索されます。

Watsonx.ai にはベクトル・データベースは含まれていませんが、 watsonx.ai のファウンデーション・モデルを市場の任意のベクトル・データベースで使用できます。 サンプル・ノートブック は、Chroma や Elasticsearchなどの一般的なベクトル・データベースに接続するための手順を示しています。

より高度な実装には、知識ベースがベクトル・データ・ストアであり、リトリーバーが照会をベクトルに変換し、類似性検索を使用して関連するパッセージを検出するレイヤーが含まれる場合があります。 IBM watsonx.ai は、文とパッセージをベクトルに変換するために使用できる組み込み API と組み込みモデルを提供します。 このタイプの RAG 実装について詳しくは、 Using vectorized text with retrieval-augmented generation tasksを参照してください。

ジェネレーター

生成プログラム・コンポーネントは、 watsonx.ai内の任意のモデルを使用できます。これらのモデルは、ユース・ケース、プロンプト・フォーマット、およびコンテキスト用にプルするコンテンツに適しています。