例

次のプロンプトには、いくつかの事実を立証するための文脈が含まれている：

Aisha recently painted the kitchen yellow, which is her favorite color.

Aisha's favorite color is 

アイシャが、一般的な事前学習データセットに含まれる多くのオンライン記事で好きな色について言及されている有名人でない限り、プロンプトの冒頭の文脈がなければ、どのfoundation modelもプロンプトの最後に正しい文の完了を確実に生成することはできない。

事実に満ちた文脈を含むテキストでモデルを促せば、モデルが生成する出力はより正確なものになる可能性が高くなる。 詳細は、事実に基づいて正確な出力を生成するを参照してください。

検索を利用した生成の起源

本稿では、RAG（retrieval-augmented generation）という用語を紹介する：知識集約的な自然言語処理タスクのための検索補強型生成。

"我々は、パラメトリックメモリが事前に訓練されたseq2seq変換器であり、ノンパラメトリックメモリが事前に訓練されたニューラルレトリバーでアクセスされるウィキペディアの密なベクトルインデックスであるRAGモデルを構築する。"

その論文では、RAGモデルという用語は、リトリーバー（特定のクエリーエンコーダーとベクトルベースの文書検索インデックス）とジェネレーター（特定の事前訓練された生成言語モデル）の特定の実装を指しています。 しかし、基本的な検索と生成のアプローチは、異なるレトリーバー・コンポーネントや基礎モデルを使用するように一般化することができる。

知識ベース

知識ベースは、以下のような、情報を含むアーティファクトの任意のコレクションとすることができる：

• 社内のWikiページで情報を処理する
• GitHubにあるファイル(Markdown、プレーンテキスト、JSON、コードなど形式は問いません)
• コラボレーションツールのメッセージ
• 製品ドキュメントのトピック（長いテキストブロックを含むことがある
• Db2 のような構造化クエリ言語 (SQL) クエリをサポートするデータベース内のテキストパッセージ
• PDFファイルとして保存されている法的契約書などのファイルを集めたドキュメントストア
• コンテンツ管理システムのカスタマーサポート・チケット

リトリーバー

リトリーバは、IBM Watson Discovery のような検索ツールや、GitHub が提供するような検索およびコンテンツ API など、知識ベースから関連するコンテンツを確実に返す検索ツールとコンテンツ ツールの任意の組み合わせにすることができます。

ベクトル・データベースも効果的な検索装置である。 ベクトル・データベースは、データだけでなく、データのベクトル埋め込みも格納する。ベクトル埋め込みとは、データの意味的な意味をとらえた数値表現である。 クエリー時には、クエリーテキストのベクトル埋め込みが、関連するマッチを見つけるために使われる。

IBM watsonx.ai にはベクター データベースは含まれていませんが、watsonx.ai の基盤モデルを市販のベクター データベースで使用することができます。 サンプルノートブックは、ChromaやElasticsearchのような一般的なベクターデータベースに接続する手順を示しています。

レトリバーがベクトル化されたテキストを使用する RAG パターンの実装を支援するために、watsonx.ai は、文や文章をベクトルに変換するために使用できる埋め込み API と埋め込みモデルを提供しています。 この種のRAG実装の詳細については、検索支援生成タスクでベクトル化テキストを使うを参照してください。

ジェネレーター

ジェネレータ・コンポーネントは、watsonx.aiの中のどのモデルでも使うことができます。あなたのユースケース、プロンプトのフォーマット、コンテキストのために取り込むコンテンツに合ったものを選んでください。