Milvusベクトルストアを使用してAutoAI検索支援生成(RAG)パターンを作成した場合、プロンプトラボでインデックス化された接地文書を使用して、基礎モデルで生成された回答にコンテキストを追加することができます。
Retrieval-augmented生成のためAutoAI実験を/span>のを実行するプロセスの一環として、接地文書はベクトル化され、Milvusベクトルストアに保存される。 ベクトル化されたコンテンツを使用して、プロンプトに対する生成された回答にコンテキストを追加することができます。 プロンプトラボの「ドキュメントとチャット」機能の詳細については、「 foundation modelのプロンプトを文脈情報に基づかせる」を参照してください。
開始前に
AutoAIRAGパターンからベクター化されたドキュメントを使用するには、以下の要件を満たしていることを確認してください:
- プロンプトの作成に使用しているプロジェクトからMilvusデータベースインスタンスへの接続が可能です。
- あなたは文書をベクトル化するためにサポートされた埋め込みモデルを使用しました。
ベクター化されたコンテンツを使用したプロンプトラボでの作業の詳細については、「 foundation modelのプロンプトにベクター化されたドキュメントを追加する」を参照してください。
Milvusインデックスを接続して文書とチャットする
チャットモードのプロンプトラボから、foundation modelを選択し、プロンプトに使用するモデルパラメータを指定します。
ドキュメントのアップロードアイコンをクリックし、ドキュメントの追加を選択します。
ベクターストアとしてwatsonx.data Milvusを選択する。
接地書類の名前を入力し、インデックスへの接続を選択して詳細を定義する。
AutoAI RAGパターンを作成するために使用する埋め込みモデルを指定します:
slate-125m-english-rtrvr
.根拠資料として使用するコレクションを選択する。
文書名フィールドには
document_id
を、テキストフィールドにはtext
を値として指定し、Milvusコレクションフィールドスキーマを定義します。「作成」 をクリックします。
文書に記載されている情報についての質問を送信し、モデルが文脈情報をどの程度利用して質問に答えることができるかを確認します。
例えば、根拠となる文書で説明されている概念について尋ねる。
親トピック AutoAIでRAGパターンを自動化する