AutoAI RAGインデックスを使って文書とチャットする
If you created an AutoAI Retrieval-augmented generation (RAG) pattern by using a Milvus vector store, you can use the indexed grounding documents in the Prompt lab to add context to answers generated with foundation models.
As part of the process of running an AutoAI experiment for Retrieval-augmented generation, the grounding documents are vectorized and stored in a Milvus vector store. ベクトル化されたコンテンツを使用して、プロンプトに対する生成された回答にコンテキストを追加することができます。 プロンプトラボの「ドキュメントとのチャット」機能の詳細については、 Grounding foundation model prompts in contextual information をご覧ください。
開始前に
AutoAIRAGパターンからベクター化されたドキュメントを使用するには、以下の要件を満たしていることを確認してください：
- プロンプトを作成するプロジェクトから、 Milvus データベースインスタンスへの接続が可能です。
- あなたは文書をベクトル化するためにサポートされた埋め込みモデルを使用しました。
プロンプトラボでのベクター化されたコンテンツの作業の詳細については、 Adding vectorized documents for grounding foundation model prompts をご覧ください。
Milvus インデックスをドキュメントチャットに接続する
Prompt Lab をチャットモードで開き、 foundation model を選択し、プロンプトに使用するモデルパラメータを指定します。
ドキュメントのアップロードアイコン
をクリックし、ドキュメントの追加を選択します。watsonx.data Milvus ベクトルストアとして選択します。
接地書類の名前を入力し、インデックスへの接続を選択して詳細を定義する。
AutoAI RAGパターンを作成するために使用する埋め込みモデルを指定します：
slate-125m-english-rtrvr.根拠資料として使用するコレクションを選択する。
Milvus コレクションフィールドのスキーマを定義し、 ドキュメント名フィールドに
document_id、 テキストフィールドの値にtextを指定します。「作成」 をクリックします。
文書に記載されている情報についての質問を送信し、モデルが文脈情報をどの程度利用して質問に答えることができるかを確認します。
例えば、根拠となる文書で説明されている概念について尋ねる。
詳細情報
プロンプトの操作の詳細については、 Prompt Lab。
親トピック AutoAIでRAGパターンを自動化する