Verwendung eines AutoAI RAG-Index zum Chatten mit Dokumenten
Wenn Sie ein AutoAI Retrieval-Augmented Generation (RAG)-Muster mithilfe eines Milvus -Vektorspeichers erstellt haben, können Sie die indizierten Grundlagendokumente im Prompt-Labor verwenden, um den mit den Grundmodellen generierten Antworten Kontext hinzuzufügen.
Im Rahmen des AutoAI -Experiments zur Retrieval-Augmented-Generation werden die grundlegenden Dokumente vektorisiert und in einem Milvus -Vektorspeicher gespeichert. Sie können den vektorisierten Inhalt verwenden, um den generierten Antworten auf Aufforderungen Kontext hinzuzufügen. Weitere Informationen zur Funktion "Chat mit Dokumenten" des Prompt-Labors finden Sie unter "Grounding foundation model prompts in contextual information ".
Vorbereitende Schritte
Um die vektorisierten Dokumente aus Ihrem AutoAI zu verwenden, müssen Sie sicherstellen, dass Sie die folgenden Voraussetzungen erfüllen:
- Eine Verbindung zur Datenbankinstanz Milvus ist über das Projekt verfügbar, das Sie zum Erstellen von Eingabeaufforderungen verwenden.
- Sie haben ein unterstütztes Einbettungsmodell zur Vektorisierung der Dokumente verwendet.
Weitere Informationen zur Arbeit im Prompt-Labor mit vektorisierten Inhalten finden Sie unter "Hinzufügen vektorisierter Dokumente zum Grundieren von foundation model -Eingabeaufforderungen ".
Verknüpfen Sie Ihren Milvus -Index mit Chat-Dokumenten
Wählen Sie im Chat-Modus von Prompt Lab eine foundation model aus und geben Sie dann alle Modellparameter an, die Sie für die Eingabeaufforderung verwenden möchten.
Klicken Sie auf das Symbol Dokumente hochladen
, und wählen Sie dann Dokumente hinzufügen.Wählen Sie watsonx.data Milvus als Vektorspeicher aus.
Definieren Sie die Details, indem Sie einen Namen für die Erdungsdokumente eingeben und die Verbindung zum Index auswählen.
Geben Sie das Einbettungsmodell an, das zur Erstellung des AutoAI RAG-Musters verwendet wird:
slate-125m-english-rtrvr.Wählen Sie die Sammlung aus, die als Grundlagendokumente verwendet werden soll.
Definieren Sie das Milvus -Sammelfeldschema, indem Sie
document_idfür das Feld "Dokumentname" undtextals Wert für das Feld "Text" angeben.Klicken Sie auf Erstellen.
Stellen Sie Fragen zu Informationen aus dem Dokument, um zu sehen, wie gut das Modell die Kontextinformationen nutzen kann, um Ihre Fragen zu beantworten.
Fragen Sie zum Beispiel nach Konzepten, die in den Grundlagendokumenten erläutert werden.
Weitere Informationen
Weitere Informationen zur Arbeit mit Eingabeaufforderungen finden Sie unter Prompt Lab.
Übergeordnetes Thema: Automatisieren eines RAG-Musters mit AutoAI