Verwenden Sie dieses Lernprogramm, um sich mit der Verwendung von Basismodellen in IBM watsonx.ai vertraut zu machen, um eine sachlich genaue Ausgabe auf der Basis von Informationen in einer Wissensbasis zu generieren, indem Sie das Muster für die abruferweiterte Generierung anwenden. Basismodelle können Ausgaben generieren, die aus verschiedenen Gründen faktisch ungenau sind. Eine Möglichkeit zur Verbesserung der Genauigkeit der generierten Ausgabe besteht darin, die erforderlichen Fakten als Kontext in Ihrem Eingabeaufforderungstext bereitzustellen. In diesem Lernprogramm wird ein Beispielnotebook verwendet, das die Mustermethode für die abruferweiterte Generierung verwendet, um die Genauigkeit der generierten Ausgabe zu verbessern.
- Erforderliche Services
- watsonx.ai Studio
- watsonx.ai Laufzeit
Ihr grundlegender Workflow umfasst die folgenden Tasks:
- Öffnen Sie ein Projekt. Projekte sind der Ort, an dem Sie gemeinsam mit anderen mit Daten arbeiten.
- Fügen Sie Ihrem Projekt ein Notebook hinzu. Sie können Ihr eigenes Notizbuch erstellen oder ein Beispiel-Notizbuch zu Ihrem Projekt hinzufügen.
- Fügen Sie Code hinzu und bearbeiten Sie ihn und führen Sie dann das Notebook aus.
- Überprüfen Sie die Notebookausgabe.
Lesen Sie mehr über Retrieval-Augmented Generation Pattern
Sie können das Verfahren zum Einbeziehen von Kontext in Ihre Eingabeaufforderungen skalieren, indem Sie Informationen in einer Wissensbasis nutzen. Das Muster für die abruferweiterte Generierung umfasst drei grundlegende Schritte:
- Relevante Inhalte in Ihrer Wissensbasis suchen
- Extrahieren Sie den relevantesten Inhalt als Kontext in Ihre Eingabeaufforderung
- Kombinierten Eingabeaufforderungstext an das Modell senden, um Ausgabe zu generieren
Weitere Informationen zum Muster 'Retrieval Augmented Generation'
Sehen Sie sich ein Video zur Verwendung des Abruferweiterungsgenerierungsmusters an.
Sehen Sie sich dieses Video an, um eine Vorschau der Schritte in diesem Lernprogramm anzuzeigen. Möglicherweise gibt es geringfügige Unterschiede in der Benutzerschnittstelle, die im Video angezeigt wird. Das Video ist als Begleiter zum schriftlichen Lernprogramm gedacht.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Versuchen Sie ein Tutorial, um ein foundation model mit dem abruferweiterten Generierungsmuster aufzurufen
In diesem Lernprogramm werden Sie die folgenden Tasks ausführen:
- Aufgabe 1: Projekt öffnen
- Aufgabe 2: Beispielnotebook zu Projekt hinzufügen
- Task 3: Notebook bearbeiten
- Task 4: Notebook ausführen und Ausgabe überprüfen
Tipps zum Durcharbeiten dieses Lernprogramms
Im Folgenden finden Sie einige Tipps für den erfolgreichen Abschluss dieses Lernprogramms.
Verwenden Sie das Videobild im Bild
Die folgende animierte Abbildung zeigt, wie die Funktionen für Videobilder und Inhaltsverzeichnisse verwendet werden:
Hilfe in der Community anfordern
Wenn Sie Hilfe zu diesem Tutorial benötigen, können Sie eine Frage stellen oder eine Antwort im watsonx Community Diskussionsforum finden.
Browserfenster einrichten
Damit Sie dieses Lernprogramm optimal nutzen können, öffnen Sie Cloud Pak for Data in einem Browserfenster und lassen Sie diese Lernprogrammseite in einem anderen Browserfenster geöffnet, um einfach zwischen den beiden Anwendungen zu wechseln. Es empfiehlt sich, die beiden Browserfenster nebeneinander anzuordnen, um die weitere Arbeit zu erleichtern.
Aufgabe 1: Projekt öffnen
Sie benötigen ein Projekt, um das Beispielnotebook zu speichern.
Sehen Sie sich ein Video an, um zu sehen, wie ein Sandboxprojekt erstellt und ein Service zugeordnet wird. Führen Sie anschließend die Schritte aus, um zu überprüfen, ob ein Projekt vorhanden ist, oder um ein Sandboxprojekt zu erstellen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Führen Sie die Schritte aus, um zu prüfen, ob ein Projekt vorhanden ist, oder um ein Projekt zu erstellen.
Blättern Sie in der Hauptanzeige von watsonx zum Bereich Projekte . Wenn Sie keine Projekte aufgelistet sehen, gehen Sie zu Assoziieren Sie den watsonx.ai Runtime-Dienst. Wenn keine Projekte angezeigt werden, führen Sie die folgenden Schritte aus, um ein Projekt zu erstellen.
Klicken Sie auf Sandbox-Projekt erstellen. Beim Erstellen des Projekts wird die Sandbox im Abschnitt Projekte angezeigt.
Öffnen Sie ein vorhandenes Projekt oder das neue Sandboxprojekt.
Assoziieren Sie den watsonx.ai Runtime-Dienst mit dem Projekt
Sie werden watsonx.ai Runtime verwenden, um das foundation model aufzurufen. Folgen Sie daher diesen Schritten, um Ihre watsonx.ai Runtime Service-Instanz mit Ihrem Projekt zu verknüpfen.
Klicken Sie im Projekt auf die Registerkarte Verwalten .
Klicken Sie auf die Seite Services & Integrationen .
Prüfen Sie, ob diesem Projekt ein watsonx.ai Runtime-Dienst zugeordnet ist. Wenn kein zugeordneter Service vorhanden ist, führen Sie die folgenden Schritte aus:
Klicken Sie auf Service zuordnen.
Markieren Sie das Kästchen neben Ihrer watsonx.ai Runtime Service-Instanz.
Klicken Sie auf Zuordnen.
Klicken Sie bei Bedarf auf Abbrechen , um zur Seite Services & Integrationen zurückzukehren.
Weitere Informationen hierzu oder die Option zum Ansehen eines entsprechenden Videos finden Sie unter Projekt erstellen.
Überprüfen Sie Ihren Fortschritt
Die folgende Abbildung zeigt die Registerkarte Verwalten mit dem zugehörigen Service. Sie können nun das Beispielnotebook zu Ihrem Projekt hinzufügen.
Aufgabe 2: Beispielnotebook zum Projekt hinzufügen
Das Beispielnotebook verwendet eine kleine Wissensbasis und eine einfache Suchkomponente, um das Basismuster zu veranschaulichen. Das Szenario, das in diesem Notebook verwendet wird, ist für ein Unternehmen, das Samen für die Pflanzung in einem Garten verkauft. Die Website für einen Online-Seed-Katalog enthält viele Artikel, die Kunden helfen, ihren Garten zu planen und letztlich zu wählen, welche Samen zu kaufen. Die neue Widge wird zur Website hinzugefügt, um Kundenfragen zum Inhalt der Artikel zu beantworten.
Sehen Sie sich dieses Video an, um zu erfahren, wie Sie ein Beispielnotebook zu einem Projekt hinzufügen und anschließend die Schritte zum Hinzufügen des Notebooks zu Ihrem Projekt ausführen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Greifen Sie auf das RAG: A simple introduction notebook in der Ressourcendrehscheibe zu.
Klicken Sie auf Zum Projekt hinzufügen.
Wählen Sie Ihr Projekt in der Liste aus und klicken Sie auf Add.
Geben Sie den Namen und die Beschreibung des Notebooks ein (optional).
Wählen Sie eine Laufzeitumgebung für dieses Notebook aus.
Klicken Sie auf Erstellen. Warten Sie, bis der Notebookeditor geladen wurde.
Klicken Sie im Menü auf Kernel > Restart & Clear Outputund klicken Sie anschließend auf Restart and Clear All Outputs , um die Ausgabe der zuletzt gespeicherten Ausführung zu löschen.
Weitere Informationen zu zugehörigen Services finden Sie unter Zugehörige Services hinzufügen.
Überprüfen Sie Ihren Fortschritt
Die folgende Abbildung zeigt das im Bearbeitungsmodus geöffnete Notebook. Jetzt können Sie die Voraussetzungen für die Ausführung des Notebooks einrichten.
Aufgabe 3: Notebook bearbeiten
Um eine Vorschau auf diese Aufgabe zu erhalten, sehen Sie sich das Video ab 00:57 an.
Bevor Sie das Notebook ausführen können, müssen Sie die Umgebung einrichten. Führen Sie die folgenden Schritte aus, um die Voraussetzungen für Notebooks zu überprüfen:
Blättern Sie zum Abschnitt For IBM watsonx on IBM Cloud im Notebook, um die beiden Voraussetzungen für die Ausführung des Notebooks anzuzeigen.
Im Abschnitt Erstellen eines IBM Cloud müssen Sie Ihre Anmeldedaten mithilfe eines API-Schlüssels an die watsonx.ai Runtime API übergeben. Wenn Sie noch keinen gespeicherten API-Schlüssel haben, führen Sie diese Schritte aus, um einen API-Schlüssel zu erstellen.
Rufen Sie die Seite mit den API-SchlüsselnIBM Cloud auf.
Klicken Sie auf IBM Cloud-API-Schlüssel erstellen. Wenn Sie über vorhandene API-Schlüssel verfügen, kann die Schaltfläche Erstellenlauten.
Geben Sie einen Namen und eine Beschreibung ein.
Klicken Sie auf Erstellen.
Kopieren Sie den API-Schlüssel.
Laden Sie den API-Schlüssel für die zukünftige Verwendung herunter.
Lesen Sie den Abschnitt Assoziieren einer Instanz des watsonx.ai Runtime-Dienstes mit dem aktuellen Projekt. Sie haben diese Voraussetzung in Task 1abgeschlossen.
Blättern Sie zum Abschnitt Zelle ausführen, um den IBM Cloud -API-Schlüssel bereitzustellen :
Klicken Sie auf das Ausführungssymbol '
, um die Zelle auszuführen.Fügen Sie den API-Schlüssel ein und drücken Sie
Enter.
Klicken Sie unter Run the cell to set the credentials for IBM watsonx on IBM Cloud auf das Ausführungssymbol "
, um die Zelle auszuführen und die Anmeldedaten festzulegen.
Überprüfen Sie Ihren Fortschritt
Die folgenden Abbildungen zeigen das Notebook mit den Voraussetzungen. Jetzt können Sie das Notebook ausführen und die Ausgabe überprüfen.
Task 4: Notebook ausführen und Ausgabe überprüfen
Eine Vorschau zu dieser Task sehen Sie, wenn Sie die Wiedergabe des Videos bei 01:03 starten.
Das Beispielnotebook enthält Informationen zur abruferweiterten Generierung und dazu, wie Sie das Notebook für Ihren speziellen Anwendungsfall anpassen können. Führen Sie die folgenden Schritte aus, um das Notebook auszuführen und die Ausgabe zu überprüfen:
Blättern Sie zum Abschnitt Schritt 2: Knowledge Base erstellen im Notebook:
Klicken Sie auf das Ausführungssymbol "
für jede der drei Zellen in diesem Abschnitt.Überprüfen Sie die Ausgabe für die drei Zellen im Abschnitt. Der Code in diesen Zellen richtet die Wissensbasis als Sammlung von zwei Artikeln ein. Diese Artikel wurden als Beispiele für watsonx.aigeschrieben, sie sind keine echten Artikel, die an anderer Stelle veröffentlicht wurden. Die Autoren und Veröffentlichungsdaten sind fiktiv.
Blättern Sie zum Abschnitt Schritt 3: Einfache Suchkomponente erstellen im Notebook:
Klicken Sie auf das Ausführungssymbol "
für jede der beiden Zellen in diesem Abschnitt.Überprüfen Sie die Ausgabe für die beiden Zellen im Abschnitt. Der Code in diesen Zellen erstellt eine einfache Suchkomponente. Viele Artikel, in denen es um die abruferweiterte Generierung geht, gehen davon aus, dass die Abrufkomponente eine Vektordatenbank verwendet. Zur Ausführung des allgemeinen Generierungsmusters für den erweiterten Abruf werden jedoch alle Such-und Abrufmethoden, die relevante Inhalte zuverlässig aus der Wissensbasis zurückgeben können, ausgeführt. In diesem Notizbuch ist die Suchkomponente eine einfache Suchfunktion, die den Index des einen oder des anderen der beiden Artikel in der Wissensbasis auf der Basis einer einfachen Übereinstimmung mit regulären Ausdrücken zurückgibt.
Blättern Sie zum Abschnitt Step 4: Craft prompt text im Notebook:
Klicken Sie auf das Ausführungssymbol "
für jede der beiden Zellen in diesem Abschnitt.Überprüfen Sie die Ausgabe für die beiden Zellen im Abschnitt. Der Code in diesen Zellen enthält den Text der Eingabeaufforderung. Es gibt niemanden, die beste Eingabeaufforderung für eine bestimmte Task. Modelle, die jedoch instruktionsoptimiert wurden, wie z. B. bigscience/mt0-xxl-13b, google/flan-t5-xxl-11boder google/flan-ul2-20b, können diese Task im Allgemeinen mit einer Beispieleingabeaufforderung ausführen. Konservative Decodierungsmethoden neigen zu prägnanten Antworten. Beachten Sie in der Eingabeaufforderung zwei Zeichenfolgeplatzhalter (markiert mit %s), die bei der Generierung ersetzt werden:
- Der erste Platzhalter wird durch den Text des entsprechenden Artikels aus der Wissensbasis ersetzt.
- Der zweite Platzhalter wird durch die zu beantwortete Frage ersetzt.
Blättern Sie zum Abschnitt Step 5: Generate output using the foundation models Python library im Notebook:
Klicken Sie auf das Ausführungssymbol "
für jede der drei Zellen in diesem Abschnitt.Überprüfen Sie die Ausgabe für die drei Zellen im Abschnitt. Der Code in diesen Zellen generiert Ausgabe mithilfe der Python -Bibliothek. Sie können Basismodelle in watsonx.ai über das Programm mithilfe der Python -Bibliothek anfordern. Weitere Informationen zur Bibliothek finden Sie in den folgenden Abschnitten:
Blättern Sie zum Abschnitt Step 6: Pull everything together to perform retrieval-augmented generation im Notebook:
Klicken Sie auf das Ausführungssymbol "
für jede der beiden Zellen in diesem Abschnitt. Dieser Code extrahiert alle Elemente zusammen, um die abruferweiterte Generierung auszuführen.Überprüfen Sie die Ausgabe für die erste Zelle im Abschnitt. Der Code in dieser Zelle richtet die Benutzereingabeelemente ein.
Geben Sie für die zweite Zelle im Abschnitt eine Frage ein, die sich auf Tomaten oder Gurken bezieht, um die Antwort und die Quelle anzuzeigen. Beispiel:
Do I use mulch with tomatoes?.Überprüfen Sie die Antwort auf Ihre Frage.
Überprüfen Sie Ihren Fortschritt
Die folgende Abbildung zeigt das abgeschlossene Notebook.
Nächste Schritte
- Sehen Sie sich das Video ab 02:55 an, um mehr über die Überlegungen zur Anwendung des abruferweiterten Generierungsmusters auf eine Produktionslösung zu erfahren.
- Probieren Sie die Anleitung Prompt a foundation model mit Prompt Lab aus.
- Testen Sie die anderen Lernprogramme für watsonx.ai -Anwendungsfälle.
Weitere Ressourcen
Weitere Informationen finden Sie unter Videos.
Suchen Sie Beispieldatasets, Projekte, Modelle, Eingabeaufforderungen und Notebooks im Ressourcenhub, um praktische Erfahrungen zu sammeln:
-Notizbücher, die Sie zu Ihrem Projekt hinzufügen können, um mit der Analyse von Daten und der Erstellung von Modellen zu beginnen.
Projekte, die Sie importieren können und die Notizbücher, Datensätze, Prompts und andere Elemente enthalten.
Datensätze, die Sie zu Ihrem Projekt hinzufügen können, um Modelle zu verfeinern, zu analysieren und zu erstellen.
Eingabeaufforderungen, die Sie im Eingabeaufforderungs-Labor verwenden können, um ein foundation model einzugeben.
Stiftungsmodelle, die Sie im Prompt-Labor verwenden können.
Übergeordnetes Thema: Lernprogramme für den Schnelleinstieg