0 / 0
Zurück zur englischen Version der Dokumentation
Schnelleinstieg: Eingabeaufforderung für ein Basismodell mit dem Generierungsmuster 'Retrieval-augmented'

Schnelleinstieg: Eingabeaufforderung für ein Basismodell mit dem Generierungsmuster 'Retrieval-augmented'

Verwenden Sie dieses Lernprogramm, um sich mit der Verwendung von Basismodellen in IBM watsonx.ai vertraut zu machen, um eine sachlich genaue Ausgabe auf der Basis von Informationen in einer Wissensbasis zu generieren, indem Sie das Muster für die abruferweiterte Generierung anwenden. Basismodelle können Ausgaben generieren, die aus verschiedenen Gründen faktisch ungenau sind. Eine Möglichkeit zur Verbesserung der Genauigkeit der generierten Ausgabe besteht darin, die erforderlichen Fakten als Kontext in Ihrem Eingabeaufforderungstext bereitzustellen. In diesem Lernprogramm wird ein Beispielnotebook verwendet, das die Mustermethode für die abruferweiterte Generierung verwendet, um die Genauigkeit der generierten Ausgabe zu verbessern.

Erforderliche Services
Watson Studio
Watson Machine Learning

Ihr grundlegender Workflow umfasst die folgenden Tasks:

  1. Öffnen Sie ein Projekt. Projekte sind der Ort, an dem Sie gemeinsam mit anderen mit Daten arbeiten.
  2. Fügen Sie Ihrem Projekt ein Notebook hinzu. Sie können ein eigenes Notebook erstellen oder ein Beispielnotebook zu Ihrem Projekt hinzufügen.
  3. Fügen Sie Code hinzu und bearbeiten Sie ihn und führen Sie dann das Notebook aus.
  4. Überprüfen Sie die Notebookausgabe.

Lesen Sie mehr über Retrieval-Augmented Generation Pattern

Sie können das Verfahren zum Einbeziehen von Kontext in Ihre Eingabeaufforderungen skalieren, indem Sie Informationen in einer Wissensbasis nutzen. Das Muster für die abruferweiterte Generierung umfasst drei grundlegende Schritte:

  • Relevante Inhalte in Ihrer Wissensbasis suchen
  • Extrahieren Sie den relevantesten Inhalt als Kontext in Ihre Eingabeaufforderung
  • Kombinierten Eingabeaufforderungstext an das Modell senden, um Ausgabe zu generieren

Weitere Informationen zum Muster 'Retrieval Augmented Generation'

Sehen Sie sich ein Video zur Verwendung des Abruferweiterungsgenerierungsmusters an.

Video ansehen Sehen Sie sich dieses Video an, um eine Vorschau der Schritte in diesem Lernprogramm anzuzeigen. Möglicherweise gibt es geringfügige Unterschiede in der Benutzerschnittstelle, die im Video angezeigt wird. Das Video ist als Begleiter zum schriftlichen Lernprogramm gedacht.

Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.


Verwenden Sie ein Lernprogramm, um ein Basismodell mit dem Abruferweiterungsgenerierungsmuster anzufordern.

In diesem Lernprogramm werden Sie die folgenden Tasks ausführen:





Tipps zum Durcharbeiten dieses LernprogrammsIm Folgenden finden Sie einige Tipps für den erfolgreichen Abschluss dieses Lernprogramms.

Verwenden Sie das Videobild im Bild

Tipp: Starten Sie das Video. Wenn Sie dann durch das Lernprogramm blättern, wechselt das Video in den Bildmodus. Schließen Sie das Video-Inhaltsverzeichnis für die beste Erfahrung mit Bild-in-Bild. Sie können den Modus "Bild im Bild" verwenden, damit Sie dem Video folgen können, während Sie die Tasks in diesem Lernprogramm ausführen. Klicken Sie auf die Zeitmarken für jede zu befolgende Task.

Die folgende animierte Abbildung zeigt, wie die Funktionen für Videobilder und Inhaltsverzeichnisse verwendet werden:

Verwendung von Bildern und Kapiteln

Hilfe in der Community anfordern

Wenn Sie Hilfe zu diesem Lernprogramm benötigen, können Sie eine Frage stellen oder eine Antwort im Diskussionsforum derwatsonx -Communityfinden.

Browserfenster einrichten

Damit Sie dieses Lernprogramm optimal nutzen können, öffnen Sie Cloud Pak for Data in einem Browserfenster und lassen Sie diese Lernprogrammseite in einem anderen Browserfenster geöffnet, um einfach zwischen den beiden Anwendungen zu wechseln. Es empfiehlt sich, die beiden Browserfenster nebeneinander anzuordnen, um die weitere Arbeit zu erleichtern.

Paralleles Lernprogramm und Benutzerschnittstelle

Tipp: Wenn Sie beim Durcharbeiten dieses Lernprogramms in der Benutzerschnittstelle auf eine geführte Tour stoßen, klicken Sie auf Vielleicht später.



Aufgabe 1: Projekt öffnen

Sie benötigen ein Projekt, um das Beispielnotebook zu speichern.

Sehen Sie sich ein Video an, um zu sehen, wie ein Sandboxprojekt erstellt und ein Service zugeordnet wird. Führen Sie anschließend die Schritte aus, um zu überprüfen, ob ein Projekt vorhanden ist, oder um ein Sandboxprojekt zu erstellen.

Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.

Führen Sie die Schritte aus, um zu prüfen, ob ein Projekt vorhanden ist, oder um ein Projekt zu erstellen.

  1. Blättern Sie in der Hauptanzeige von watsonx zum Bereich Projekte . Wenn Projekte aufgelistet werden, fahren Sie mit Service Watson Machine Learning zuordnenfort. Wenn keine Projekte angezeigt werden, führen Sie die folgenden Schritte aus, um ein Projekt zu erstellen.

  2. Klicken Sie auf Sandbox-Projekt erstellen. Beim Erstellen des Projekts wird die Sandbox im Abschnitt Projekte angezeigt.

  3. Öffnen Sie ein vorhandenes Projekt oder das neue Sandboxprojekt.

Ordnen Sie den Service Watson Machine Learning dem Projekt zu

Sie verwenden Watson Machine Learning , um das Basismodell anzufordern. Führen Sie daher die folgenden Schritte aus, um Ihre Watson Machine Learning -Serviceinstanz Ihrem Projekt zuzuordnen.

  1. Klicken Sie im Projekt auf die Registerkarte Verwalten .

  2. Klicken Sie auf die Seite Services & Integrationen .

  3. Prüfen Sie, ob diesem Projekt ein Watson Machine Learning -Service zugeordnet ist. Wenn kein zugeordneter Service vorhanden ist, führen Sie die folgenden Schritte aus:

    1. Klicken Sie auf Service zuordnen.

    2. Aktivieren Sie das Kontrollkästchen neben Ihrer Watson Machine Learning -Serviceinstanz.

    3. Klicken Sie auf Zuordnen.

    4. Klicken Sie bei Bedarf auf Abbrechen , um zur Seite Services & Integrationen zurückzukehren.

Weitere Informationen hierzu oder die Option zum Ansehen eines entsprechenden Videos finden Sie unter Projekt erstellen.

Prüfpunktsymbol Fortschritt überprüfen

Die folgende Abbildung zeigt die Registerkarte Verwalten mit dem zugehörigen Service. Sie können nun das Beispielnotebook zu Ihrem Projekt hinzufügen.

Registerkarte 'Verwalten' im Projekt




Aufgabe 2: Beispielnotebook zum Projekt hinzufügen

Das Beispielnotebook verwendet eine kleine Wissensbasis und eine einfache Suchkomponente, um das Basismuster zu veranschaulichen. Das Szenario, das in diesem Notebook verwendet wird, ist für ein Unternehmen, das Samen für die Pflanzung in einem Garten verkauft. Die Website für einen Online-Seed-Katalog enthält viele Artikel, die Kunden helfen, ihren Garten zu planen und letztlich zu wählen, welche Samen zu kaufen. Die neue Widge wird zur Website hinzugefügt, um Kundenfragen zum Inhalt der Artikel zu beantworten.

Sehen Sie sich dieses Video an, um zu erfahren, wie Sie ein Beispielnotebook zu einem Projekt hinzufügen und anschließend die Schritte zum Hinzufügen des Notebooks zu Ihrem Projekt ausführen.

Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.

  1. Greifen Sie auf die einfache Einführung in die abruferweiterte Generierung mit watsonx.ai im Ressourcenhubzu.

  2. Klicken Sie auf Zum Projekt hinzufügen.

  3. Wählen Sie Ihr Projekt in der Liste aus und klicken Sie auf Add.

  4. Geben Sie den Namen und die Beschreibung des Notebooks ein (optional).

  5. Wählen Sie eine Laufzeitumgebung für dieses Notebook aus.

  6. Klicken Sie auf Erstellen. Warten Sie, bis der Notebookeditor geladen wurde.

  7. Klicken Sie im Menü auf Kernel > Restart & Clear Outputund klicken Sie anschließend auf Restart and Clear All Outputs , um die Ausgabe der zuletzt gespeicherten Ausführung zu löschen.


Weitere Informationen zu zugehörigen Services finden Sie unter Zugehörige Services hinzufügen.

Prüfpunktsymbol Fortschritt überprüfen

Die folgende Abbildung zeigt das im Bearbeitungsmodus geöffnete Notebook. Jetzt können Sie die Voraussetzungen für die Ausführung des Notebooks einrichten.

Notizbuch im Bearbeitungsmodus geöffnet




Aufgabe 3: Notebook bearbeiten

Vorschau-Lernprogrammvideo Um eine Vorschau dieser Task anzuzeigen, sehen Sie sich das Video ab 00:57an.

Bevor Sie das Notebook ausführen können, müssen Sie die Umgebung einrichten. Führen Sie die folgenden Schritte aus, um die Voraussetzungen für Notebooks zu überprüfen:

  1. Blättern Sie zum Abschnitt For IBM watsonx on IBM Cloud im Notebook, um die beiden Voraussetzungen für die Ausführung des Notebooks anzuzeigen.

  2. Im Abschnitt API-Schlüssel für IBM Cloud erstellen müssen Sie Ihre Berechtigungsnachweise mithilfe eines API-Schlüssels an die API Watson Machine Learning übergeben. Wenn Sie noch keinen gespeicherten API-Schlüssel haben, führen Sie diese Schritte aus, um einen API-Schlüssel zu erstellen.

    1. Rufen Sie die API-Schlüsselseite der IBM Cloud -Konsoleauf.

    2. Klicken Sie auf IBM Cloud-API-Schlüssel erstellen. Wenn Sie über vorhandene API-Schlüssel verfügen, kann die Schaltfläche Erstellenlauten.

    3. Geben Sie einen Namen und eine Beschreibung ein.

    4. Klicken Sie auf Erstellen.

    5. Kopieren Sie den API-Schlüssel.

    6. Laden Sie den API-Schlüssel für die zukünftige Verwendung herunter.

  3. Prüfen Sie den Abschnitt Instanz des Service Watson Machine Learning dem aktuellen Projekt zuordnen . Sie haben diese Voraussetzung in Task 1abgeschlossen.

  4. Blättern Sie zum Abschnitt Zelle ausführen, um den IBM Cloud -API-Schlüssel bereitzustellen :

    1. Klicken Sie auf das Symbol Ausführen Ausführen , um die Zelle auszuführen.

    2. Fügen Sie den API-Schlüssel ein und drücken Sie Enter.

  5. Klicken Sie unter Zelle zum Festlegen der Berechtigungsnachweise für IBM watsonx in IBM Cloudauf das Symbol Ausführen Ausführen , um die Zelle auszuführen und die Berechtigungsnachweise festzulegen.

Prüfpunktsymbol Fortschritt überprüfen

Die folgenden Abbildungen zeigen das Notebook mit den Voraussetzungen. Jetzt können Sie das Notebook ausführen und die Ausgabe überprüfen.

Notebook mit abgeschlossenen Voraussetzungen




Task 4: Notebook ausführen und Ausgabe überprüfen

Vorschau-Lernprogrammvideo Eine Vorschau zu dieser Task sehen Sie, wenn Sie die Wiedergabe des Videos bei 01:03 starten.

Das Beispielnotebook enthält Informationen zur abruferweiterten Generierung und dazu, wie Sie das Notebook für Ihren speziellen Anwendungsfall anpassen können. Führen Sie die folgenden Schritte aus, um das Notebook auszuführen und die Ausgabe zu überprüfen:

  1. Blättern Sie zum Abschnitt Schritt 2: Knowledge Base erstellen im Notebook:

    1. Klicken Sie für jede der drei Zellen in diesem Abschnitt auf das Symbol Ausführen Ausführen .

    2. Überprüfen Sie die Ausgabe für die drei Zellen im Abschnitt. Der Code in diesen Zellen richtet die Wissensbasis als Sammlung von zwei Artikeln ein. Diese Artikel wurden als Beispiele für watsonx.aigeschrieben, sie sind keine echten Artikel, die an anderer Stelle veröffentlicht wurden. Die Autoren und Veröffentlichungsdaten sind fiktiv.

  2. Blättern Sie zum Abschnitt Schritt 3: Einfache Suchkomponente erstellen im Notebook:

    1. Klicken Sie für jede der beiden Zellen in diesem Abschnitt auf das Symbol Ausführen Ausführen .

    2. Überprüfen Sie die Ausgabe für die beiden Zellen im Abschnitt. Der Code in diesen Zellen erstellt eine einfache Suchkomponente. Viele Artikel, in denen es um die abruferweiterte Generierung geht, gehen davon aus, dass die Abrufkomponente eine Vektordatenbank verwendet. Zur Ausführung des allgemeinen Generierungsmusters für den erweiterten Abruf werden jedoch alle Such-und Abrufmethoden, die relevante Inhalte zuverlässig aus der Wissensbasis zurückgeben können, ausgeführt. In diesem Notizbuch ist die Suchkomponente eine einfache Suchfunktion, die den Index des einen oder des anderen der beiden Artikel in der Wissensbasis auf der Basis einer einfachen Übereinstimmung mit regulären Ausdrücken zurückgibt.

  3. Blättern Sie zum Abschnitt Step 4: Craft prompt text im Notebook:

    1. Klicken Sie für jede der beiden Zellen in diesem Abschnitt auf das Symbol Ausführen Ausführen .

    2. Überprüfen Sie die Ausgabe für die beiden Zellen im Abschnitt. Der Code in diesen Zellen enthält den Text der Eingabeaufforderung. Es gibt niemanden, die beste Eingabeaufforderung für eine bestimmte Task. Modelle, die jedoch instruktionsoptimiert wurden, wie z. B. bigscience/mt0-xxl-13b, google/flan-t5-xxl-11boder google/flan-ul2-20b, können diese Task im Allgemeinen mit einer Beispieleingabeaufforderung ausführen. Konservative Decodierungsmethoden neigen zu prägnanten Antworten. Beachten Sie in der Eingabeaufforderung zwei Zeichenfolgeplatzhalter (markiert mit %s), die bei der Generierung ersetzt werden:

      • Der erste Platzhalter wird durch den Text des entsprechenden Artikels aus der Wissensbasis ersetzt.
      • Der zweite Platzhalter wird durch die zu beantwortete Frage ersetzt.
  4. Blättern Sie zum Abschnitt Step 5: Generate output using the foundation models Python library im Notebook:

    1. Klicken Sie für jede der drei Zellen in diesem Abschnitt auf das Symbol Ausführen Ausführen .

    2. Überprüfen Sie die Ausgabe für die drei Zellen im Abschnitt. Der Code in diesen Zellen generiert Ausgabe mithilfe der Python -Bibliothek. Sie können Basismodelle in watsonx.ai über das Programm mithilfe der Python -Bibliothek anfordern. Weitere Informationen zur Bibliothek finden Sie in den folgenden Abschnitten:

  5. Blättern Sie zum Abschnitt Step 6: Pull everything together to perform retrieval-augmented generation im Notebook:

    1. Klicken Sie für jede der beiden Zellen in diesem Abschnitt auf das Symbol Ausführen Ausführen . Dieser Code extrahiert alle Elemente zusammen, um die abruferweiterte Generierung auszuführen.

    2. Überprüfen Sie die Ausgabe für die erste Zelle im Abschnitt. Der Code in dieser Zelle richtet die Benutzereingabeelemente ein.

    3. Geben Sie für die zweite Zelle im Abschnitt eine Frage ein, die sich auf Tomaten oder Gurken bezieht, um die Antwort und die Quelle anzuzeigen. Beispiel: Do I use mulch with tomatoes?.

    4. Überprüfen Sie die Antwort auf Ihre Frage.

Prüfpunktsymbol Fortschritt überprüfen

Die folgende Abbildung zeigt das abgeschlossene Notebook.

Das abgeschlossene Notebook



Nächste Schritte

  • Video ansehen Sehen Sie sich das Video ab 02:55 an, um mehr über die Aspekte zu erfahren, die bei der Anwendung des Musters für die abruferweiterte Generierung auf eine Produktionslösung zu beachten sind.
  • Testen Sie das Lernprogramm Prompt a foundation model mithilfe von Prompt Lab.
  • Testen Sie die anderen Lernprogramme für watsonx.ai -Anwendungsfälle.

Weitere Ressourcen

  • Basismodelle

  • Prompt Lab

  • BibliothekPython

  • Weitere Informationen finden Sie unter Videos.

  • Suchen Sie Beispieldatasets, Projekte, Modelle, Eingabeaufforderungen und Notebooks im Ressourcenhub, um praktische Erfahrungen zu sammeln:

    Notizbuch Notebooks , die Sie Ihrem Projekt hinzufügen können, um mit der Analyse von Daten und der Modellerstellung zu beginnen.

    Projekt Projekte , die Sie importieren können, die Notebooks, Datasets, Eingabeaufforderungen und andere Assets enthalten.

    Dataset Datasets , die Sie Ihrem Projekt hinzufügen können, um Modelle zu optimieren, zu analysieren und zu erstellen.

    Eingabeaufforderung Eingabeaufforderungen , die Sie im Eingabeaufforderungslabor verwenden können, um ein Basismodell anzufordern.

    Modell Foundation-Modelle , die Sie im Eingabeaufforderungslabor verwenden können.

Übergeordnetes Thema: Lernprogramme für den Schnelleinstieg

Generative KI-Suche und -Antwort
Diese Antworten werden von einem großen Sprachmodell in watsonx.ai basierend auf dem Inhalt der Produktdokumentation generiert. Weitere Informationen