Schnelleinstieg: Eingabeaufforderung für ein Basismodell mit dem Generierungsmuster 'Retrieval-augmented'

Sie benötigen ein Projekt, um das Beispielnotebook zu speichern.

Sehen Sie sich ein Video an, um zu sehen, wie ein Sandboxprojekt erstellt und ein Service zugeordnet wird. Führen Sie anschließend die Schritte aus, um zu überprüfen, ob ein Projekt vorhanden ist, oder um ein Sandboxprojekt zu erstellen.

Führen Sie die Schritte aus, um zu prüfen, ob ein Projekt vorhanden ist, oder um ein Projekt zu erstellen.

1. Blättern Sie in der Hauptanzeige von watsonx zum Bereich Projekte . Wenn Projekte aufgelistet werden, fahren Sie mit Service Watson Machine Learning zuordnenfort. Wenn keine Projekte angezeigt werden, führen Sie die folgenden Schritte aus, um ein Projekt zu erstellen.

2. Klicken Sie auf Sandbox-Projekt erstellen. Beim Erstellen des Projekts wird die Sandbox im Abschnitt Projekte angezeigt.

3. Öffnen Sie ein vorhandenes Projekt oder das neue Sandboxprojekt.

Das Beispielnotebook verwendet eine kleine Wissensbasis und eine einfache Suchkomponente, um das Basismuster zu veranschaulichen. Das Szenario, das in diesem Notebook verwendet wird, ist für ein Unternehmen, das Samen für die Pflanzung in einem Garten verkauft. Die Website für einen Online-Seed-Katalog enthält viele Artikel, die Kunden helfen, ihren Garten zu planen und letztlich zu wählen, welche Samen zu kaufen. Die neue Widge wird zur Website hinzugefügt, um Kundenfragen zum Inhalt der Artikel zu beantworten.

Sehen Sie sich dieses Video an, um zu erfahren, wie Sie ein Beispielnotebook zu einem Projekt hinzufügen und anschließend die Schritte zum Hinzufügen des Notebooks zu Ihrem Projekt ausführen.

1. Greifen Sie auf die einfache Einführung in die abruferweiterte Generierung mit watsonx.ai im Ressourcenhubzu.

2. Klicken Sie auf Zum Projekt hinzufügen.

3. Wählen Sie Ihr Projekt in der Liste aus und klicken Sie auf Add.

4. Geben Sie den Namen und die Beschreibung des Notebooks ein (optional).

5. Wählen Sie eine Laufzeitumgebung für dieses Notebook aus.

6. Klicken Sie auf Erstellen. Warten Sie, bis der Notebookeditor geladen wurde.

7. Klicken Sie im Menü auf Kernel > Restart & Clear Outputund klicken Sie anschließend auf Restart and Clear All Outputs , um die Ausgabe der zuletzt gespeicherten Ausführung zu löschen.

Weitere Informationen zu zugehörigen Services finden Sie unter Zugehörige Services hinzufügen.

Um eine Vorschau dieser Task anzuzeigen, sehen Sie sich das Video ab 00:57an.

Bevor Sie das Notebook ausführen können, müssen Sie die Umgebung einrichten. Führen Sie die folgenden Schritte aus, um die Voraussetzungen für Notebooks zu überprüfen:

1. Blättern Sie zum Abschnitt For IBM watsonx on IBM Cloud im Notebook, um die beiden Voraussetzungen für die Ausführung des Notebooks anzuzeigen.

2. Im Abschnitt API-Schlüssel für IBM Cloud erstellen müssen Sie Ihre Berechtigungsnachweise mithilfe eines API-Schlüssels an die API Watson Machine Learning übergeben. Wenn Sie noch keinen gespeicherten API-Schlüssel haben, führen Sie diese Schritte aus, um einen API-Schlüssel zu erstellen.
   

   1. Rufen Sie die API-Schlüsselseite der IBM Cloud -Konsoleauf.

   2. Klicken Sie auf IBM Cloud-API-Schlüssel erstellen. Wenn Sie über vorhandene API-Schlüssel verfügen, kann die Schaltfläche Erstellenlauten.

   3. Geben Sie einen Namen und eine Beschreibung ein.

   4. Klicken Sie auf Erstellen.

   5. Kopieren Sie den API-Schlüssel.

   6. Laden Sie den API-Schlüssel für die zukünftige Verwendung herunter.

3. Prüfen Sie den Abschnitt Instanz des Service Watson Machine Learning dem aktuellen Projekt zuordnen . Sie haben diese Voraussetzung in Task 1abgeschlossen.

4. Blättern Sie zum Abschnitt Zelle ausführen, um den IBM Cloud -API-Schlüssel bereitzustellen :

   1. Klicken Sie auf das Symbol Ausführen , um die Zelle auszuführen.

   2. Fügen Sie den API-Schlüssel ein und drücken Sie Enter.

5. Klicken Sie unter Zelle zum Festlegen der Berechtigungsnachweise für IBM watsonx in IBM Cloudauf das Symbol Ausführen , um die Zelle auszuführen und die Berechtigungsnachweise festzulegen.

Eine Vorschau zu dieser Task sehen Sie, wenn Sie die Wiedergabe des Videos bei 01:03 starten.

Das Beispielnotebook enthält Informationen zur abruferweiterten Generierung und dazu, wie Sie das Notebook für Ihren speziellen Anwendungsfall anpassen können. Führen Sie die folgenden Schritte aus, um das Notebook auszuführen und die Ausgabe zu überprüfen:

1. Blättern Sie zum Abschnitt Schritt 2: Knowledge Base erstellen im Notebook:

   1. Klicken Sie für jede der drei Zellen in diesem Abschnitt auf das Symbol Ausführen .

   2. Überprüfen Sie die Ausgabe für die drei Zellen im Abschnitt. Der Code in diesen Zellen richtet die Wissensbasis als Sammlung von zwei Artikeln ein. Diese Artikel wurden als Beispiele für watsonx.aigeschrieben, sie sind keine echten Artikel, die an anderer Stelle veröffentlicht wurden. Die Autoren und Veröffentlichungsdaten sind fiktiv.

2. Blättern Sie zum Abschnitt Schritt 3: Einfache Suchkomponente erstellen im Notebook:

   1. Klicken Sie für jede der beiden Zellen in diesem Abschnitt auf das Symbol Ausführen .

   2. Überprüfen Sie die Ausgabe für die beiden Zellen im Abschnitt. Der Code in diesen Zellen erstellt eine einfache Suchkomponente. Viele Artikel, in denen es um die abruferweiterte Generierung geht, gehen davon aus, dass die Abrufkomponente eine Vektordatenbank verwendet. Zur Ausführung des allgemeinen Generierungsmusters für den erweiterten Abruf werden jedoch alle Such-und Abrufmethoden, die relevante Inhalte zuverlässig aus der Wissensbasis zurückgeben können, ausgeführt. In diesem Notizbuch ist die Suchkomponente eine einfache Suchfunktion, die den Index des einen oder des anderen der beiden Artikel in der Wissensbasis auf der Basis einer einfachen Übereinstimmung mit regulären Ausdrücken zurückgibt.

3. Blättern Sie zum Abschnitt Step 4: Craft prompt text im Notebook:

   1. Klicken Sie für jede der beiden Zellen in diesem Abschnitt auf das Symbol Ausführen .

   2. Überprüfen Sie die Ausgabe für die beiden Zellen im Abschnitt. Der Code in diesen Zellen enthält den Text der Eingabeaufforderung. Es gibt niemanden, die beste Eingabeaufforderung für eine bestimmte Task. Modelle, die jedoch instruktionsoptimiert wurden, wie z. B. bigscience/mt0-xxl-13b, google/flan-t5-xxl-11boder google/flan-ul2-20b, können diese Task im Allgemeinen mit einer Beispieleingabeaufforderung ausführen. Konservative Decodierungsmethoden neigen zu prägnanten Antworten. Beachten Sie in der Eingabeaufforderung zwei Zeichenfolgeplatzhalter (markiert mit %s), die bei der Generierung ersetzt werden:

      • Der erste Platzhalter wird durch den Text des entsprechenden Artikels aus der Wissensbasis ersetzt.
      • Der zweite Platzhalter wird durch die zu beantwortete Frage ersetzt.

4. Blättern Sie zum Abschnitt Step 5: Generate output using the foundation models Python library im Notebook:

   1. Klicken Sie für jede der drei Zellen in diesem Abschnitt auf das Symbol Ausführen .

   2. Überprüfen Sie die Ausgabe für die drei Zellen im Abschnitt. Der Code in diesen Zellen generiert Ausgabe mithilfe der Python -Bibliothek. Sie können Basismodelle in watsonx.ai über das Programm mithilfe der Python -Bibliothek anfordern. Weitere Informationen zur Bibliothek finden Sie in den folgenden Abschnitten:

   • Einführung in die Python -Bibliothek für Basismodelle
   • Basismodelle Python Bibliotheksreferenz

5. Blättern Sie zum Abschnitt Step 6: Pull everything together to perform retrieval-augmented generation im Notebook:

   1. Klicken Sie für jede der beiden Zellen in diesem Abschnitt auf das Symbol Ausführen . Dieser Code extrahiert alle Elemente zusammen, um die abruferweiterte Generierung auszuführen.

   2. Überprüfen Sie die Ausgabe für die erste Zelle im Abschnitt. Der Code in dieser Zelle richtet die Benutzereingabeelemente ein.

   3. Geben Sie für die zweite Zelle im Abschnitt eine Frage ein, die sich auf Tomaten oder Gurken bezieht, um die Antwort und die Quelle anzuzeigen. Beispiel: Do I use mulch with tomatoes?.

   4. Überprüfen Sie die Antwort auf Ihre Frage.