Schnellstart: Aufforderung eines foundation model mit dem abruferweiterten Generierungsmuster

Sie benötigen ein Projekt, um das Beispielnotebook zu speichern.

Sehen Sie sich ein Video an, um zu sehen, wie ein Sandboxprojekt erstellt und ein Service zugeordnet wird. Führen Sie anschließend die Schritte aus, um zu überprüfen, ob ein Projekt vorhanden ist, oder um ein Sandboxprojekt zu erstellen.

Führen Sie die Schritte aus, um zu prüfen, ob ein Projekt vorhanden ist, oder um ein Projekt zu erstellen.

1. Blättern Sie in der Hauptanzeige von watsonx zum Bereich Projekte . Wenn Sie keine Projekte aufgelistet sehen, gehen Sie zu Assoziieren Sie den watsonx.ai Runtime-Dienst. Wenn keine Projekte angezeigt werden, führen Sie die folgenden Schritte aus, um ein Projekt zu erstellen.

2. Klicken Sie auf Sandbox-Projekt erstellen. Beim Erstellen des Projekts wird die Sandbox im Abschnitt Projekte angezeigt.

3. Öffnen Sie ein vorhandenes Projekt oder das neue Sandboxprojekt.

Das Beispielnotebook verwendet eine kleine Wissensbasis und eine einfache Suchkomponente, um das Basismuster zu veranschaulichen. Das Szenario, das in diesem Notebook verwendet wird, ist für ein Unternehmen, das Samen für die Pflanzung in einem Garten verkauft. Die Website für einen Online-Seed-Katalog enthält viele Artikel, die Kunden helfen, ihren Garten zu planen und letztlich zu wählen, welche Samen zu kaufen. Die neue Widge wird zur Website hinzugefügt, um Kundenfragen zum Inhalt der Artikel zu beantworten.

Sehen Sie sich dieses Video an, um zu erfahren, wie Sie ein Beispielnotebook zu einem Projekt hinzufügen und anschließend die Schritte zum Hinzufügen des Notebooks zu Ihrem Projekt ausführen.

1. Greifen Sie auf das RAG: A simple introduction notebook in der Ressourcendrehscheibe zu.

2. Klicken Sie auf Zum Projekt hinzufügen.

3. Wählen Sie Ihr Projekt in der Liste aus und klicken Sie auf Add.

4. Geben Sie den Namen und die Beschreibung des Notebooks ein (optional).

5. Wählen Sie eine Laufzeitumgebung für dieses Notebook aus.

6. Klicken Sie auf Erstellen. Warten Sie, bis der Notebookeditor geladen wurde.

7. Klicken Sie im Menü auf Kernel > Restart & Clear Outputund klicken Sie anschließend auf Restart and Clear All Outputs , um die Ausgabe der zuletzt gespeicherten Ausführung zu löschen.

Weitere Informationen zu zugehörigen Services finden Sie unter Zugehörige Services hinzufügen.

Um eine Vorschau auf diese Aufgabe zu erhalten, sehen Sie sich das Video ab 00:57 an.

Bevor Sie das Notebook ausführen können, müssen Sie die Umgebung einrichten. Führen Sie die folgenden Schritte aus, um die Voraussetzungen für Notebooks zu überprüfen:

1. Blättern Sie zum Abschnitt For IBM watsonx on IBM Cloud im Notebook, um die beiden Voraussetzungen für die Ausführung des Notebooks anzuzeigen.

2. Im Abschnitt Erstellen eines IBM Cloud müssen Sie Ihre Anmeldedaten mithilfe eines API-Schlüssels an die watsonx.ai Runtime API übergeben. Wenn Sie noch keinen gespeicherten API-Schlüssel haben, führen Sie diese Schritte aus, um einen API-Schlüssel zu erstellen.
   

   1. Rufen Sie die Seite mit den API-SchlüsselnIBM Cloud auf.

   2. Klicken Sie auf IBM Cloud-API-Schlüssel erstellen. Wenn Sie über vorhandene API-Schlüssel verfügen, kann die Schaltfläche Erstellenlauten.

   3. Geben Sie einen Namen und eine Beschreibung ein.

   4. Klicken Sie auf Erstellen.

   5. Kopieren Sie den API-Schlüssel.

   6. Laden Sie den API-Schlüssel für die zukünftige Verwendung herunter.

3. Lesen Sie den Abschnitt Assoziieren einer Instanz des watsonx.ai Runtime-Dienstes mit dem aktuellen Projekt. Sie haben diese Voraussetzung in Task 1abgeschlossen.

4. Blättern Sie zum Abschnitt Zelle ausführen, um den IBM Cloud -API-Schlüssel bereitzustellen :

   1. Klicken Sie auf das Ausführungssymbol ' , um die Zelle auszuführen.

   2. Fügen Sie den API-Schlüssel ein und drücken Sie Enter.

5. Klicken Sie unter Run the cell to set the credentials for IBM watsonx on IBM Cloud auf das Ausführungssymbol " , um die Zelle auszuführen und die Anmeldedaten festzulegen.

Eine Vorschau zu dieser Task sehen Sie, wenn Sie die Wiedergabe des Videos bei 01:03 starten.

Das Beispielnotebook enthält Informationen zur abruferweiterten Generierung und dazu, wie Sie das Notebook für Ihren speziellen Anwendungsfall anpassen können. Führen Sie die folgenden Schritte aus, um das Notebook auszuführen und die Ausgabe zu überprüfen:

1. Blättern Sie zum Abschnitt Schritt 2: Knowledge Base erstellen im Notebook:

   1. Klicken Sie auf das Ausführungssymbol " für jede der drei Zellen in diesem Abschnitt.

   2. Überprüfen Sie die Ausgabe für die drei Zellen im Abschnitt. Der Code in diesen Zellen richtet die Wissensbasis als Sammlung von zwei Artikeln ein. Diese Artikel wurden als Beispiele für watsonx.aigeschrieben, sie sind keine echten Artikel, die an anderer Stelle veröffentlicht wurden. Die Autoren und Veröffentlichungsdaten sind fiktiv.

2. Blättern Sie zum Abschnitt Schritt 3: Einfache Suchkomponente erstellen im Notebook:

   1. Klicken Sie auf das Ausführungssymbol " für jede der beiden Zellen in diesem Abschnitt.

   2. Überprüfen Sie die Ausgabe für die beiden Zellen im Abschnitt. Der Code in diesen Zellen erstellt eine einfache Suchkomponente. Viele Artikel, in denen es um die abruferweiterte Generierung geht, gehen davon aus, dass die Abrufkomponente eine Vektordatenbank verwendet. Zur Ausführung des allgemeinen Generierungsmusters für den erweiterten Abruf werden jedoch alle Such-und Abrufmethoden, die relevante Inhalte zuverlässig aus der Wissensbasis zurückgeben können, ausgeführt. In diesem Notizbuch ist die Suchkomponente eine einfache Suchfunktion, die den Index des einen oder des anderen der beiden Artikel in der Wissensbasis auf der Basis einer einfachen Übereinstimmung mit regulären Ausdrücken zurückgibt.

3. Blättern Sie zum Abschnitt Step 4: Craft prompt text im Notebook:

   1. Klicken Sie auf das Ausführungssymbol " für jede der beiden Zellen in diesem Abschnitt.

   2. Überprüfen Sie die Ausgabe für die beiden Zellen im Abschnitt. Der Code in diesen Zellen enthält den Text der Eingabeaufforderung. Es gibt niemanden, die beste Eingabeaufforderung für eine bestimmte Task. Modelle, die jedoch instruktionsoptimiert wurden, wie z. B. bigscience/mt0-xxl-13b, google/flan-t5-xxl-11boder google/flan-ul2-20b, können diese Task im Allgemeinen mit einer Beispieleingabeaufforderung ausführen. Konservative Decodierungsmethoden neigen zu prägnanten Antworten. Beachten Sie in der Eingabeaufforderung zwei Zeichenfolgeplatzhalter (markiert mit %s), die bei der Generierung ersetzt werden:

      • Der erste Platzhalter wird durch den Text des entsprechenden Artikels aus der Wissensbasis ersetzt.
      • Der zweite Platzhalter wird durch die zu beantwortete Frage ersetzt.

4. Blättern Sie zum Abschnitt Step 5: Generate output using the foundation models Python library im Notebook:

   1. Klicken Sie auf das Ausführungssymbol " für jede der drei Zellen in diesem Abschnitt.

   2. Überprüfen Sie die Ausgabe für die drei Zellen im Abschnitt. Der Code in diesen Zellen generiert Ausgabe mithilfe der Python -Bibliothek. Sie können Basismodelle in watsonx.ai über das Programm mithilfe der Python -Bibliothek anfordern. Weitere Informationen zur Bibliothek finden Sie in den folgenden Abschnitten:

   • Einführung in die Python Foundation Models
   • Die watsonx Python Referenz

5. Blättern Sie zum Abschnitt Step 6: Pull everything together to perform retrieval-augmented generation im Notebook:

   1. Klicken Sie auf das Ausführungssymbol " für jede der beiden Zellen in diesem Abschnitt. Dieser Code extrahiert alle Elemente zusammen, um die abruferweiterte Generierung auszuführen.

   2. Überprüfen Sie die Ausgabe für die erste Zelle im Abschnitt. Der Code in dieser Zelle richtet die Benutzereingabeelemente ein.

   3. Geben Sie für die zweite Zelle im Abschnitt eine Frage ein, die sich auf Tomaten oder Gurken bezieht, um die Antwort und die Quelle anzuzeigen. Beispiel: Do I use mulch with tomatoes?.

   4. Überprüfen Sie die Antwort auf Ihre Frage.