In diesem Tutorial erfahren Sie, wie Sie Prompt Lab in watsonx.ai verwenden. In der Regel gibt es mehrere Möglichkeiten, ein foundation model zu einem erfolgreichen Ergebnis zu führen. In der Prompt Lab können Sie mit verschiedenen Aufforderungsmodellen experimentieren, Beispielaufforderungen erkunden sowie Ihre besten Aufforderungen speichern und teilen. Siehe Tipps zur Eingabeaufforderung, damit Sie die meisten textgenerierenden Stiftungsmodelle erfolgreich eingeben können.
- Erforderliche Services
- watsonx.ai Studio
- watsonx.ai Laufzeit
Ihr grundlegender Workflow umfasst die folgenden Tasks:
- Öffnen Sie ein Projekt. Projekte sind der Ort, an dem Sie gemeinsam mit anderen mit Daten arbeiten.
- Öffnen Sie Prompt Lab. Mit Prompt Lab können Sie mit verschiedenen Eingabeaufforderungen für Grundlagen experimentieren, Beispielaufforderungen erkunden sowie Ihre besten Aufforderungen speichern und teilen.
- Geben Sie Ihre Eingabeaufforderung im Eingabeaufforderungseditor ein. Sie können Eingabeaufforderungen im unformatierten und strukturierten Modus eingeben.
- Wählen Sie das zu verwendende Modell aus. Sie können Ihre Eingabeaufforderung an eines der in watsonx.ai verfügbaren Modelle senden.
- Speichern Sie Ihre Arbeit als Projet-Asset. Wenn Sie Ihre Arbeit als Projektasset speichern, steht Ihre Arbeit Mitarbeitern im aktuellen Projekt zur Verfügung.
Lesen Sie mehr über das Soufflieren eines foundation model
Basismodelle sind sehr große KI-Modelle. Sie verfügen über Milliarden Parameter und werden auf Terabyte an Daten trainiert. Basismodelle können eine Vielzahl von Aufgaben ausführen, einschließlich Text-, Code-oder Bildgenerierung, Klassifizierung, Konversation und mehr. Große Sprachmodelle sind eine Untergruppe von Basismodellen, die für text-und codebezogene Tasks verwendet werden. In IBM watsonx.aigibt es eine Sammlung implementierter Modelle großer Sprachen, die Sie verwenden können, sowie Tools zum Experimentieren mit Eingabeaufforderungen.
Sehen Sie sich ein Video über das Soufflieren eines foundation model an
Sehen Sie sich dieses Video an, um eine Vorschau der Schritte in diesem Lernprogramm anzuzeigen. Möglicherweise gibt es geringfügige Unterschiede in der Benutzerschnittstelle, die im Video angezeigt wird. Das Video ist als Begleiter zum schriftlichen Lernprogramm gedacht.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Versuchen Sie ein Tutorial, um ein foundation model anzufordern
In diesem Lernprogramm werden Sie die folgenden Tasks ausführen:
- Aufgabe 1: Projekt öffnen
- Aufgabe 2: Verwenden Sie Prompt Lab im Freiform-Modus
- Aufgabe 3: Verwenden Sie Prompt Lab im strukturierten Modus
- Task 4: Beispieleingabeaufforderungen verwenden
- Aufgabe 5: Wählen Sie ein foundation model
- Task 6: Modellparameter anpassen
- Aufgabe 7: Arbeit speichern
Tipps zum Durcharbeiten dieses Lernprogramms
Im Folgenden finden Sie einige Tipps für den erfolgreichen Abschluss dieses Lernprogramms.
Verwenden Sie das Videobild im Bild
Die folgende animierte Abbildung zeigt, wie die Funktionen für Videobilder und Inhaltsverzeichnisse verwendet werden:
Hilfe in der Community anfordern
Wenn Sie Hilfe zu diesem Tutorial benötigen, können Sie eine Frage stellen oder eine Antwort im watsonx Community Diskussionsforum finden.
Browserfenster einrichten
Damit Sie dieses Lernprogramm optimal nutzen können, öffnen Sie Cloud Pak for Data in einem Browserfenster und lassen Sie diese Lernprogrammseite in einem anderen Browserfenster geöffnet, um einfach zwischen den beiden Anwendungen zu wechseln. Es empfiehlt sich, die beiden Browserfenster nebeneinander anzuordnen, um die weitere Arbeit zu erleichtern.
Aufgabe 1: Projekt öffnen
Sie benötigen ein Projekt, um Prompt Lab -Assets zu speichern.
Sehen Sie sich ein Video an, um zu sehen, wie ein Sandboxprojekt erstellt und ein Service zugeordnet wird. Führen Sie anschließend die Schritte aus, um zu überprüfen, ob ein Projekt vorhanden ist, oder um ein Sandboxprojekt zu erstellen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Blättern Sie in der Hauptanzeige von watsonx zum Bereich Projekte . Wenn Projekte aufgelistet werden, fahren Sie mit Aufgabe 2fort. Wenn keine Projekte angezeigt werden, führen Sie die folgenden Schritte aus, um ein Projekt zu erstellen.
Klicken Sie auf Sandbox-Projekt erstellen. Nach der Erstellung des Projekts wird das Sandboxprojekt im Abschnitt Projekte angezeigt.
Weitere Informationen hierzu oder die Option zum Ansehen eines entsprechenden Videos finden Sie unter Projekt erstellen.
Überprüfen Sie Ihren Fortschritt
Die folgende Abbildung zeigt die Hauptanzeige mit der im Abschnitt "Projekte" aufgelisteten Sandbox. Sie können jetzt Prompt Lab öffnen.
Aufgabe 2: Verwenden Sie Prompt Lab im Freiform-Modus
Um eine Vorschau dieser Aufgabe zu sehen, schauen Sie sich das Video ab 00:03 an.
Sie können Ihren Eingabeaufforderungstext in einem unformatierten Texteditor eingeben und anschließend auf Generieren klicken, um Ihre Eingabeaufforderung an das Modell zu senden. Befolgen Sie diese Schritte, um Prompt Lab im Freiform-Modus zu verwenden:
Klicken Sie auf dem Startbildschirm auf die Kachel "In Prompt Lab öffnen ".
Wählen Sie jedes Kontrollkästchen aus, um die Bestätigungen zu akzeptieren, und klicken Sie dann auf Tour überspringen.
Klicken Sie auf die Registerkarte Freiform, um ein foundation model im Freiform-Modus aufzurufen.
Klicken Sie auf Switch mode.
Kopieren Sie den folgenden Text und fügen Sie ihn in das Textfeld ein. Klicken Sie dann auf Generieren , um die Ausgabe für Class name: Problemanzuzeigen.
Classify this customer message into one of two classes: question, problem.
Class name: Question
Description: The customer is asking a technical question or a how-to question about our products or services.
Class name: Problem
Description: The customer is describing a problem they are having. They might say they are trying something, but it's not working. They might say they are getting an error or unexpected results.
Message: I'm having trouble registering for a new account.
Class name:
Überprüfen Sie Ihren Fortschritt
Die folgenden Abbildungen zeigen die generierte Ausgabe für die Eingabeaufforderung im Freeform-Modus. Jetzt sind Sie bereit, ein foundation model im strukturierten Modus abzufragen.
'
Aufgabe 3: Verwenden Sie Prompt Lab im strukturierten Modus
Um eine Vorschau dieser Aufgabe zu sehen, schauen Sie sich das Video ab 00:19 an.
Sie können Ihre Eingabeaufforderung in einem strukturierten Format eingeben. Das strukturierte Format ist für eine Eingabeaufforderung mit wenigen Aufrufen hilfreich, wenn Ihre Eingabeaufforderung mehrere Beispiele enthält. Befolgen Sie diese Schritte, um Prompt Lab im strukturierten Modus zu verwenden:
Klicken Sie auf die Registerkarte Strukturiert .
Klicken Sie auf Switch mode.
Kopieren Sie im Feld Anweisung den folgenden Text und fügen Sie ihn ein:
Given a message submitted to a customer-support chatbot for a cloud software company, classify the customer's message as either a question or a problem description so the chat can be routed to the correct support team.
Kopieren Sie im Feld Setup den folgenden Text und fügen Sie ihn in jede Spalte ein:
Werte für Feld 'Setup' Eingabe Ausgabe Wenn ich versuche, mich anzumelden, erhalte ich einen Fehler. Problem Wo finde ich die Planpreise? Frage Was ist der Unterschied zwischen Trial und Paygo? Frage Die Registrierungsseite ist abgestürzt und jetzt kann ich kein neues Konto erstellen. Problem Welche Regionen werden unterstützt? Frage Ich kann mich nicht an mein Kennwort erinnern. Problem Kopieren Sie im Feld Try den folgenden Text und fügen Sie ihn ein:
I'm having trouble registering for a new account.
Klicken Sie auf Generieren , um die Ausgabe Problemanzuzeigen.
Überprüfen Sie Ihren Fortschritt
Die folgende Abbildung zeigt die generierte Ausgabe für die Eingabeaufforderung im strukturierten Modus. Jetzt können Sie die Beispieleingabeaufforderungen testen.
Aufgabe 4: Beispieleingabeaufforderungen verwenden
Eine Vorschau zu dieser Task sehen Sie, wenn Sie die Wiedergabe des Videos bei 00:33 starten. Wenn Sie nicht sicher sind, wie Sie beginnen, können Sie mit Beispieleingabeaufforderungen beginnen. Gehen Sie wie folgt vor, um die Beispieleingabeaufforderungen zu verwenden:
- Öffnen Sie das Symbol "
für die Probeaufforderungen, um die Liste anzuzeigen.
- Blättern Sie durch die Liste und klicken Sie auf die Beispieleingabeaufforderung Marketing email generation .
- Ausgewähltes Modell anzeigen. Wenn Sie eine Beispieleingabeaufforderung laden, wird ein geeignetes Modell ausgewählt.
- Öffnen Sie das Modellparameter-Panel "
. Die entsprechenden Parameter für Decodier-und Stoppkriterien werden ebenfalls automatisch festgelegt.
- Klicken Sie auf Generieren , um die Beispieleingabeaufforderung an das Modell zu übergeben und die E-Mail-Beispielausgabe anzuzeigen.
Überprüfen Sie Ihren Fortschritt
Die folgende Abbildung zeigt die generierte Ausgabe aus einer Beispieleingabeaufforderung. Jetzt können Sie die Beispielausgabe der Eingabeaufforderung anpassen, indem Sie ein anderes Modell und Parameter auswählen.
Aufgabe 5: Wählen Sie ein foundation model
Um eine Vorschau dieser Aufgabe zu sehen, schauen Sie sich das Video ab 01:04 an. Sie können dieselbe Eingabeaufforderung an ein anderes Modell übergeben. Wenn Sie eine Ausgabe in einer bestimmten strukturierten Ausgabe wie JSON, HTML oder XML generieren müssen, können Sie dies tun, indem Sie ein Modell auswählen, das für die Generierung einer strukturierten Ausgabe optimiert wurde, indem Sie einige Beispiele in Ihrer Eingabeaufforderung verwenden oder ein Modell optimieren. Gehen Sie folgendermaßen vor, um ein anderes foundation model zu wählen:
- Klicken Sie auf Modell > Alle Basismodelle anzeigen.
- Klicken Sie auf ein Modell, um mehr über ein Modell zu erfahren, und sehen Sie sich Details wie Modellarchitektur, Daten vor dem Training, Informationen zur Optimierung und Leistung im Vergleich zu Benchmarks an.
- Klicken Sie auf Zurück , um zur Liste der Modelle zurückzukehren.
- Wählen Sie entweder das foundation model flan-t5-xxl-11b oder mt0-xxl-13b und klicken Sie auf Modell auswählen.
- Bewegen Sie den Cursor über die Modellausgabespalte und klicken auf das Symbol X , um die vorherige Ausgabe zu löschen.
- Klicken Sie in der Liste auf dieselbe Beispieleingabeaufforderung Marketing-E-Mail-Generierung.
- Klicken Sie auf Generieren , um die Ausgabe mit dem neuen Modell zu generieren.
Überprüfen Sie Ihren Fortschritt
Die folgende Abbildung zeigt die generierte Ausgabe mit einem anderen Modell. Sie können jetzt die Modellparameter anpassen.
Aufgabe 6: Modellparameter anpassen
Um eine Vorschau dieser Aufgabe zu sehen, schauen Sie sich das Video ab 01:28 an.
Sie können mit der Änderung von Decodierungs-oder Stoppkriterienparametern experimentieren. Führen Sie die folgenden Schritte aus, um Modellparameter anzupassen.
Die folgende Tabelle definiert die verfügbaren Modellparameter für das foundation model flan-t5-xxl-11b.
Modellparameter | Bedeutung |
---|---|
Decodierung | Setzen Sie die Decodierung auf Greedy , damit immer Wörter mit der höchsten Wahrscheinlichkeit ausgewählt werden. Setzen Sie die Decodierung auf Stichprobenentnahme , um die Variabilität der Wortauswahl anzupassen. |
Temperatur | Steuern Sie die Kreativität von generiertem Text. Höhere Werte bewirken, dass die Ausgabe zu einem höheren Maß zufällig generiert wird. |
Top P (Stichprobenentnahme aus dem Nukleus) | Setzen Sie den Wert auf < 1.0 , um nur die kleinste Gruppe der wahrscheinlichsten Tokens mit Wahrscheinlichkeiten zu verwenden, die zu top_p oder höher addiert werden. |
Top K | Legen Sie die Anzahl der Vokabeltoken mit der höchsten Wahrscheinlichkeit fest, die für die Top-K-Filterung beibehalten werden sollen. Niedrigere Werte verringern die Wahrscheinlichkeit, dass das Modell vom Thema abweicht. |
Seedwert für Zufallszahlen | Steuern Sie die Zufallsstichprobe der generierten Tokens, wenn die Stichprobenentnahme aktiviert ist. Wird der Zufallswert für jede Generation auf dieselbe Zahl gesetzt, wird die experimentelle Wiederholbarkeit sichergestellt. |
Abwertung bei Wiederholung | Legen Sie eine Wiederholungsstrafe fest, um der Tendenz des Modells entgegenzuwirken, Eingabeaufforderungstext wörtlich zu wiederholen oder in einer Schleife zu stecken. 1.00 gibt an, dass keine Penalisierung erfolgt. |
Stoppsequenzen | Setzen Sie Stoppfolgen auf mindestens eine Zeichenfolge, damit die Textgenerierung gestoppt wird, wenn sie als Teil der Ausgabe erzeugt werden. |
Min. Token | Definieren Sie die Mindestanzahl der zu generierenden Token. Stoppsequenzen, die vor der Mindestanzahl der zu generierenden Token gefunden wurden, werden ignoriert. |
Max. Token | Definieren Sie die maximale Anzahl der zu generierenden Token. |
- Ändern Sie den Parameter Top K in
10
, um die Wahrscheinlichkeit zu verringern, dass das Modell das Thema verlassen wird. - Klicken Sie auf X , um die vorherige Modellausgabe zu löschen.
- Klicken Sie in der Liste auf dieselbe Beispieleingabeaufforderung.
- Klicken Sie auf Generieren , um die Ausgabe mit den neuen Modellparametern zu generieren.
- Klicken Sie auf das Symbol für den Sitzungsverlauf "
, nachdem Sie mehrere Aufforderungen übermittelt haben, um Ihren Sitzungsverlauf anzuzeigen.
- Klicken Sie auf einen Eintrag, um mit einer vorherigen Eingabeaufforderung, Modellspezifikation und Parametereinstellungen zu arbeiten, und klicken Sie anschließend auf Wiederherstellen.
- Bearbeiten Sie die Eingabeaufforderung, ändern Sie das Modell oder passen Sie die Decodierungs-und Stoppkriterienparameter an.
- Klicken Sie auf Generieren , um die Ausgabe mit den aktualisierten Informationen zu generieren.
Überprüfen Sie Ihren Fortschritt
Die folgende Abbildung zeigt die generierte Ausgabe mit verschiedenen Modellparametern. Sie können jetzt Ihre Arbeit speichern.
Aufgabe 7: Arbeit speichern
Um eine Vorschau dieser Aufgabe zu sehen, schauen Sie sich das Video ab 02:15 an.
Sie können Ihre Arbeit in drei Formaten speichern:
Assettyp | Beschreibung |
---|---|
Eingabeaufforderungsvorlage | Es wird nur die aktuelle Eingabeaufforderung ohne ihr Verlaufsprotokoll gespeichert. |
Eingabeaufforderungssitzung | Es werden Verlaufsprotokoll und Daten aus der aktuellen Sitzung gespeichert. |
Notizbuch | Die aktuelle Eingabeaufforderung wird als Notebook gespeichert. |
Gehen Sie wie folgt vor, um Ihre Arbeit zu speichern:
- Klicken Sie auf Arbeit speichern > Speichern unter.
- Wählen Sie Vorlage für Eingabeaufforderungaus.
- Geben Sie als Namen
Sample prompts
ein. - Wählen Sie die Option Nach dem Speichern im Projekt anzeigen .
- Klicken Sie auf Speichern.
- Klicken Sie auf der Registerkarte "Assets" des Projekts auf das Asset "Sample prompts ", um diese Eingabeaufforderung in Prompt Lab zu laden und direkt mit der Arbeit zu beginnen.
- Klicken Sie auf Gespeicherte Prompts '
, um gespeicherte Prompts aus Ihrem Sandbox-Projekt zu sehen.
Überprüfen Sie Ihren Fortschritt
Die folgende Abbildung zeigt die Registerkarte 'Assets' des Projekts mit dem Eingabeaufforderungsvorlagenasset:
Das folgende Bild zeigt die gespeicherte Eingabeaufforderung in Prompt Lab :
Nächste Schritte
Sehen Sie sich dieses Video an, das den Chat-Modus in Prompt Lab zeigt.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Sie können jetzt Folgendes ausführen:
- Verwenden Sie die Prompt Lab, um Foundation-Modelle aufzurufen und Ihre Arbeit in einem Projekt zu speichern.
- Versuchen Sie es mit dem Tutorial "Prompt a foundation model with the retrieval-augmented generation pattern ".
- Probieren Sie das Tutorial für End-to-End-Anwendungsfälle von watsonx.ai aus.
- Testen Sie die anderen Lernprogramme für watsonx.ai -Anwendungsfälle.
Weitere Ressourcen
Weitere Informationen finden Sie unter Videos.
Suchen Sie Beispieldatasets, Projekte, Modelle, Eingabeaufforderungen und Notebooks im Ressourcenhub, um praktische Erfahrungen zu sammeln:
Notizbücher, die Sie Ihrem Projekt hinzufügen können, um mit der Datenanalyse und der Erstellung von Modellen zu beginnen.
Projekte, die Sie importieren können und die Notizbücher, Datensätze, Eingabeaufforderungen und andere Ressourcen enthalten.
Datensätze, die Sie Ihrem Projekt hinzufügen können, um Modelle zu verfeinern, zu analysieren und zu erstellen.
Eingabeaufforderungen, die Sie in Prompt Lab verwenden können, um eine foundation model zu veranlassen.
Foundation-Modelle, die Sie in der Prompt Lab verwenden können.
Übergeordnetes Thema: Lernprogramme für den Schnelleinstieg