Schnelleinstieg: Ein Basismodell mit Prompt Lab anfordern
In diesem Lernprogramm erfahren Sie, wie Sie das Prompt Lab in watsonx.aiverwenden. Es gibt in der Regel mehrere Möglichkeiten, ein Basismodell für ein erfolgreiches Ergebnis anzufordern. Im Eingabeaufforderungslabor können Sie mit Eingabeaufforderungen verschiedener Basismodelle experimentieren, Beispieleingabeaufforderungen untersuchen sowie Ihre besten Eingabeaufforderungen speichern und teilen. Lesen Sie die Tipps für Eingabeaufforderungen , damit Sie die meisten textgenerierenden Basismodelle erfolgreich anfordern können.
- Erforderliche Services
- Watson Studio
- Watson Machine Learning
Ihr grundlegender Workflow umfasst die folgenden Tasks:
- Öffnen Sie ein Projekt. Projekte sind der Ort, an dem Sie gemeinsam mit anderen mit Daten arbeiten.
- Öffnen Sie das Prompt Lab. Mit dem Eingabeaufforderungslabor können Sie mit Eingabeaufforderungen verschiedener Basismodelle experimentieren, Beispieleingabeaufforderungen untersuchen sowie Ihre besten Eingabeaufforderungen speichern und teilen.
- Geben Sie Ihre Eingabeaufforderung im Eingabeaufforderungseditor ein. Sie können Eingabeaufforderungen im unformatierten und strukturierten Modus eingeben.
- Wählen Sie das zu verwendende Modell aus. Sie können Ihre Eingabeaufforderung an eines der in watsonx.ai verfügbaren Modelle senden.
- Speichern Sie Ihre Arbeit als Projet-Asset. Wenn Sie Ihre Arbeit als Projektasset speichern, steht Ihre Arbeit Mitarbeitern im aktuellen Projekt zur Verfügung.
Lesen Sie, wie Sie ein Basismodell anfordern
Basismodelle sind sehr große KI-Modelle. Sie verfügen über Milliarden Parameter und werden auf Terabyte an Daten trainiert. Basismodelle können eine Vielzahl von Aufgaben ausführen, einschließlich Text-, Code-oder Bildgenerierung, Klassifizierung, Konversation und mehr. Große Sprachmodelle sind eine Untergruppe von Basismodellen, die für text-und codebezogene Tasks verwendet werden. In IBM watsonx.aigibt es eine Sammlung implementierter Modelle großer Sprachen, die Sie verwenden können, sowie Tools zum Experimentieren mit Eingabeaufforderungen.
Sehen Sie sich ein Video über die Aufforderung zur Eingabe eines Basismodells an.
Sehen Sie sich dieses Video an, um eine Vorschau der Schritte in diesem Lernprogramm anzuzeigen. Möglicherweise gibt es geringfügige Unterschiede in der Benutzerschnittstelle, die im Video angezeigt wird. Das Video ist als Begleiter zum schriftlichen Lernprogramm gedacht.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Lernprogramm zum Auffordern eines Basismodells testen
In diesem Lernprogramm werden Sie die folgenden Tasks ausführen:
- Aufgabe 1: Projekt öffnen
- Aufgabe 2: Prompt Lab im Freeform-Modus verwenden
- Aufgabe 3: Prompt Lab im strukturierten Modus verwenden
- Task 4: Beispieleingabeaufforderungen verwenden
- Aufgabe 5: Basismodell wählen
- Task 6: Modellparameter anpassen
- Aufgabe 7: Arbeit speichern
Tipps zum Durcharbeiten dieses Lernprogramms
Im Folgenden finden Sie einige Tipps für den erfolgreichen Abschluss dieses Lernprogramms.
Verwenden Sie das Videobild im Bild
Die folgende animierte Abbildung zeigt, wie die Funktionen für Videobilder und Inhaltsverzeichnisse verwendet werden:
Hilfe in der Community anfordern
Wenn Sie Hilfe zu diesem Lernprogramm benötigen, können Sie eine Frage stellen oder eine Antwort im Diskussionsforum derwatsonx -Communityfinden.
Browserfenster einrichten
Damit Sie dieses Lernprogramm optimal nutzen können, öffnen Sie Cloud Pak for Data in einem Browserfenster und lassen Sie diese Lernprogrammseite in einem anderen Browserfenster geöffnet, um einfach zwischen den beiden Anwendungen zu wechseln. Es empfiehlt sich, die beiden Browserfenster nebeneinander anzuordnen, um die weitere Arbeit zu erleichtern.
Aufgabe 1: Projekt öffnen
Sie benötigen ein Projekt, um Prompt Lab-Assets zu speichern.
Sehen Sie sich ein Video an, um zu sehen, wie ein Sandboxprojekt erstellt und ein Service zugeordnet wird. Führen Sie anschließend die Schritte aus, um zu überprüfen, ob ein Projekt vorhanden ist, oder um ein Sandboxprojekt zu erstellen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Blättern Sie in der Hauptanzeige von watsonx zum Bereich Projekte . Wenn Projekte aufgelistet werden, fahren Sie mit Aufgabe 2fort. Wenn keine Projekte angezeigt werden, führen Sie die folgenden Schritte aus, um ein Projekt zu erstellen.
Klicken Sie auf Sandbox-Projekt erstellen. Nach der Erstellung des Projekts wird das Sandboxprojekt im Abschnitt Projekte angezeigt.
Weitere Informationen hierzu oder die Option zum Ansehen eines entsprechenden Videos finden Sie unter Projekt erstellen.
Fortschritt überprüfen
Die folgende Abbildung zeigt die Hauptanzeige mit der im Abschnitt "Projekte" aufgelisteten Sandbox. Sie können nun das Prompt Lab öffnen.
Aufgabe 2: Prompt Lab im Freeform-Modus verwenden
Um eine Vorschau dieser Task anzuzeigen, sehen Sie sich das Video ab 00:03an.
Sie können Ihren Eingabeaufforderungstext in einem unformatierten Texteditor eingeben und anschließend auf Generieren klicken, um Ihre Eingabeaufforderung an das Modell zu senden. Führen Sie die folgenden Schritte aus, um das Prompt Lab im Freeform-Modus zu verwenden:
Klicken Sie in der Hauptanzeige auf die Kachel In Prompt Lab öffnen .
Wählen Sie jedes Kontrollkästchen aus, um die Bestätigungen zu akzeptieren, und klicken Sie dann auf Tour überspringen.
Klicken Sie auf die Registerkarte Freeform , um eine Eingabeaufforderung für ein Basismodell im Modus Freeform anzuzeigen.
Klicken Sie auf Switch mode.
Kopieren Sie den folgenden Text und fügen Sie ihn in das Textfeld ein. Klicken Sie dann auf Generieren , um die Ausgabe für Class name: Problemanzuzeigen.
Classify this customer message into one of two classes: question, problem.
Class name: Question
Description: The customer is asking a technical question or a how-to question about our products or services.
Class name: Problem
Description: The customer is describing a problem they are having. They might say they are trying something, but it's not working. They might say they are getting an error or unexpected results.
Message: I'm having trouble registering for a new account.
Class name:
Fortschritt überprüfen
Die folgenden Abbildungen zeigen die generierte Ausgabe für die Eingabeaufforderung im Freeform-Modus. Jetzt können Sie ein Basismodell im strukturierten Modus anfordern.
Aufgabe 3: Prompt Lab im strukturierten Modus verwenden
Um eine Vorschau dieser Task anzuzeigen, sehen Sie sich das Video ab 00:19an.
Sie können Ihre Eingabeaufforderung in einem strukturierten Format eingeben. Das strukturierte Format ist für eine Eingabeaufforderung mit wenigen Aufrufen hilfreich, wenn Ihre Eingabeaufforderung mehrere Beispiele enthält. Führen Sie die folgenden Schritte aus, um das Eingabeaufforderungslabor im strukturierten Modus zu verwenden:
Klicken Sie auf die Registerkarte Strukturiert .
Klicken Sie auf Switch mode.
Kopieren Sie im Feld Anweisung den folgenden Text und fügen Sie ihn ein:
Given a message submitted to a customer-support chatbot for a cloud software company, classify the customer's message as either a question or a problem description so the chat can be routed to the correct support team.
Kopieren Sie im Feld Setup den folgenden Text und fügen Sie ihn in jede Spalte ein:
Werte für Feld 'Setup' Eingabe Ausgabe Wenn ich versuche, mich anzumelden, erhalte ich einen Fehler. Problem Wo finde ich die Planpreise? Frage Was ist der Unterschied zwischen Trial und Paygo? Frage Die Registrierungsseite ist abgestürzt und jetzt kann ich kein neues Konto erstellen. Problem Welche Regionen werden unterstützt? Frage Ich kann mich nicht an mein Kennwort erinnern. Problem Kopieren Sie im Feld Try den folgenden Text und fügen Sie ihn ein:
I'm having trouble registering for a new account.
Klicken Sie auf Generieren , um die Ausgabe Problemanzuzeigen.
Fortschritt überprüfen
Die folgende Abbildung zeigt die generierte Ausgabe für die Eingabeaufforderung im strukturierten Modus. Jetzt können Sie die Beispieleingabeaufforderungen testen.
Aufgabe 4: Beispieleingabeaufforderungen verwenden
Eine Vorschau zu dieser Task sehen Sie, wenn Sie die Wiedergabe des Videos bei 00:33 starten. Wenn Sie nicht sicher sind, wie Sie beginnen, können Sie mit Beispieleingabeaufforderungen beginnen. Gehen Sie wie folgt vor, um die Beispieleingabeaufforderungen zu verwenden:
- Öffnen Sie das Symbol Beispieleingabeaufforderungen , um die Liste anzuzeigen.
- Blättern Sie durch die Liste und klicken Sie auf die Beispieleingabeaufforderung Marketing email generation .
- Ausgewähltes Modell anzeigen. Wenn Sie eine Beispieleingabeaufforderung laden, wird ein geeignetes Modell ausgewählt.
- Öffnen Sie die Anzeige Modellparameter . Die entsprechenden Parameter für Decodier-und Stoppkriterien werden ebenfalls automatisch festgelegt.
- Klicken Sie auf Generieren , um die Beispieleingabeaufforderung an das Modell zu übergeben und die E-Mail-Beispielausgabe anzuzeigen.
Fortschritt überprüfen
Die folgende Abbildung zeigt die generierte Ausgabe aus einer Beispieleingabeaufforderung. Jetzt können Sie die Beispielausgabe der Eingabeaufforderung anpassen, indem Sie ein anderes Modell und Parameter auswählen.
Aufgabe 5: Basismodell auswählen
Um eine Vorschau dieser Task anzuzeigen, sehen Sie sich das Video ab 01:04an. Sie können dieselbe Eingabeaufforderung an ein anderes Modell übergeben. Wenn Sie eine Ausgabe in einer bestimmten strukturierten Ausgabe wie JSON, HTML oder XML generieren müssen, können Sie dies tun, indem Sie ein Modell auswählen, das für die Generierung einer strukturierten Ausgabe optimiert wurde, indem Sie einige Beispiele in Ihrer Eingabeaufforderung verwenden oder ein Modell optimieren. Gehen Sie wie folgt vor, um ein anderes Basismodell zu wählen:
- Klicken Sie auf Modell > Alle Basismodelle anzeigen.
- Klicken Sie auf ein Modell, um mehr über ein Modell zu erfahren, und sehen Sie sich Details wie Modellarchitektur, Daten vor dem Training, Informationen zur Optimierung und Leistung im Vergleich zu Benchmarks an.
- Klicken Sie auf Zurück , um zur Liste der Modelle zurückzukehren.
- Wählen Sie entweder das Basismodell flan-t5-xxl-11b oder mt0-xxl-13b aus und klicken Sie auf Modell auswählen.
- Bewegen Sie den Cursor über die Modellausgabespalte und klicken auf das Symbol X , um die vorherige Ausgabe zu löschen.
- Klicken Sie in der Liste auf dieselbe Beispieleingabeaufforderung Marketing-E-Mail-Generierung.
- Klicken Sie auf Generieren , um die Ausgabe mit dem neuen Modell zu generieren.
Fortschritt überprüfen
Die folgende Abbildung zeigt die generierte Ausgabe mit einem anderen Modell. Sie können jetzt die Modellparameter anpassen.
Aufgabe 6: Modellparameter anpassen
Um eine Vorschau dieser Task anzuzeigen, sehen Sie sich das Video ab 01:28an.
Sie können mit der Änderung von Decodierungs-oder Stoppkriterienparametern experimentieren. Führen Sie die folgenden Schritte aus, um Modellparameter anzupassen.
In der folgenden Tabelle sind die für das Basismodell flan-t5-xxl-11b verfügbaren Modellparameter definiert.
Modellparameter | Bedeutung |
---|---|
Decodierung | Setzen Sie die Decodierung auf Greedy , damit immer Wörter mit der höchsten Wahrscheinlichkeit ausgewählt werden. Setzen Sie die Decodierung auf Stichprobenentnahme , um die Variabilität der Wortauswahl anzupassen. |
Temperatur | Steuern Sie die Kreativität von generiertem Text. Höhere Werte bewirken, dass die Ausgabe zu einem höheren Maß zufällig generiert wird. |
Top P (Stichprobenentnahme aus dem Nukleus) | Setzen Sie den Wert auf < 1.0 , um nur die kleinste Gruppe der wahrscheinlichsten Tokens mit Wahrscheinlichkeiten zu verwenden, die zu top_p oder höher addiert werden. |
Top K | Legen Sie die Anzahl der Vokabeltoken mit der höchsten Wahrscheinlichkeit fest, die für die Top-K-Filterung beibehalten werden sollen. Niedrigere Werte verringern die Wahrscheinlichkeit, dass das Modell vom Thema abweicht. |
Seedwert für Zufallszahlen | Steuern Sie die Zufallsstichprobe der generierten Tokens, wenn die Stichprobenentnahme aktiviert ist. Wird der Zufallswert für jede Generation auf dieselbe Zahl gesetzt, wird die experimentelle Wiederholbarkeit sichergestellt. |
Abwertung bei Wiederholung | Legen Sie eine Wiederholungsstrafe fest, um der Tendenz des Modells entgegenzuwirken, Eingabeaufforderungstext wörtlich zu wiederholen oder in einer Schleife zu stecken. 1.00 gibt an, dass keine Penalisierung erfolgt. |
Stoppsequenzen | Setzen Sie Stoppfolgen auf mindestens eine Zeichenfolge, damit die Textgenerierung gestoppt wird, wenn sie als Teil der Ausgabe erzeugt werden. |
Min. Token | Definieren Sie die Mindestanzahl der zu generierenden Token. Stoppsequenzen, die vor der Mindestanzahl der zu generierenden Token gefunden wurden, werden ignoriert. |
Max. Token | Definieren Sie die maximale Anzahl der zu generierenden Token. |
- Ändern Sie den Parameter Top K in
10
, um die Wahrscheinlichkeit zu verringern, dass das Modell das Thema verlassen wird. - Klicken Sie auf X , um die vorherige Modellausgabe zu löschen.
- Klicken Sie in der Liste auf dieselbe Beispieleingabeaufforderung.
- Klicken Sie auf Generieren , um die Ausgabe mit den neuen Modellparametern zu generieren.
- Klicken Sie auf das Symbol Sitzungsprotokoll , nachdem Sie mehrere Eingabeaufforderungen übergeben haben, um den Sitzungsprotokoll anzuzeigen.
- Klicken Sie auf einen Eintrag, um mit einer vorherigen Eingabeaufforderung, Modellspezifikation und Parametereinstellungen zu arbeiten, und klicken Sie anschließend auf Wiederherstellen.
- Bearbeiten Sie die Eingabeaufforderung, ändern Sie das Modell oder passen Sie die Decodierungs-und Stoppkriterienparameter an.
- Klicken Sie auf Generieren , um die Ausgabe mit den aktualisierten Informationen zu generieren.
Fortschritt überprüfen
Die folgende Abbildung zeigt die generierte Ausgabe mit verschiedenen Modellparametern. Sie können jetzt Ihre Arbeit speichern.
Aufgabe 7: Arbeit speichern
Um eine Vorschau dieser Task anzuzeigen, sehen Sie sich das Video ab 02:15an.
Sie können Ihre Arbeit in drei Formaten speichern:
Assettyp | Beschreibung |
---|---|
Eingabeaufforderungsvorlage | Es wird nur die aktuelle Eingabeaufforderung ohne ihr Verlaufsprotokoll gespeichert. |
Eingabeaufforderungssitzung | Es werden Verlaufsprotokoll und Daten aus der aktuellen Sitzung gespeichert. |
Notizbuch | Die aktuelle Eingabeaufforderung wird als Notebook gespeichert. |
Gehen Sie wie folgt vor, um Ihre Arbeit zu speichern:
- Klicken Sie auf Arbeit speichern > Speichern unter.
- Wählen Sie Vorlage für Eingabeaufforderungaus.
- Geben Sie als Namen
Sample prompts
ein. - Wählen Sie die Option Nach dem Speichern im Projekt anzeigen .
- Klicken Sie auf Speichern.
- Klicken Sie auf der Registerkarte Assets des Projekts auf das Asset Beispieleingabeaufforderungen , um diese Eingabeaufforderung in das Eingabeaufforderungslabor zu laden und sofort wieder zu arbeiten.
- Klicken Sie auf Gespeicherte Eingabeaufforderungen , um die gespeicherte Eingabeaufforderung Ihres Sandbox-Projekts anzuzeigen.
Fortschritt überprüfen
Die folgende Abbildung zeigt die Registerkarte 'Assets' des Projekts mit dem Eingabeaufforderungsvorlagenasset:
Die folgende Abbildung zeigt die gespeicherte Eingabeaufforderung im Prompt Lab:
Nächste Schritte
Sehen Sie sich dieses Video an, das den Chat-Modus im Prompt Lab zeigt.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Sie können jetzt Folgendes ausführen:
- Verwenden Sie Prompt Lab , um Basismodelle anzufordern und Ihre Arbeit in einem Projekt zu speichern.
- Testen Sie das Lernprogramm Prompt a foundation model with the retrieval-augmented generation pattern .
- Testen Sie die anderen Lernprogramme für watsonx.ai -Anwendungsfälle.
Weitere Ressourcen
Weitere Informationen finden Sie unter Videos.
Suchen Sie Beispieldatasets, Projekte, Modelle, Eingabeaufforderungen und Notebooks im Ressourcenhub, um praktische Erfahrungen zu sammeln:
Notebooks , die Sie Ihrem Projekt hinzufügen können, um mit der Analyse von Daten und der Modellerstellung zu beginnen.
Projekte , die Sie importieren können, die Notebooks, Datasets, Eingabeaufforderungen und andere Assets enthalten.
Datasets , die Sie Ihrem Projekt hinzufügen können, um Modelle zu optimieren, zu analysieren und zu erstellen.
Eingabeaufforderungen , die Sie im Eingabeaufforderungslabor verwenden können, um ein Basismodell anzufordern.
Foundation-Modelle , die Sie im Eingabeaufforderungslabor verwenden können.
Übergeordnetes Thema: Lernprogramme für den Schnelleinstieg