Die Entwicklung von Eingabeaufforderungen beinhaltet Tests und Fehler. Verfolgen Sie Ihre Experimente und speichern Sie Modell-und Eingabeaufforderungskombinationen, die die gewünschte Ausgabe generieren.
Wenn Sie Ihre Arbeit speichern, können Sie sie als unterschiedliche Assettypen speichern. Wenn Sie Ihre Arbeit als Asset speichern, können Sie Ihre Arbeit mit Mitarbeitern im aktuellen Projekt gemeinsam nutzen.
Assettyp | Wann dieser Assettyp verwendet wird | Was wird gespeichert? | Vorgehensweise zum Abrufen der Anlage |
---|---|---|---|
Anlage für Eingabeaufforderungsvorlage | Wenn Sie eine Kombination aus statischem Eingabeaufforderungstext, Eingabeaufforderungsvariablen und Eingabeaufforderungsentwicklungsparametern finden, die die gewünschten Ergebnisse aus einem bestimmten Modell generieren und wiederverwenden möchten. | Eingabeaufforderungstext, Modell, Eingabeaufforderungsparameter, Eingabeaufforderungsvariablen und AI-Leitplankeneinstellungen. Hinweis: Die vom Modell generierte Ausgabe wird nur dann als Teil der Eingabeaufforderungsvorlage gespeichert, wenn die Eingabeaufforderung im Chatmodus erstellt wurde.
|
Über die Registerkarte Gespeicherte Eingabeaufforderungsvorlagen |
Eingabeaufforderungssitzungsasset | Wenn Sie die Schritte im Zusammenhang mit Ihren Experimenten verfolgen möchten, damit Sie wissen, was Sie ausprobiert haben und was Sie nicht. | Prompt-Text, Modell, Prompt-Engineering-Parameter, AI-Leitplankeneinstellungen und Modellausgabe für bis zu 500 Prompts, die während einer Prompt-Engineering-Sitzung eingereicht werden. | Über die Registerkarte Verlauf |
Standard-Notebook-Anlage | Wenn Sie mit Modellen programmatisch arbeiten möchten, aber von der Prompt Lab aus starten möchten, um eine bessere Prompt-Engineering-Erfahrung zu machen. | Prompt-Text, Modell, Prompt-Engineering-Parameter sowie Prompt-Variablennamen und Standardwerte werden als Python formatiert und in einem Python gespeichert. | Auf der Seite Assets des Projekts |
Einsatz-Notebook | Wenn Ihre Eingabeaufforderung fortgeschrittene Funktionen ausführen kann, wie z. B. das Durchsuchen von Grundlagendokumenten nach Antworten auf Fragen aus einem Chat, und Sie diese Funktion als KI-Dienst einsetzen möchten. | Eine einsatzfähige Python, die von REST-APIs genutzt werden kann. Hinweis: Sie können Ihre Arbeit nur dann als Einsatznotizbuch speichern, wenn Sie einen Vektorindex auswählen und ein Chatmodell verwenden.
|
Auf der Seite Assets des Projekts |
Jeder dieser Assettypen ist auf der Seite Assets des Projekts verfügbar. Projektmitarbeiter mit der Rolle Administrator oder Bearbeiter können sie öffnen und damit arbeiten. Ihre Prompt-Vorlage und Ihre Prompt-Sitzungs-Assets sind automatisch gesperrt, aber Sie können sie entsperren, indem Sie auf das Schloss-Symbol klicken.
Editoren und Administratoren können gesperrte Vorlagenassets für Eingabeaufforderungen verwenden, um Inferenzen zu erstellen. Nur der Sperreneigner kann eine gesperrte Eingabeaufforderungssitzung verwenden, um Inferenzen zu generieren.
Speichern Ihrer Arbeit
Führen Sie die folgenden Schritte aus, um Ihre Entwicklungsarbeit für Eingabeaufforderungen zu speichern:
Klicken Sie in der Kopfzeile des Eingabeaufforderungs-Editors auf das Symbol Arbeit speichern , und klicken Sie dann auf Speichern unter.
Wählen Sie einen Assettyp aus.
Wenn Sie ein einsatzfähiges Gen AI-Flow-Notizbuch erstellen möchten, müssen Sie die Eingabeaufforderung mit einem Einsatzbereich verknüpfen. Weitere Informationen finden Sie in Bereitstellungsbereiche.
Benennen Sie das Asset und fügen Sie optional eine Beschreibung hinzu.
NurWatsonx.governance : Wählen Sie den Tasktyp aus, der Ihrem Ziel am besten entspricht.
Wenn Sie die Eingabeaufforderung nur als Notebook-Asset speichern: Wählen Sie Nach dem Speichern im Projekt anzeigenaus.
Klicken Sie auf Speichern.
Mit in einem Notebook gespeicherten Eingabeaufforderungen arbeiten
Wenn Sie Ihre Arbeit als Notebook-Asset speichern, wird ein Python -Notebook erstellt.
Um mit einem Prompt-Notebook-Asset zu arbeiten, führen Sie je nach Notebook-Typ die folgenden Schritte aus:
Standard-Notizbuch
Öffnen Sie das Notebook-Asset über die Registerkarte Assets Ihres Projekts.
Klicken Sie auf das Symbol Bearbeiten , um das Notizbuch zu instanziieren, damit Sie den Code Schritt für Schritt durchgehen können.
Das Notebook enthält ausführbaren Code, der die folgenden Schritte für Sie verwaltet:
- Authentifizierung beim Service.
- Definiert eine Python -Klasse.
- Definiert den Eingabetext für das Modell und deklariert alle Eingabeaufforderungsvariablen. Sie können den statischen Eingabeaufforderungstext bearbeiten und Eingabeaufforderungsvariablen Werte zuordnen.
- Verwendet die definierte Klasse, um die watsonx.ai Inferenz-API aufzurufen und Ihre Eingaben an das foundation model zu übergeben.
- Zeigt die vom foundation model erzeugte Ausgabe an.
Hinweis: Für Prompts, die auf Modelle schließen lassen, die im Projekt gespeichert sind, ersetzen Sie die Raum-ID durch die Projekt-ID.Verwenden Sie das Notebook unverändert oder ändern Sie es, um die Anforderungen Ihres Anwendungsfalls zu erfüllen.
Der Python, der mit Hilfe des Prompt Lab erzeugt wurde, wird erfolgreich ausgeführt. Sie müssen alle Änderungen testen und validieren, die Sie am Code vornehmen.
Einsatz-Notebook
Öffnen Sie das Notebook-Asset über die Registerkarte Assets Ihres Projekts.
Klicken Sie auf das Symbol Bearbeiten , um das Notizbuch zu instanziieren, damit Sie den Code Schritt für Schritt durchgehen können.
Das Notebook enthält ausführbaren Code, der die folgenden Schritte für Sie verwaltet:
- Authentifizierung beim Service.
- Stellt eine Verbindung zum Zielraum her und fördert den Vektorindex.
- Definiert die bereitzustellende Python-Funktion. Hierzu gehört Code zum Initialisieren des Vektorindex, zum Ausführen von Abfragen an den Vektorindex, zum Formatieren der Eingabe für das Modell und zum Ausführen von Inferenzen.
- Testet die Python-Funktion lokal.
- Stellt die Python-Funktion im Zielbereich bereit.
- Testet die bereitgestellte Python-Funktion.
Verwenden Sie das Notebook unverändert oder ändern Sie es, um die Anforderungen Ihres Anwendungsfalls zu erfüllen.
Der Python, der mit Hilfe des Prompt Lab erzeugt wurde, wird erfolgreich ausgeführt. Sie müssen alle Änderungen testen und validieren, die Sie am Code vornehmen.
DerPython Die vom Notebook bereitgestellte Funktion kann mithilfe einer REST-API genutzt werden. Nachfolgend sehen Sie ein BeispielcURL Bitte um Anruf bei Ihrer Bereitstellung:
curl --location '${PUBLIC_ENDPOINT}' \ --header 'Content-Type: application/json' \ --header 'Authorization: Bearer ${IAM_TOKEN}' \ --data '{ \ "input_data": [{ "fields": ["Search", "Access token"], "values": [ [${MESSAGES}], [${IAM_TOKEN}]] }] }'
wo
- PUBLIC_ENDPOINT ist der öffentliche Endpunkt Ihrer Bereitstellung. Sehen Erstellen von Onlinebereitstellungen .
- IAM_TOKEN ist das Authentifizierungstoken für den ZugriffIBM Cloud Dienstleistungen. Sehen Anmeldeinformationen für programmgesteuerten Zugriff .
- MESSAGES ist ein Array der Texteinträge des Chatverlaufs mit dem folgenden Schema:
{ "role": type, // "user" or "assistant" "content": content // The text content of the message }
Mit gespeicherten Eingabeaufforderungsvorlagen arbeiten
Um mit einer gespeicherten Eingabeaufforderung weiterzuarbeiten, öffnen Sie sie auf der Registerkarte Gespeicherte Eingabeaufforderungsvorlagen des Prompt Lab.
Wenn Sie eine gespeicherte Eingabeaufforderungsvorlage öffnen, ist Automatisch speichern aktiviert. Dies bedeutet, dass alle Änderungen, die Sie an der Eingabeaufforderung vornehmen, im Asset der gespeicherten Eingabeaufforderungsvorlage berücksichtigt werden. Wenn die von Ihnen gespeicherte Eingabeaufforderungsvorlage unverändert bleiben soll, klicken Sie auf Neue Eingabeaufforderung , um eine neue Eingabeaufforderung zu starten.
Sie können die Bearbeitungsmodi einer gespeicherten Eingabeaufforderungsvorlage nicht ändern.
Im Gegensatz zu anderen Bearbeitungsmodi speichert eine Eingabeaufforderungsvorlage, die im Chatmodus gespeichert wird, auch die Modellausgabe. Sie können nicht von einer Eingabeaufforderungsvorlage, die im Chatmodus gespeichert wurde, in einen anderen Modus wechseln.
Wenn watsonx.governance bereitgestellt wird und Ihre Eingabeaufforderungsvorlage mindestens eine Eingabeaufforderungsvariable enthält, können Sie die Effektivität von Modellantworten bewerten.
- Weitere Informationen zu Eingabeaufforderungsvariablen finden Sie unter Wiederverwendbare Eingabeaufforderungen erstellen.
- Weitere Informationen zur Auswertung von Modellantworten finden Sie unter Eingabeaufforderungsvorlagen in Projekten auswerten.
Mit gespeicherten Eingabeaufforderungssitzungen arbeiten
Um mit einer gespeicherten Eingabeaufforderungssitzung weiterzuarbeiten, öffnen Sie sie auf der Registerkarte Verlauf des Prompt Lab.
Zum Überprüfen vorheriger Eingabeaufforderungsübergaben können Sie auf einen Eingabeaufforderungseintrag im Protokoll klicken, um ihn im Eingabeaufforderungseditor zu öffnen. Wenn Sie die Ergebnisse der vorherigen Eingabeaufforderung bevorzugen, können Sie sie als aktuelle Eingabeaufforderung zurücksetzen, indem Sie auf Wiederherstellenklicken. Wenn Sie eine frühere Eingabeaufforderung zurückschreiben, wird Ihre aktuelle Eingabeaufforderungssitzung durch die frühere Version der Eingabeaufforderungssitzung ersetzt.
Weitere Informationen
Übergeordnetes Thema: Prompt Lab