Eingabeaufforderungsvorlage in einen Bereitstellungsbereich hochstufen

Um eine Prompt-Vorlage in einen Bereitstellungsbereich zu verschieben, muss Ihre Prompt-Vorlage mindestens eine Variable enthalten.

Beachten Sie die folgenden zusätzlichen Überlegungen zur Bereitstellung einer Eingabeaufforderungsvorlage:

• Sie können nur Bereitstellungen von Eingabeaufforderungsvorlagen erstellen, die auf Modellbereitstellungen in demselben Projekt oder Bereich verweisen, in dem Sie die Modellbereitstellung erstellt haben. Wenn Sie eine Vorlage, die auf ein bereitgestelltes Modell verweist, in einen Bereich verschieben, wird dem Bereich automatisch eine Kopie des Modell-Assets hinzugefügt. Sie müssen das Modell in dem Bereich einsetzen, bevor Sie die Eingabeaufforderungsvorlage einsetzen.
• Wenn Sie eine Prompt-Vorlage exportieren, die auf ein eingesetztes Modell verweist, wird das zugehörige Modell-Asset automatisch mit der Prompt-Vorlage exportiert. Wenn Sie die Vorlage in einen neuen Container importieren, wird auch das Modell importiert. Das Modell muss in dem neuen Container bereitgestellt werden, bevor Sie die Eingabeaufforderungsvorlage bereitstellen.

Importieren einer Prompt-Vorlage in einen Bereitstellungsbereich

Um Prompt-Vorlagen ohne Variablen bereitzustellen, müssen Sie das Projekt, das die Prompt-Vorlage enthält, exportieren und das Projekt in Ihren Bereitstellungsbereich importieren.

Implementierte Eingabeaufforderungsvorlage testen

Nachdem die Implementierung erfolgreich abgeschlossen wurde, klicken Sie auf den Implementierungsnamen, um die Implementierung anzuzeigen.

• Die Registerkarte API-Referenz enthält die API-Endpunkte und Code-Snippets, die Sie zum Hinzufügen dieser Eingabeaufforderungsvorlage zu einer Anwendung benötigen.
• Die Registerkarte Test unterstützt das Testen der Eingabeaufforderungsvorlage. Geben Sie Testdaten als Text, Streaming-Text oder in einer JSON-Datei ein.

Wenn der Service watsonx.governance aktiviert ist, werden auch die folgenden Registerkarten angezeigt:

• Evaluate stellt die Tools zum Auswerten der Eingabeaufforderungsvorlage im Space bereit. Klicken Sie auf Aktivieren , um die auszuwertenden Dimensionen auszuwählen. Weitere Informationen finden Sie unter Eingabeaufforderungsvorlagen auswerten.
• AI Factsheets zeigt alle Metadaten an, die für die Eingabeaufforderungsvorlage erfasst wurden. Verwenden Sie diese Details, um die Eingabeaufforderungsvorlage für Governance-und Konformitätsziele zu verfolgen. Siehe Vorlagen für Tracking-Eingabeaufforderungen.

Programmgesteuerte Bereitstellung einer Prompt-Vorlage

Wenn Sie eine Eingabeaufforderungsvorlage programmgesteuert bereitstellen, müssen Sie die folgenden Schritte ausführen:

1. Verschieben Sie das Modell-Asset und die Prompt-Vorlage in einen Bereitstellungsbereich. Wenn Sie z.B. die watsonx.ai API verwenden, holen Sie die Vorlage und parsen die model_id, die in prompt.model_id gespeichert ist. Wenn Sie Data and AI Common Core API verwenden, benutzen Sie entity.wx_prompt.prompt.model_id. Die ID ist eine mit : geteilte Zeichenkette von Schlüsseln. Das letzte Element in der Zeichenfolge ist der Modellressourcenschlüssel, der sich auf das mit der Vorlage verbundene Modell-Asset bezieht.
2. Stellen Sie das Modell bereit, indem Sie den Modellressourcenschlüssel aus dem ersten Schritt verwenden, um das für die Vorlage bereitzustellende Modell zu finden. Wenn Sie beispielsweise die Data and AI Common Core API verwenden, sucht die Suchanfrage nach der Raum- oder Projekt-ID ( XXX ), dem Token des Benutzers ( YYY ) und dem mit der Eingabeaufforderungsvorlage verbundenen Modellressourcenschlüssel ( ZZZ ).

curl --location 'https://api.dataplatform.cloud.ibm.com/v2/asset_types/wml_model/search?space_id=XXX' \
--header 'Authorization: Bearer YYY' \
--header 'Content-Type: application/json' \
--data '{
    "query": "(asset.resource_key:ZZZ)",
    "include": "entity",
    "limit": 100
}'

1. Nachdem das Modell erfolgreich eingesetzt wurde, setzen Sie die Eingabeaufforderungsvorlage ein

Weitere Informationen

• Vorlagen für Tracking-Eingabeaufforderungen

• Eingabeaufforderungsvorlage in einem Bereitstellungsbereich auswerten

• Sicherheit und Datenschutz für Basismodelle

• Folgen Sie dem Lernprogramm Schnelleinstieg: Eingabeaufforderungsvorlage auswerten und verfolgen , um eine Beispielvorlage für Eingabeaufforderungen zu bewerten und zu verfolgen.

• Lesen Sie den Blogbeitrag IBM watsonx.governance zur Verwaltung und Leistungszusicherung von KI-Modellen-Ein präskriptives Konzept , um Tipps zur Operationalisierung von Geschäftsanwendungen und Workflows mit KI-Inferenz mithilfe der bereitgestellten Eingabeaufforderungsvorlage in einem Notebook zu erhalten.

Übergeordnetes Thema: Assets implementieren und verwalten