Aufforderung zu einem benutzerdefinierten foundation model

Zurück zur englischen Version der Dokumentation

Letzte Aktualisierung: 18. Dez. 2024

Aufforderung zu einem benutzerdefinierten foundation model

Nachdem ein benutzerdefiniertes foundation model bereitgestellt wurde, können Sie die Funktionen von watsonx.ai nutzen, um das Modell abzufragen.

Hinweis: Nur Mitglieder des Projekts oder Bereichs, in dem das benutzerdefinierte foundation model bereitgestellt wird, können es anfordern. Das Modell ist für Nutzer anderer Projekte oder Räume nicht verfügbar.

Suchen Sie in Prompt Lab Ihr benutzerdefiniertes Modell in der Liste der verfügbaren Stiftungsmodelle. Sie können dann mit dem Modell arbeiten, wie Sie es mit den in watsonx.ai enthaltenen Basismodellen tun. Der einfachste Weg, die von Ihnen eingesetzten Modelle zu finden, ist die Verwendung des Filters:

Suche nach dem benutzerdefinierten Modell mit Hilfe des Filters

Nachdem Sie das Modell ausgewählt haben, können Sie:

Verwenden Sie das Prompt Lab, um Prompts zu erstellen und Prompts für Ihr benutzerdefiniertes foundation model zu überprüfen

Aufforderung eines benutzerdefinierten Modells durch Verwendung der API

Anhand dieser Beispiele können Sie eine Eingabeaufforderung für das benutzerdefinierte foundation model codieren:

curl -X POST "https://<your cloud hostname>/ml/v1/deployments/<your deployment ID>/text/generation?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
 "input": "Hello, what is your name",
 "parameters": {
    "max_new_tokens": 200,
    "min_new_tokens": 20
 }
}'

curl -X POST "https://<your cloud hostname>/ml/v1/deployments/<your deployment ID>/text/generation_stream?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
 "input": "Hello, what is your name",
 "parameters": {
    "max_new_tokens": 200,
    "min_new_tokens": 20
 }
}'

Übergeordnetes Thema: Einsatz von benutzerdefinierten Foundation-Modellen