Prompt di un foundation model personalizzato

Torna alla versione inglese della documentazione

Ultimo aggiornamento: 18 dic 2024

Prompt di un foundation model personalizzato

Dopo aver distribuito un foundation model personalizzato, utilizzare le funzionalità di watsonx.ai per richiedere il modello.

Nota: solo i membri del progetto o dello spazio in cui è distribuito il foundation model personalizzato possono richiederlo. Il modello non è disponibile per gli utenti di altri progetti o spazi.

In Prompt Lab, individuare il modello personalizzato nell'elenco dei modelli di fondazione disponibili. Si può quindi lavorare con il modello come si fa con i modelli di fondazione forniti con watsonx.ai Il modo più semplice per trovare i modelli distribuiti è usare il filtro:

Trovare il modello personalizzato utilizzando il filtro

Dopo aver selezionato il modello, è possibile:

Utilizzate il Prompt Lab per creare e rivedere i prompt per il vostro foundation model personalizzato

Prompt di un modello personalizzato utilizzando l'API

Fare riferimento a questi esempi per codificare un prompt per il foundation model personalizzato:

curl -X POST "https://<your cloud hostname>/ml/v1/deployments/<your deployment ID>/text/generation?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
 "input": "Hello, what is your name",
 "parameters": {
    "max_new_tokens": 200,
    "min_new_tokens": 20
 }
}'

curl -X POST "https://<your cloud hostname>/ml/v1/deployments/<your deployment ID>/text/generation_stream?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
 "input": "Hello, what is your name",
 "parameters": {
    "max_new_tokens": 200,
    "min_new_tokens": 20
 }
}'

Argomento padre: Deploy di modelli di fondazione personalizzati