In alternativa, è possibile visualizzare l'elenco dei modelli di fondazione e filtrarli dall'hub Risorse dell'interfaccia utente watsonx.ai. Per maggiori dettagli, consultare le seguenti risorse:
È possibile utilizzare il metodo List the available foundation models dell'API watsonx.ai per ottenere informazioni sui modelli di fondazione disponibili.
Le informazioni sul modello restituite includono l'ID del modello, necessario per fare riferimento al modello nel codice.
Elenco dei modelli di fondazione disponibili
Copy link to section
Il metodo List the available foundation models dell'API watsonx.ai ottiene informazioni sui modelli di fondazione forniti da IBM in watsonx.ai e che possono essere utilizzati immediatamente per l'inferenza.
curl -X GET \
'https://{region}.ml.cloud.ibm.com/ml/v1/foundation_model_specs?version=2024-05-01'
Copy to clipboardCopiato negli appunti
Dopo aver ottenuto l'ID del modello, è possibile fare riferimento all'ID del modello nel codice in questo modo:
curl --request POST 'https://{cluster_url}/ml/v1/text/generation?version=2023-05-02'
-H 'Authorization: Bearer eyJhbGciOiJSUzUxM...'
-H 'Content-Type: application/json'
-H 'Accept: application/json'
--data-raw '{
"model_id": "google/flan-t5-xxl",
"input": "Tell me a story",
"project_id": "63dc4cf1-252f-424b-b52d-5cdd9814987f"
}'
Copy to clipboardCopiato negli appunti
Elenco dei modelli di fondazione personalizzati
Copy link to section
Per ottenere un elenco dei modelli di fondazione personalizzati distribuiti a cui è possibile accedere, utilizzare il metodo seguente. Questo metodo richiede un token al portatore.
curl -X GET \
'https://{region}.ml.cloud.ibm.com/ml/v4/deployments?version=2024-12-12&type=custom_foundation_model'
Copy to clipboardCopiato negli appunti
Elenco dei modelli di distribuzione su richiesta
Copy link to section
Per ottenere un elenco di modelli di fondazione forniti da IBM che si possono distribuire autonomamente, utilizzare il metodo seguente:
curl -X GET \
'https://{region}.ml.cloud.ibm.com/ml/v1/foundation_model_specs?version=2024-12-10&filters=curated'
Copy to clipboardCopiato negli appunti
Utilizzare l'ID modello restituito per distribuire il modello di base distribuibile su richiesta in uno spazio di distribuzione. Dopo aver distribuito il modello, è possibile fare l'inferenza del modello usando l'endpoint dell'API per la distribuzione.
Trovare gli ID dei modelli per l'inferenza dei modelli di fondazione forniti
Copy link to section
Per trovare gli ID dei modelli di fondazione forniti, seguire questi link:
ID del modello per i modelli di fondazione deploy on demand
Copy link to section
Attenzione : ricorda che non puoi dedurre un modello di base deploy on demand dal suo ID modello. L'ID del modello viene utilizzato solo per distribuire il modello. Dopo aver distribuito il modello, è possibile fare l'inferenza del modello usando l'endpoint dell'API per la distribuzione.