Découvrez les modèles de base disponibles pour une utilisation dans IBM watsonx.ai.
La bibliothèque watsonx.ai Python possède une classe d'aide pour référencer les identifiants et les noms des modèles. Pour plus d'informations, voir TextModels
.
Le code suivant utilise la classe d'aide TextModels
pour répertorier les identifiants des modèles disponibles.
Python
from ibm_watsonx_ai import APIClient
from ibm_watsonx_ai import Credentials
credentials = Credentials(
url = "https://{region}.ml.cloud.ibm.com",
api_key = {my-IBM-Cloud-API-key},
)
api_client = APIClient(credentials)
api_client.foundation_models.TextModels.show()
Exemple de sortie
{'GRANITE_13B_CHAT_V2': 'ibm/granite-13b-chat-v2',
'GRANITE_13B_INSTRUCT_V2': 'ibm/granite-13b-instruct-v2',
...
}
Exemple : Afficher les détails d'un foundation model
Vous pouvez afficher des détails, tels qu'une brève description et les limites du foundation model, en utilisant 'get_details()
.
Python
from ibm_watsonx_ai.foundation_models import ModelInference
import json
model_id = api_client.foundation_models.TextModels.FLAN_T5_XXL
project_id = {my-project-ID}
model = ModelInference(model_id=model_id, project_id=project_id, api_client=api_client)
model_details = model.get_details()
print( json.dumps( model_details, indent=2 ) )
Remplacez {region}
, {my-IBM-Cloud-API-key}
et {my-project-ID}
par des valeurs valides pour votre environnement.
Exemple de sortie
{
"model_id": "google/flan-t5-xxl",
"label": "flan-t5-xxl-11b",
"provider": "Google",
"source": "Hugging Face",
"short_description": "flan-t5-xxl is an 11 billion parameter model based on the Flan-T5 family.",
...
}
L'exemple de code suivant utilise l'identifiant d'un foundation model pour afficher les détails du modèle.
import json
model_id = api_client.foundation_models.TextModels.FLAN_T5_XXL
model_details = api_client.foundation_models.get_model_specs(model_id)
print( json.dumps( model_details, indent=2 ) )
Vous pouvez spécifier l'adresse model_id
dans les requêtes d'inférence de la manière suivante :
model = ModelInference(
model_id="google/flan-ul2",...
)
Rubrique parent: Python