Obtención de información sobre los modelos de base disponibles mediante programación
Descubra qué modelos base están disponibles para su uso en IBM watsonx.ai.
La librería watsonx.ai Python tiene una clase de ayuda para referenciar los IDs y nombres de los modelos. Para obtener más información, consulte TextModels.
El siguiente código utiliza la clase helper TextModels para listar los IDs de los modelos disponibles.
Python de Python
from ibm_watsonx_ai import APIClient
from ibm_watsonx_ai import Credentials
credentials = Credentials(
url = "https://{region}.ml.cloud.ibm.com",
api_key = {my-IBM-Cloud-API-key},
)
api_client = APIClient(credentials)
api_client.foundation_models.TextModels.show()
Salida de ejemplo
{'GRANITE_13B_CHAT_V2': 'ibm/granite-13b-chat-v2',
'GRANITE_13B_INSTRUCT_V2': 'ibm/granite-13b-instruct-v2',
...
}
Ejemplo: Ver los detalles de un foundation model
Puede ver los detalles, como una breve descripción y los límites foundation model, utilizando " get_details().
Python de Python
from ibm_watsonx_ai.foundation_models import ModelInference
import json
model_id = api_client.foundation_models.TextModels.FLAN_T5_XXL
project_id = {my-project-ID}
model = ModelInference(model_id=model_id, project_id=project_id, api_client=api_client)
model_details = model.get_details()
print( json.dumps( model_details, indent=2 ) )
Sustituya {region}, {my-IBM-Cloud-API-key}y {my-project-ID} por valores válidos para su entorno.
Salida de ejemplo
{
"model_id": "google/flan-t5-xxl",
"label": "flan-t5-xxl-11b",
"provider": "Google",
"source": "Hugging Face",
"short_description": "flan-t5-xxl is an 11 billion parameter model based on the Flan-T5 family.",
...
}
El siguiente ejemplo de código utiliza el ID de un foundation model para ver los detalles del modelo.
import json
model_id = api_client.foundation_models.TextModels.FLAN_T5_XXL
model_details = api_client.foundation_models.get_model_specs(model_id)
print( json.dumps( model_details, indent=2 ) )
Puede especificar la model_id en las solicitudes de inferencia de la siguiente manera:
model = ModelInference(
model_id="google/flan-ul2",...
)
Tema padre: BibliotecaPython