Docs

Demander un foundation model personnalisé

Dernière mise à jour : 18 déc. 2024
Demander un foundation model personnalisé

Une fois qu'un foundation model personnalisé est déployé, utilisez les capacités de watsonx.ai pour lancer le modèle.

Note : Seuls les membres du projet ou de l'espace où le foundation model personnalisé est déployé peuvent l'inviter. Le modèle n'est pas disponible pour les utilisateurs d'autres projets ou espaces.

Dans Prompt Lab, recherchez votre modèle personnalisé dans la liste des modèles de fondation disponibles. Vous pouvez ensuite travailler avec le modèle comme vous le faites avec les modèles de fondation fournis avec watsonx.ai La manière la plus simple de trouver les modèles déployés est d'utiliser le filtre :

Recherche d'un modèle personnalisé à l'aide du filtre

Après avoir sélectionné le modèle, vous pouvez :

  • Utilisez le Prompt Lab pour créer des invites et réviser des invites pour votre foundation model personnalisé

Demander un modèle personnalisé en utilisant l'API

Reportez-vous à ces exemples pour coder une invite pour le foundation model personnalisé :

curl -X POST "https://<your cloud hostname>/ml/v1/deployments/<your deployment ID>/text/generation?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
 "input": "Hello, what is your name",
 "parameters": {
    "max_new_tokens": 200,
    "min_new_tokens": 20
 }
}'

curl -X POST "https://<your cloud hostname>/ml/v1/deployments/<your deployment ID>/text/generation_stream?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
 "input": "Hello, what is your name",
 "parameters": {
    "max_new_tokens": 200,
    "min_new_tokens": 20
 }
}'

Sujet parent: Déploiement de modèles de fondation personnalisés