Retourner à la version anglaise de la documentationDemander un foundation model personnalisé
Demander un foundation model personnalisé
Dernière mise à jour : 18 déc. 2024
Une fois qu'un foundation model personnalisé est déployé, utilisez les capacités de watsonx.ai pour lancer le modèle.
Note : Seuls les membres du projet ou de l'espace où le foundation model personnalisé est déployé peuvent l'inviter. Le modèle n'est pas disponible pour les utilisateurs d'autres projets ou espaces.
Dans Prompt Lab, recherchez votre modèle personnalisé dans la liste des modèles de fondation disponibles. Vous pouvez ensuite travailler avec le modèle comme vous le faites avec les modèles de fondation fournis avec watsonx.ai La manière la plus simple de trouver les modèles déployés est d'utiliser le filtre :
Après avoir sélectionné le modèle, vous pouvez :
- Utilisez le Prompt Lab pour créer des invites et réviser des invites pour votre foundation model personnalisé
Demander un modèle personnalisé en utilisant l'API
Reportez-vous à ces exemples pour coder une invite pour le foundation model personnalisé :
curl -X POST "https://<your cloud hostname>/ml/v1/deployments/<your deployment ID>/text/generation?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
"input": "Hello, what is your name",
"parameters": {
"max_new_tokens": 200,
"min_new_tokens": 20
}
}'
curl -X POST "https://<your cloud hostname>/ml/v1/deployments/<your deployment ID>/text/generation_stream?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
"input": "Hello, what is your name",
"parameters": {
"max_new_tokens": 200,
"min_new_tokens": 20
}
}'
Sujet parent: Déploiement de modèles de fondation personnalisés