0 / 0
Retourner à la version anglaise de la documentation
Gestion d'un déploiement pour un foundation model personnalisé
Dernière mise à jour : 28 nov. 2024
Gestion d'un déploiement pour un foundation model personnalisé

Après avoir déployé un foundation model personnalisé, vous pouvez gérer et mettre à jour le déploiement.

Vous pouvez gérer et mettre à jour un " foundation model déployé à partir d'un " espace de déploiement IU ou d'un " par programme.

Gestion des déploiements de foundation model personnalisés à partir de l'espace de déploiement

Vous pouvez accéder à votre déploiement de modèle personnalisé, le mettre à jour, le dimensionner, le supprimer et en contrôler les performances dans votre espace de déploiement.

Accès aux détails du déploiement à partir de l'espace de déploiement

Procédez comme suit pour revoir ou mettre à jour les détails du déploiement :

  1. Dans l'onglet Déploiements de votre espace de déploiement, cliquez sur un nom de déploiement.
  2. Cliquez sur l'onglet Détails du déploiement pour accéder aux informations relatives au déploiement de votre foundation model personnalisé.
Note: Si votre organisation utilise l'un des cas d'utilisation pour suivre et gérer les actifs, les informations de déploiement d'un actif suivi sont enregistrées dans une fiche d'information dans le cas d'utilisation associé.

Mise à jour des détails du déploiement à partir de l'espace de déploiement

Vous pouvez mettre à jour les détails du déploiement de votre foundation model personnalisé, tels que le nom, le nom de service, la description et les spécifications matérielles. Pour plus d'informations, voir Mise à jour d'un déploiement.

Mise à l'échelle d'un déploiement dans un espace de déploiement

Vous pouvez faire évoluer votre déploiement en augmentant le nombre de copies créées pour votre déploiement. Pour plus d'informations, voir Mise à l'échelle d'un déploiement.

Supprimer un déploiement d'un espace de déploiement

Vous pouvez supprimer le déploiement de votre foundation model personnalisé lorsque vous n'en avez plus besoin, afin de libérer des ressources. Pour plus d'informations, voir Suppression d'un déploiement.

Remarque :

Dans les flux de travail où votre foundation model personnalisé est utilisé périodiquement, envisagez d'attribuer à votre modèle le même nom de service à chaque fois que vous le déployez. Ainsi, après avoir supprimé puis redéployé le modèle, vous pouvez continuer à utiliser le même point de terminaison dans votre code.

Contrôle des performances de déploiement à partir d'un espace de déploiement

Vous pouvez évaluer le déploiement de votre foundation model personnalisé pour mesurer les performances et comprendre les prédictions du modèle en provisionnant une instance watsonx.governance et en configurant des moniteurs pour l'équité, la qualité, la dérive et l'explicabilité. Pour plus d'informations, voir Évaluer les déploiements dans les espaces avec watsonx.governance

Gestion programmatique du déploiement d'un foundation model personnalisé

Prérequis

Vous pouvez accéder à votre déploiement de modèle personnalisé, le mettre à jour, le dimensionner, le supprimer et en contrôler les performances de manière programmatique.

Pour utiliser l'API watsonx.ai, vous avez besoin d'un jeton de porteur. Pour plus d'informations, voir Accréditations pour l'accès aux programmes.

Mise à jour programmatique d'un déploiement

Pour mettre à jour ou supprimer un déploiement de manière programmatique, il faut d'abord obtenir la liste des modèles déployés afin de trouver les métadonnées correctes pour le déploiement.

Obtenir la liste des modèles déployés

Obtenir la liste des déploiements pour l'identifiant de projet spécifié. Pour filtrer tous les déploiements qui pointent vers des modèles de fondation personnalisés, utilisez le paramètre de requête type=custom_foundation_model. Reportez-vous à cet exemple de code :

curl -X GET "https://<your cloud hostname>/ml/v4/deployments?version=2024-01-29&project_id=<your project ID>&type=custom_foundation_model" \
-H "Authorization: Bearer $TOKEN"

Champs que vous pouvez mettre à jour dans un modèle déployé :

  • name
  • description
  • tags
  • serving_name
  • asset
  • hardware_spec
  • software_spec
  • /online/parameters
  • /online/parameters/serving_name
  • /online/parameters/foundation_model

Par exemple :

curl -X PATCH "https://<your cloud hostname>//ml/v4/deployments/<your deployment ID>?version=2024-01-29&project_id=<your project ID>" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '[{
 "op": "replace",
 "path": "/name",
 "value": "<updated deployment name>"
}]'

Suppression programmatique de votre déploiement

Si vous souhaitez supprimer le déploiement de votre foundation model personnalisé, utilisez ce code :

curl -vk -X DELETE "https://<your cloud hostname>/ml/v4/deployments/<your deployment ID>?version=2024-01-29&project_id=<your project ID>" -H "Authorization: Bearer $TOKEN"

Contrôle des performances de déploiement à partir d'un espace de déploiement

Vous pouvez évaluer le déploiement de votre foundation model personnalisé pour mesurer les performances et comprendre les prédictions du modèle en provisionnant une instance watsonx.governance et en configurant des moniteurs pour l'équité, la qualité, la dérive et l'explicabilité. Pour plus d'informations, voir Évaluer les déploiements dans les espaces avec watsonx.governance

Mise à l'échelle programmatique de votre déploiement

Voir Mise à l'échelle programmatique d'un déploiement.

Etapes suivantes

Apprendre à créer un foundation model personnalisé

Sujet parent: Déploiement de modèles de fondation personnalisés