Promouvoir un modèle d'invite dans un espace de déploiement

Pour promouvoir un modèle d'invite vers un espace de déploiement, votre modèle d'invite doit contenir au moins une variable.

Notez ces considérations supplémentaires pour le déploiement d'un modèle d'invite :

• Vous ne pouvez créer des déploiements de modèles d'invite faisant référence à des déploiements de modèles que dans le même projet ou espace que celui où vous avez créé le déploiement de modèles. Si vous promouvez un modèle qui fait référence à un modèle déployé dans un espace, une copie de la ressource de modèle est automatiquement ajoutée à l'espace. Vous devez déployer le modèle dans l'espace avant de déployer le modèle d'invite.
• Si vous exportez un modèle d'invite qui fait référence à un modèle déployé, la ressource modèle associée est automatiquement exportée avec le modèle d'invite. Lorsque vous importez le modèle dans un nouveau conteneur, le modèle est également importé. Le modèle doit être déployé dans le nouveau conteneur avant de déployer le modèle d'invite.

Importation d'un modèle d'invite dans un espace de déploiement

Pour déployer des modèles d'invite sans variables, vous devez exporter le projet qui contient la ressource de modèle d'invite et importer le projet dans votre espace de déploiement.

Test du modèle d'invite déployé

Une fois le déploiement terminé, cliquez sur le nom du déploiement pour afficher le déploiement.

• L'onglet Référence d'API inclut les noeuds finaux d'API et les fragments de code dont vous avez besoin pour ajouter ce modèle d'invite à une application.
• L'onglet Test prend en charge le test du modèle d'invite. Entrez des données de test sous forme de texte, de texte en continu ou dans un fichier JSON.

Si le service watsonx.governance est activé, les onglets suivants s'affichent:

• Evaluer fournit les outils permettant d'évaluer le modèle d'invite dans l'espace. Cliquez sur Activer pour choisir les dimensions à évaluer. Pour plus de détails, voir Evaluation des modèles d'invite.
• AI Factsheets affiche toutes les métadonnées qui sont collectées pour le modèle d'invite. Utilisez ces détails pour le suivi du modèle d'invite pour les objectifs de gouvernance et de conformité. Voir Suivi des modèles d'invite.

Déploiement programmatique d'un modèle d'invite

Lorsque vous déployez un modèle d'invite par programme, vous devez suivre les étapes suivantes :

1. Déplacer le poste de modèle et le modèle d'invite vers un espace de déploiement. Par exemple, si vous utilisez l' API watsonx.ai, récupérez le modèle et analysez l'adresse model_id stockée dans prompt.model_id. Si vous utilisez Data and AI Common Core API, utilisez entity.wx_prompt.prompt.model_id. L'ID est une chaîne de clés divisée par :. Le dernier élément de la chaîne est la clé de ressource du modèle, qui renvoie à la ressource de modèle associée au modèle.
2. Déployer le modèle, en utilisant la clé de ressource du modèle de la première étape pour localiser le modèle à déployer pour le modèle. Par exemple, si vous utilisez l'API du tronc commun de données et d'intelligence artificielle, la requête recherche l'ID de l'espace ou du projet ( XXX ), le jeton de l'utilisateur ( YYY ) et la clé de ressource du modèle associée au modèle d'invite ( ZZZ ).

curl --location 'https://api.dataplatform.cloud.ibm.com/v2/asset_types/wml_model/search?space_id=XXX' \
--header 'Authorization: Bearer YYY' \
--header 'Content-Type: application/json' \
--data '{
    "query": "(asset.resource_key:ZZZ)",
    "include": "entity",
    "limit": 100
}'

1. Une fois le modèle déployé avec succès, déployez le modèle d'invite

En savoir plus

• Suivi des modèles d'invite

• Evaluation d'un modèle d'invite dans un espace de déploiement

• Sécurité et confidentialité des modèles de base

• Suivez le tutoriel Démarrage rapide: Evaluer et suivre un modèle d'invite pour évaluer et suivre un exemple de modèle d'invite

• Voir l'article de blogue IBM watsonx.governance pour la gestion et l'assurance des performances des modèles d'intelligence artificielle-Une approche prescriptive pour obtenir des conseils sur la façon d'opérationnaliser les applications métier et les flux de travaux avec l'inférence d'intelligence artificielle à l'aide du modèle d'invite déployé dans un bloc-notes

Rubrique parent: Déploiement et gestion des actifs