Suivez un modèle d'invite dans un cas d'utilisation d'IA pour capturer et partager des faits sur l'actif afin de vous aider à atteindre les objectifs de gouvernance et de conformité.
Suivi des modèles d'invite
Un modèle d'invite est l'entrée d'invite enregistrée pour un foundation model. Un modèle d'invite peut inclure des variables afin qu'il puisse être exécuté avec différentes options. Par exemple, si vous avez une invite qui récapitule les notes de réunion pour project-X, vous pouvez définir une variable de sorte que la même invite puisse s'exécuter pour project-Y.
Vous pouvez ajouter un modèle d'invite sauvegardé à un cas d'utilisation d'IA pour suivre les détails du modèle d'invite. En plus d'enregistrer des détails sur les informations de création de modèle d'invite et les détails de modèle source, la fiche d'information suit les informations des évaluations de modèle d'invite pour capturer les métriques de performance. Vous pouvez évaluer les modèles d'invite avant ou après avoir commencé le suivi d'un modèle d'invite.
Avant de commencer
Avant de pouvoir effectuer le suivi d'un modèle d'invite, ces conditions doivent être remplies.
- Soyez un administrateur ou un éditeur pour le projet qui contient le modèle d'invite.
- Le modèle d'invite doit inclure au moins une variable. Pour plus d'informations, voir Génération d'invites réutilisables.
Regardez cette vidéo pour voir comment suivre un modèle d'invite dans un cas d'utilisation d'IA.
Cette vidéo fournit une méthode visuelle pour apprendre les concepts et les tâches de cette documentation.
Suivi d'un modèle d'invite dans un cas d'utilisation d'IA
Vous pouvez ajouter un modèle d'invite à un cas d'utilisation d'IA à partir d'un projet ou d'un espace.
- Ouvrez le projet ou l'espace qui contient le modèle d'invite à gouverner.
- Dans le menu d'action de l'actif, cliquez sur Afficher le cas d'utilisation de l'IA.
- Si ce modèle d'invite ne fait pas déjà partie d'un cas d'utilisation de l'IA, vous êtes invité à effectuer un suivi dans le cas d'utilisation de l'IA. Lorsque vous commencez à suivre un modèle d'invite, il est verrouillé et vous ne pouvez plus l'éditer. Pour apporter des modifications, vous devez créer un nouveau modèle d'invite.
- Sélectionnez un cas d'utilisation d'IA existant ou suivez les invites pour en créer un nouveau.
- Choisissez une approche existante ou créez une nouvelle approche. Une approche représente une facette d'une solution complète. Chaque approche crée un ensemble de versions pour tous les actifs de la même approche.
- Choisissez un schéma de numérotation de version. Tous les actifs d'une approche partagent une version commune. Choisissez parmi les éléments suivants :
- Expérimental si vous prévoyez de procéder à des mises à jour fréquentes.
- Stable si les actifs ne changent pas rapidement.
- Personnalisé si vous souhaitez démarrer un nouveau numéro de version. La numérotation des versions doit suivre un schéma de major.minor.patch.
Lorsque le suivi est activé, tous les collaborateurs du cas d'utilisation peuvent réviser les détails du modèle d'invite.
Les détails sont capturés pour chaque étape de cycle de vie d'un modèle d'invite.
- Develop fournit des informations sur la définition de l'invite, y compris l'invite elle-même, la date de création, le foundation model utilisé, les paramètres de l'invite définis et les variables définies.
- Evaluer affiche les métriques de dimension de l'évaluation de votre modèle d'invite.
- Opérer fournit des détails sur la manière dont le modèle d'invite est déployé pour une utilisation en production.
Exigences relatives aux modèles d'invite de suivi
Tenez compte de ces exigences pour gérer les modèles d'invite pour la gouvernance à partir de l'interface utilisateur.
- Vous ne pouvez créer des déploiements de modèles d'invite faisant référence à des déploiements de modèles que dans le même projet ou espace que celui où vous avez créé le déploiement de modèles. Si vous promouvez un modèle qui fait référence à un modèle déployé dans un espace, une copie de la ressource de modèle est automatiquement ajoutée à l'espace. Vous devez déployer le modèle dans l'espace avant de déployer le modèle d'invite.
- Si vous exportez un modèle d'invite qui fait référence à un modèle déployé, la ressource modèle associée est automatiquement exportée avec le modèle d'invite. Lorsque vous importez le modèle dans un nouveau conteneur, le modèle est également importé. Le modèle doit être déployé dans le nouveau conteneur avant de déployer le modèle d'invite.
Affichage de la fiche technique pour un modèle d'invite suivi
Cliquez sur le nom du modèle d'invite dans un cas d'utilisation d'IA pour afficher la feuille de factsheet associée.
La fiche technique d'un modèle d'invite collecte ce type de données:
- Governance collecte des informations de base telles que le nom du cas d'utilisation de l'intelligence artificielle, la description, ainsi que le nom de l'approche et les données de version.
- Modèle de fondation affiche le nom du foundation model, l'identifiant de la licence et l'éditeur du modèle.
- Le modèle d'invite affiche le nom de l'invite, l'ID, la saisie de l'invite et les variables.
- Les paramètres d'invite collectent les options de configuration du modèle d'invite, y compris la méthode de décodage et les critères d'arrêt.
- Evaluation affiche les données de l'évaluation, y compris les alertes, et les données de métrique de l'évaluation. Par exemple, ce modèle d'invite affiche les données de mesure pour les évaluations de la qualité sur le modèle d'invite. Un seuil d'alerte a été déclenché par l'évaluation : "
- Valider affiche les données relatives à la manière dont le modèle d'invite a été évalué, y compris le jeu de données utilisé pour la validation, les alertes déclenchées et les données de mesure d'évaluation.
- Pièces jointes affiche des informations sur les pièces jointes qui prennent en charge le cas d'utilisation.
Déplacement d'un modèle d'invite à travers des étapes de cycle de vie
Lorsqu'un modèle d'invite est suivi, vous pouvez voir les détails de la création du modèle d'invite et de l'évaluation des performances par rapport aux indicateurs appropriés. L'étape suivante du cycle de vie consiste à _valider le modèle d'invite. Cela implique de tester le modèle d'invite avec de nouvelles données. Si vous êtes l'ingénieur des invites chargé de la validation de l'actif, procédez comme suit pour valider le modèle d'invite et capturer les données de validation dans la feuille de données associée.
- A partir du projet contenant le canevas d'invite, exportez le projet dans un fichier ZIP compressé.
- Créez un nouveau projet et remplissez-le avec le fichier ZIP exporté.
- Téléchargez les données de validation, évaluez le modèle d'invite et sauvegardez les résultats dans le projet de validation.
- A partir du projet, promouvez le modèle d'invite dans un espace de déploiement nouveau ou existant désigné comme étape Production . La scène est attribuée lors de la création de l'espace et ne peut pas être mise à jour. Créez donc un nouvel espace si vous n'avez pas d'espace de production disponible.
- Après avoir fait la promotion du modèle d'invite dans un espace de déploiement, vous pouvez configurer la surveillance continue.
- Les détails de la surveillance du modèle d'invite dans un espace de production sont affichés dans la phase de cycle de vie Operate du cas d'utilisation de l'IA.
En savoir plus
- Suivez le tutoriel Démarrage rapide: Evaluer et suivre un modèle d'invite pour évaluer et suivre un exemple de modèle d'invite.
- Voir Déploiement d'un modèle d'invite pour plus de détails sur la préparation d'un modèle d'invite pour la production.
- Voir Evaluation des modèles d'invite pour plus de détails sur l'évaluation d'un modèle d'invite pour des dimensions telles que l'exactitude ou pour tester la présence de discours haineux ou abusifs.
Rubrique parent: Suivi des actifs dans un cas d'utilisation d'IA