Créer une équipe de gouvernance

Tenez compte de l'expertise dont vous avez besoin au sein de votre équipe de gouvernance. Un plan de gouvernance standard peut inclure les rôles suivants. Parfois, la même personne peut remplir plusieurs rôles. Dans d'autres cas, un rôle peut représenter une équipe de personnes.

• Propriétaire de modèle: le propriétaire crée un cas d'utilisation d'IA pour suivre une solution à un besoin métier. Le propriétaire demande le modèle ou le modèle d'invite, gère le processus d'approbation et suit la solution via le cycle de vie de l'IA.
• Développeur de modèles ou spécialiste des données: le développeur utilise les données dans un jeu de données ou un modèle de langage de grande taille (LLM) et crée le modèle d'apprentissage automatique ou le modèle d'invite LLM.
• Valideur de modèle: le valideur teste la solution pour déterminer si elle répond aux objectifs énoncés dans le cas d'utilisation de l'IA.
• Gestionnaire de risque et de conformité: le gestionnaire de risque détermine les règles et les seuils de conformité pour le cas d'utilisation de l'IA. Par exemple, le gestionnaire de risques peut déterminer les règles à appliquer pour tester une solution d'équité ou pour filtrer les résultats de discours haineux et abusifs.
• Ingénieur MLOps: l'ingénieur MLOps déplace une solution d'un environnement de préproduction (test) vers un environnement de production lorsqu'une solution est considérée comme prête à être entièrement déployée.
• Développeur d'applications: suit le déploiement et le développeur d'applications exécute des évaluations sur le déploiement pour surveiller le fonctionnement de la solution par rapport au seuil de métrique défini par le propriétaire du risque et de la conformité. Si les performances tombent en dessous des seuils spécifiés, le développeur de l'application collabore avec les autres parties prenantes pour résoudre les problèmes et mettre à jour le modèle ou le modèle d'invite.

Configurer une structure de gouvernance

Après avoir identifié les rôles et assemblé une équipe, planifiez votre structure de gouvernance.

1. Créez un inventaire pour le stockage des cas d'utilisation de l'IA. Un inventaire est l'endroit où vous stockez et affichez les cas d'utilisation de l'intelligence artificielle et les fiches de renseignements associées aux ressources gouvernées. En fonction de vos exigences de gouvernance, stockez tous les cas d'utilisation dans un seul inventaire ou créez plusieurs inventaires pour vos efforts de gouvernance.
2. Créez des projets pour la collaboration. Si vous utilisez les outils IBM, créez un projet watsonx.ai Studio. Le projet peut contenir les données requises pour entraîner ou tester la solution d'IA et le modèle ou le modèle d'invite qui est gouverné. Utilisez le contrôle d'accès pour restreindre l'accès aux collaborateurs approuvés.
3. Créez un espace de déploiement de préproduction. Utilisez l'espace pour tester votre modèle ou votre modèle d'invite à l'aide de données de test. Tout comme un projet, un espace fournit des fonctions de contrôle d'accès qui vous permettent d'inclure les collaborateurs requis.
4. Configurez les évaluations de test et de validation. Fournissez les détails du modèle ou du modèle d'invite et configurez un ensemble d'évaluations pour tester les performances de votre solution. Par exemple, vous pouvez tester un modèle d'apprentissage automatique pour des dimensions telles que l'équité, la qualité et la dérive, et tester un modèle d'invite par rapport à des métriques telles que la perplexité (degré de précision de la sortie) ou la toxicité (que la sortie contienne des propos haineux ou abusifs). En effectuant des tests sur des données connues (étiquetées), vous pouvez évaluer les performances avant de déplacer une solution vers la production.
5. Configurez un espace de production. Lorsque le modèle ou le modèle d'invite est prêt à être déployé dans un environnement de production, déplacez la solution et toutes les dépendances dans un espace de production. Un espace de production possède généralement une liste de contrôle d'accès plus étroite.
6. Configurez les évaluations pour le modèle déployé. Fournissez les détails du modèle et configurez les évaluations pour la solution. Vous pouvez désormais effectuer des tests sur des données réelles plutôt que sur des données de test. Il est important de surveiller votre solution afin d'être alerté si des seuils sont franchis, ce qui indique un problème potentiel avec la solution déployée.

Gérer la collaboration pour la gouvernance

Watsonx.governance repose sur une plateforme collaborative qui permet à tous les membres de l'équipe approuvés de contribuer à la résolution des problèmes métier.

Pour planifier la collaboration, réfléchissez à la façon de gérer l'accès aux inventaires, aux projets et aux espaces que vous utilisez pour la gouvernance.

Utilisez des rôles ainsi que des fonctions de contrôle d'accès pour vous assurer que votre équipe dispose des droits d'accès appropriés pour atteindre les objectifs.

Élaborer un plan de communication

Une partie du flux de travaux autour de la définition d'un cas d'utilisation d'IA et du déplacement d'actifs tout au long du cycle de vie repose sur une communication efficace. Décidez de la façon dont votre équipe communiquera et déterminez les détails. Par exemple :

• Utilisez-vous le courrier électronique pour la prise de décision ou un outil de messagerie tel que Slack?
• Existe-t-il un processus formel d'ajout de commentaires à un actif au fur et à mesure qu'il passe par un flux de travaux?

Créez votre plan de communication et partagez-le avec votre équipe.

Implémenter une solution de gouvernance simple

Au fur et à mesure que vous déployez votre stratégie de gouvernance, commencez par une implémentation simple, puis réfléchissez à la manière de générer de manière incrémentielle une solution plus complète. L'implémentation la plus simple nécessite un cas d'utilisation de l'IA dans un inventaire, avec un actif passant de la demande à la production.

Pour l'implémentation la plus simple de la gouvernance de l'IA, créez un cas d'utilisation de l'IA pour le suivi des actifs. Un cas d'utilisation de l'IA dans un inventaire consiste en un ensemble de fiches d'information qui contiennent la lignée, l'historique et d'autres informations pertinentes sur le cycle de vie d'un modèle. Ajoutez des spécialistes des données, des ingénieurs en traitement de données et d'autres utilisateurs en tant que collaborateurs.

La figure suivante montre comment les propriétaires de cas d'utilisation d'IA peuvent demander et suivre des actifs:

• Les utilisateurs métier créent des cas d'utilisation d'IA dans l'inventaire pour demander des modèles d'apprentissage automatique ou des modèles d'invite LLM.
• Les spécialistes des données associent l'actif entraîné à un cas d'utilisation d'IA pour suivre les activités de cycle de vie.

Les fiches d'information de l'intelligence artificielle accumulent des informations sur le modèle ou les modèles d'invite de la manière suivante:

• Toutes les actions associées à l'actif suivi sont automatiquement sauvegardées, y compris les déploiements et les évaluations.
• Toutes les modifications apportées aux actifs de données d'entrée sont automatiquement sauvegardées.
• Les spécialistes des données peuvent ajouter des étiquettes, de la documentation de support et d'autres informations.
• Les spécialistes des données peuvent associer des modèles challenger aux cas d'utilisation de l'IA pour comparer les performances des modèles.

Les valideurs et les autres parties prenantes examinent les fiches d'information de l'IA pour s'assurer de la conformité et certifier la progression des actifs du développement à la production. Ils peuvent également générer des rapports à partir des fiches de renseignements pour imprimer, partager ou archiver des détails.

Planifiez des solutions plus complexes

Vous pouvez étendre votre implémentation de gouvernance de l'IA à tout moment. Tenez compte des options suivantes pour étendre la gouvernance:

• Les ingénieurs MLOps peuvent étendre le suivi des modèles pour inclure des modèles externes créés avec des modèles d'apprentissage automatique tiers.
• Les ingénieurs MLOps peuvent ajouter des propriétés personnalisées à des fiches de données pour suivre plus d'informations.
• Les analystes de conformité peuvent personnaliser les modèles de rapport par défaut afin de générer des rapports personnalisés pour l'organisation.
• Intégrer AI Factsheets avec la console de gouvernance pour prendre en charge une vue d'entreprise de l'activité de gouvernance et développer des flux de travail pour prendre en charge les processus de gouvernance.