Um verantwortungsvolle, transparente und erklärbare KI-Workflows zu fördern, benötigt Ihr Unternehmen ein integriertes System für die Verfolgung, Überwachung und erneutes Training von KI-Modellen. Cloud Pak for Data as a Service stellt die Prozesse und Technologien zur Verfügung, mit denen Ihr Unternehmen Machine Learning-und KI-Modelle in der Produktion überwachen, verwalten, automatisieren und steuern kann.
Sehen Sie sich dieses Video an, um den Anwendungsfall für die Implementierung einer KI-Governance-Lösung zu sehen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Challenges (Abfragen)
Sie können die folgenden Herausforderungen für Ihr Unternehmen lösen, indem Sie einen KI-Governance-Anwendungsfall implementieren:
- Modellgovernance und -compliance sicherstellen
- Unternehmen müssen den detaillierten Verlauf von Modellen verfolgen und dokumentieren, um Compliance sicherzustellen und allen Beteiligten Einblick zu geben.
- Risikomanagement und verantwortungsvolle KI
- Unternehmen müssen Modelle in der Produktion überwachen, um sicherzustellen, dass die Modelle gültig und genau sind und dass sie keine Verzerrungen oder Abweichungen von den beabsichtigten Zielen einführen.
- Modelllebenszyklus operationalisieren
- Unternehmen müssen wiederholt anwendbare Prozesse implementieren, um Modelle effizient neu zu trainieren und in Produktionsumgebungen bereitzustellen.
Beispiel: Herausforderungen der Goldenen Bank
Verfolgen Sie die Geschichte der Golden Bank, während sie einen AI-Governance-Prozess implementiert, um sicherzustellen, dass ihr neuer Online-Anwendungsprozess konform und erklärbar ist. Geschäftsanalysten der Golden Bank müssen Modellinformationen überprüfen, um Compliance sicherzustellen, den Modellfortschritt von der Entwicklung bis zur Produktion zu zertifizieren und Berichte zur gemeinsamen Nutzung oder Archivierung zu generieren.
Prozess
Um KI-Governance für Ihr Unternehmen zu implementieren, kann Ihr Unternehmen diesen Prozess befolgen:
Die Services watsonx.ai Studio, watsonx.ai Runtime, Watson OpenScale und IBM Knowledge Catalog in Cloud Pak for Data as a Service bieten die Tools und Prozesse, die Ihr Unternehmen zur Implementierung einer KI-Governance-Lösung benötigt.
1. Modelle verfolgen
Ihr Team kann Ihre Modelle für maschinelles Lernen von der Anforderung bis zur Produktion verfolgen und bewerten, ob die Modelle den Vorschriften und Anforderungen Ihres Unternehmens entsprechen.
| Was Sie verwenden können | Aktion | Am besten zu verwenden, wenn |
|---|---|---|
| Factsheets | Erstellen Sie im Modellinventar in einem Katalog in IBM Knowledge Catalog einen Anwendungsfall für ein neues Modell. ' Zeigen Sie den Lebenszyklusstatus für alle registrierten Assets an und rufen Sie detaillierte Factsheets für Modelle oder Bereitstellungen auf, die für den Modellanwendungsfall registriert sind. ' Allgemeine Modelldetails, Trainingsinformationen und -metriken sowie Eingabe- und Ausgabeschema anzeigen. ' Zeigen Sie allgemeine Einsatzdetails, Evaluierungsdetails, Qualitätsmetriken, Fairnessdetails und Driftdetails an. |
Sie müssen ein neues Modell von Ihrem Data-Science-Team anfordern. Sie möchten sicherstellen, dass Ihr Modell konform ist und wie erwartet funktioniert. Sie möchten ermitteln, ob Sie ein Modell auf der Basis von Verfolgungsdaten aktualisieren müssen. Sie möchten Berichte für ein Modell ausführen, um Details gemeinsam zu nutzen oder beizubehalten. |
Beispiel: Modellverfolgung der Goldenen Bank
Geschäftsanalysten der Golden Bank fordern ein "Hypothekengenehmigungsmodell" an. Anschließend können sie das Modell durch alle Phasen des KI-Lebenszyklus verfolgen, während Data-Scientists das Modell erstellen und trainieren und ModelOps -Entwickler es bereitstellen und bewerten. Factsheets dokumentieren Details zum Modellverlauf und generieren Metriken, die seine Leistung anzeigen.
2. Implementierte Modelle überwachen
Nachdem Modelle bereitgestellt wurden, ist es wichtig, sie zu regeln und zu überwachen, um sicherzustellen, dass sie erklärbar und transparent sind. Data-Scientists müssen erklären können, wie die Modelle zu bestimmten Vorhersagen kommen, damit sie bestimmen können, ob die Vorhersagen implizite oder explizite Verzerrungen aufweisen. Darüber hinaus ist Best Practice, während des Lebenszyklus des Modells auf Probleme mit der Modellleistung und der Datenkonsistenz zu achten.
| Was Sie verwenden können | Aktion | Am besten zu verwenden, wenn |
|---|---|---|
| Watson OpenScale | Überwachung von Modellfairnessproblemen über mehrere Funktionen hinweg. Überwachung der Modellleistung und Datenkonsistenz im Zeitverlauf. Erläutern Sie, wie das Modell bei bestimmten Vorhersagen mit gewichteten Faktoren angekommen ist. Verwalten und dokumentieren Sie die Modellgovernance und den Lebenszyklus in Ihrem Unternehmen. |
Sie verfügen über Merkmale, die geschützt sind oder zur Fairness bei der Vorhersage beitragen können. Sie möchten die Modellleistung und Datenkonsistenzen im Zeitverlauf verfolgen. Sie möchten wissen, warum das Modell bestimmte Vorhersagen liefert. |
Beispiel: Modellüberwachung der Goldenen Bank
Data-Scientists von der Goldenen Bank verwenden Watson OpenScale , um das implementierte "Hypothekengenehmigungsmodell" zu überwachen, um sicherzustellen, dass es korrekt ist, und alle Antragsteller von Hypotheken der Goldenen Bank fair zu behandeln. Sie führen ein Notebook aus, um Monitore für das Modell einzurichten, und optimieren dann die Konfiguration mithilfe der Watson OpenScale -Benutzerschnittstelle. Mithilfe von Metriken aus der Qualitätsüberwachung und Fairnessüberwachung von Watson OpenScale bestimmen die Data-Scientists, wie gut das Modell Ergebnisse vorhersagt und ob es verzerrte Ergebnisse erzeugt. Sie erhalten auch Einblicke, wie das Modell zu Entscheidungen kommt, damit die Entscheidungen den Hypothekenantragstellern erklärt werden können.
3. Automatisierung des KI-Lebenszyklus
Ihr Team kann den MLOps-und KI-Lebenszyklus mit Orchestration Pipelines automatisieren und vereinfachen.
| Was Sie verwenden können | Aktion | Am besten zu verwenden, wenn |
|---|---|---|
| Orchestrierungspipelines | Verwenden Sie Pipelines, um wiederholt anwendbare und geplante Abläufe zu erstellen, die Pipelines für maschinelles Lernen automatisieren, von der Datenaufnahme bis hin zu Modelltraining, -tests und -bereitstellung. | Sie möchten einige oder alle Schritte in einem MLOps-Ablauf automatisieren. |
Beispiel: Automatisierter ML-Lebenszyklus der Golden Bank
Die Data-Scientists der Golden Bank können Pipelines verwenden, um ihren gesamten KI-Governance-Lebenszyklus und Prozesse zu automatisieren, um den Prozess für das erneute Training von Modellen zu vereinfachen.
Lernprogramme für KI-Governance
| Lernprogramm | Beschreibung | Fachkenntnisse für das Lernprogramm |
|---|---|---|
| Lernprogramm zum Erstellen und Bereitstellen eines Modells | Sie trainieren ein Modell, stufen es in einen Bereitstellungsbereich hoch und stellen das Modell bereit. | Führen Sie ein Notebook aus. |
| Lernprogramm zum Testen und Validieren eines Modells | Sie bewerten ein Modell auf Genauigkeit, Fairness und Erklärbarkeit. | Führen Sie ein Notebook aus und zeigen Sie die Ergebnisse in der Benutzerschnittstelle an. |
Weitere Informationen
Übergeordnetes Thema: Anwendungsfälle