Caso di utilizzo governance AI
Per gestire flussi di lavoro IA responsabili, trasparenti ed esplicabili, l'azienda ha bisogno di un sistema integrato per monitorare, monitorare e riqualificare i modelli di IA. Cloud Pak for Data as a Service fornisce i processi e le tecnologie per consentire alla tua azienda di monitorare, gestire, automatizzare e gestire i modelli di machine learning e AI in produzione.
Guarda questo video per vedere il caso d'uso per implementare una soluzione di governance AI.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Le sfide
È possibile risolvere le seguenti sfide per la propria azienda implementando un caso di utilizzo di governance AI:
- Garantire la governance e la conformità del modello
- Le aziende devono monitorare e documentare la cronologia dettagliata dei modelli per garantire la conformità e fornire visibilità a tutti gli stakeholder.
- Gestione dei rischi e garanzia di AI responsabile
- Le organizzazioni devono monitorare i modelli in produzione per garantire che i modelli siano validi e accurati e che non stiano introducendo pregiudizi o allontanandosi dagli obiettivi previsti.
- Gestione del ciclo di vita del modello
- Le aziende devono implementare processi ripetibili per ottimizzare e implementare in modo efficiente i modelli negli ambienti di produzione.
Esempio: le sfide della Golden Bank
Segui la storia di Golden Bank mentre implementa un processo di governance dell'AI per assicurarti che il suo nuovo processo di candidatura online sia conforme e spiegabile. Gli analisti di business di Golden Bank devono esaminare le informazioni del modello per garantire conformità, certificare l'avanzamento del modello dallo sviluppo alla produzione e generare report da condividere o archiviare.
robotica
Per implementare la governance dell'intelligenza artificiale per la vostra azienda, la vostra azienda può seguire questo processo:
I servizi Watson Studio, Watson Machine Learning, Watson OpenScalee IBM Knowledge Catalog in Cloud Pak for Data as a Service forniscono gli strumenti e i processi necessari alla tua organizzazione per implementare una soluzione di governance AI.
1. Traccia modelli
Il tuo team può tenere traccia dei tuoi modelli di machine - learning dalla richiesta alla produzione e valutare se i modelli sono conformi alle normative e ai requisiti della tua azienda.
| Cosa è possibile utilizzare | Cosa puoi fare tu | Migliore da utilizzare quando |
|---|---|---|
| Fogli informativi | Nell'inventario del modello in un catalogo in IBM Knowledge Catalog, creare un caso di utilizzo per un nuovo modello. Visualizzare lo stato del ciclo di vita per tutti gli asset registrati ed eseguire il drill down ai factsheet dettagliati per i modelli o le distribuzioni registrati per il caso di utilizzo del modello. Visualizzare i dettagli del modello generale, le metriche e le informazioni di formazione e lo schema di input e output. Visualizzare i dettagli di distribuzione generali, i dettagli di valutazione, metriche di qualità, dettagli di correttezza e dettagli di deviazione. |
È necessario richiedere un nuovo modello dal team di data science. Si desidera verificare che il modello sia conforme e che funzioni come previsto. Si desidera determinare se è necessario aggiornare un modello in base ai dati di traccia. Si desidera eseguire i report su un modello per condividere o conservare i dettagli. |
Esempio: traccia del modello di Golden Bank
Gli analisti aziendali di Golden Bank richiedono un "Modello di approvazione del mutuo". Possono quindi tenere traccia del modello in tutte le fasi del ciclo di vita dell'IA mentre i data scientist creano e formano il modello e gli ingegneri ModelOps lo distribuiscono e lo valutano. I fogli di factsheet documentano i dettagli sulla cronologia del modello e generano metriche che ne mostrano le prestazioni.
2. Monitora modelli distribuiti
Una volta implementati i modelli, è importante gestirli e monitorarli per assicurarsi che siano spiegabili e trasparenti. I data scientist devono essere in grado di spiegare in che modo i modelli arrivano a determinate previsioni in modo da poter determinare se le previsioni hanno una distorsione implicita o esplicita. Inoltre, è consigliabile osservare le prestazioni del modello e i problemi di congruenza dei dati durante il ciclo di vita del modello.
| Cosa è possibile utilizzare | Cosa puoi fare tu | Migliore da utilizzare quando |
|---|---|---|
| Watson OpenScale | Problemi di correttezza del modello di monitoraggio in più funzionalità. Consistenza dei dati e prestazioni del modello di monitoraggio nel corso del tempo. Spiegare in che modo il modello è arrivato a determinate previsioni con fattori ponderati. Gestire e creare report sulla governance del modello e sul ciclo di vita nell'organizzazione. |
Si dispone di funzioni protette o che potrebbero contribuire alla correttezza della previsione. Si desidera tenere traccia delle prestazioni del modello e delle congruenza dei dati nel corso del tempo. Si desidera conoscere il motivo per cui il modello fornisce determinate previsioni. |
Esempio: monitoraggio del modello di Golden Bank
I data scientist di Golden Bank utilizzano Watson OpenScale per monitorare il "Modello di approvazione del mutuo" implementato per garantire che sia accurato e che tratti in modo equo tutti i richiedenti del mutuo Golden Bank. Eseguono un notebook per impostare i monitoraggi per il modello e quindi modificano la configurazione utilizzando l'interfaccia utente Watson OpenScale . Utilizzando le metriche del monitoraggio della qualità Watson OpenScale e del monitoraggio della correttezza, i data scientist determinano in che modo il modello prevede i risultati e se produce risultati distorti. Ottengono anche informazioni dettagliate su come il modello arriva alle decisioni in modo che le decisioni possano essere spiegate ai richiedenti del mutuo.
3. Automatizzare il ciclo di vita ML
Il tuo team può automatizzare e semplificare il ciclo di vita di MLOps e AI con Watson Pipelines.
| Cosa è possibile utilizzare | Cosa puoi fare tu | Migliore da utilizzare quando |
|---|---|---|
| Watson Pipelines | Utilizzare le pipeline per creare flussi ripetibili e pianificati che automatizzano le pipeline di machine learning, dall'inserimento dei dati alla formazione, test e distribuzione del modello. | Si desidera automatizzare alcuni o tutti i passi in un flusso MLOps. |
Esempio: ciclo di vita ML automatizzato di Golden Bank
I data scientist di Golden Bank possono utilizzare le pipeline per automatizzare il loro ciclo di vita completo di governance AI e i processi per semplificare il processo di riqualificazione del modello.
Esercitazioni per la governance AI
| Supporto didattico | Descrizione | Esperienza per l'esercitazione |
|---|---|---|
| Esercitazione di creazione e distribuzione di un modello | Formare un modello, promuoverlo in uno spazio di distribuzione e distribuire il modello. | Eseguire un notebook. |
| Esercitazione di test e convalida di un modello | Valutare un modello per l'accuratezza, la correttezza e l'esplicabilità. | Eseguire un notebook e visualizzare i risultati nell'interfaccia utente. |
Ulteriori informazioni
Argomento principale: Casi di uso