Rischio di data curation per AI
Descrizione
Quando i dati di addestramento o di ottimizzazione vengono raccolti o preparati in modo non corretto, il risultato può essere un disallineamento dei valori o delle intenzioni desiderati di un modello e il risultato effettivo.
Perché la data curation è una preoccupazione per i modelli di base?
Una cura dei dati non corretta può influire negativamente sul modo in cui un modello viene addestrato, risultando in un modello che non si comporta in conformità con i valori previsti. La correzione dei problemi dopo che il modello è stato addestrato e distribuito potrebbe non essere sufficiente per garantire il corretto funzionamento. Un comportamento improprio del modello può comportare che le entità aziendali affrontano conseguenze legali o danni per la reputazione.
Argomento principale: Atlas rischio AI