Descrizione
Una metrica selezionata per misurare o tracciare un rischio non è selezionata correttamente, misura in modo incompleto il rischio o misura il rischio sbagliato per il contesto dato.
Perché i test di rischio non corretti sono un problema per i modelli di fondazione?
Se le metriche non misurano il rischio come previsto, la comprensione di tale rischio non sarà corretta e le mitigazioni potrebbero non essere applicate. Se il risultato del modello è consequenziale, ciò potrebbe comportare un danno sociale, reputazionale o finanziario.
Argomento principale: Atlante del rischio AI
Facciamo degli esempi che sono stati trattati dalla stampa per aiutare a spiegare molti dei rischi dei modelli di fondazione. Molti di questi eventi trattati dalla stampa sono ancora in evoluzione o sono stati risolti, e fare riferimento ad essi può aiutare il lettore a comprendere i rischi potenziali e a lavorare per mitigarli. L'evidenziazione di questi esempi è solo a scopo illustrativo.