Torna alla versione inglese della documentazioneAtlante del rischio AI
Atlante del rischio AI
Ultimo aggiornamento: 26 set 2024
Esplora questo atlante per comprendere alcuni dei rischi di lavorare con l'intelligenza artificiale generativa, i modelli di base e i modelli di machine learning.
I rischi sono categorizzati con uno dei seguenti tag:
- Rischi di IA tradizionali (si applica ai modelli tradizionali e all'IA generativa)
- Rischi amplificati dall'IA generativa (potrebbe valere anche per i modelli tradizionali)
- Nuovi rischi specificamente associati all'IA generativa
Rischi associati all'input
Fase di formazione e messa a punto
Affidabilità
Danneggiamento dati
Metodi tradizionali
Proprietà intellettuale
Informazioni riservate nei dati
Amplificato
Limitazioni dei diritti di utilizzo dei dati
Amplificato
Privacy<
Informazioni personali nei dati
Metodi tradizionali
Nuova identificazione
Metodi tradizionali
Trasparenza
Provenienza incerta dei dati
Amplificato
Leggi dati
Limitazioni all'uso dei dati
Metodi tradizionali
Restrizioni all'acquisizione dei dati
Amplificato
Limitazioni al trasferimento dei dati
Metodi tradizionali
Equità
Distorsione dati
Amplificato
Fase di inferenza
Privacy<
Informazioni personali nel prompt
Specifica
Attacco inferenza attributo
Amplificato
Attacco inferenza appartenenza
Amplificato
Affidabilità
Richiesta perdite
Specifica
Attacco di iniezione del prompt
Specifica
Attacco estrazione
Amplificato
Attacco di evasione
Amplificato
Precisione
Poca precisione del modello
Amplificato
Rischi associati alla produzione
Allineamento valore
Output tossico
Specifica
Uscita dannosa
Specifica
Consiglio incompleto
Specifica
Over- o Under-reliance
Amplificato
Esplicabilità
Attribuzione origine non affidabile
Specifica
Output non utilizzabile
Amplificato
Dati di training inaccessibili
Amplificato
Attribuzione non tracciabile
Amplificato
Privacy<
Esposizione di informazioni personali
Amplificato
Utilizzo non corretto
Uso non consensuale
Amplificato
Non divulgazione
Specifica
Uso improprio
Amplificato
Uso pericoloso
Specifica
Disinformazione della diffusione
Specifica
Tossicità di diffusione
Specifica
Affidabilità
Allucinazioni
Specifica
Proprietà intellettuale
Rivelazione di informazioni riservate
Amplificato
Violazione del copyright
Specifica
Generazione codice dannoso
Generazione di codice dannoso
Specifica
Rischi non tecnici
Governo
Mancanza di trasparenza del modello
Metodi tradizionali
Mancanza di diversità nei test
Amplificato
Mancanza di trasparenza del sistema
Metodi tradizionali
Test di rischio non rappresentativo
Amplificato
Definizione d'uso incompleta
Specifica
La mancanza di trasparenza dei dati
Amplificato
Test di rischio non corretti
Amplificato
Impatto sociale
Impatto sull'agenzia umana
Amplificato
Impatto sulla diversità culturale
Specifica
Impatto sull'istruzione: plagio
Specifica
Impatto sull'occupazione
Amplificato
Sfruttamento umano
Amplificato
Impatto sulle comunità interessate
Metodi tradizionali
Impatto sull'ambiente
Amplificato
Conformità Legale
Responsabilità legale
Amplificato
Limitazioni dei diritti di utilizzo del modello
Metodi tradizionali