Esplora questo atlante per comprendere alcuni dei rischi di lavorare con l'intelligenza artificiale generativa, i modelli di base e i modelli di machine learning.

I rischi sono categorizzati con uno dei seguenti tag:

• Rischi di IA tradizionali (si applica ai modelli tradizionali e all'IA generativa)
• Rischi amplificati dall'IA generativa (potrebbe valere anche per i modelli tradizionali)
• Nuovi rischi specificamente associati all'IA generativa

Rischi associati all'input

Fase di formazione e messa a punto

Affidabilità

Danneggiamento dati

Metodi tradizionali

Proprietà intellettuale

Informazioni riservate nei dati

Amplificato

Limitazioni dei diritti di utilizzo dei dati

Amplificato

Precisione

Dati non rappresentativi

Metodi tradizionali

Contaminazione dei dati

Amplificato

Privacy<

Allineamento dei diritti sulla privacy dei dati

Amplificato

Informazioni personali nei dati

Metodi tradizionali

Nuova identificazione

Metodi tradizionali

Trasparenza

Mancanza di trasparenza dei dati di formazione

Amplificato

Provenienza incerta dei dati

Amplificato

Leggi dati

Limitazioni all'uso dei dati

Metodi tradizionali

Restrizioni all'acquisizione dei dati

Amplificato

Limitazioni al trasferimento dei dati

Metodi tradizionali

Allineamento valore

Improprio trattamento dei dati

Amplificato

Impropria riqualificazione

Amplificato

Equità

Distorsione dati

Amplificato

Fase di inferenza

Privacy<

Informazioni personali nel prompt

Specifica

Attacco inferenza attributo

Amplificato

Attacco inferenza appartenenza

Amplificato

Affidabilità

Richiesta perdite

Specifica

Attacco di iniezione del prompt

Specifica

Attacco estrazione

Amplificato

Attacco di evasione

Amplificato

Proprietà intellettuale

Informazioni IP nel prompt

Specifica

Dati riservati nel prompt

Specifica

Multi - categoria

Jailbreaking

Specifica

Richiesta di caricamento

Specifica

Precisione

Poca precisione del modello

Amplificato

Rischi associati alla produzione

Allineamento valore

Output tossico

Specifica

Uscita dannosa

Specifica

Consiglio incompleto

Specifica

Over- o Under-reliance

Amplificato

Esplicabilità

Attribuzione origine non affidabile

Specifica

Output non utilizzabile

Amplificato

Dati di training inaccessibili

Amplificato

Attribuzione non tracciabile

Amplificato

Privacy<

Esposizione di informazioni personali

Amplificato

Utilizzo non corretto

Uso non consensuale

Amplificato

Non divulgazione

Specifica

Uso improprio

Amplificato

Uso pericoloso

Specifica

Disinformazione della diffusione

Specifica

Tossicità di diffusione

Specifica

Equità

Distorsione decisionale

Metodi tradizionali

Distorsione di output

Specifica

Affidabilità

Allucinazioni

Specifica

Proprietà intellettuale

Rivelazione di informazioni riservate

Amplificato

Violazione del copyright

Specifica

Generazione codice dannoso

Generazione di codice dannoso

Specifica

Rischi non tecnici

Governo

Mancanza di trasparenza del modello

Metodi tradizionali

Mancanza di diversità nei test

Amplificato

Mancanza di trasparenza del sistema

Metodi tradizionali

Test di rischio non rappresentativo

Amplificato

Definizione d'uso incompleta

Specifica

La mancanza di trasparenza dei dati

Amplificato

Test di rischio non corretti

Amplificato

Impatto sociale

Impatto sull'agenzia umana

Amplificato

Impatto sulla diversità culturale

Specifica

Impatto sull'istruzione: plagio

Specifica

Impatto sull'occupazione

Amplificato

Sfruttamento umano

Amplificato

Impatto sulle comunità interessate

Metodi tradizionali

Impatto sull'istruzione: bypassare l'apprendimento

Specifica

Impatto sull'ambiente

Amplificato

Conformità Legale

Responsabilità legale

Amplificato

Limitazioni dei diritti di utilizzo del modello

Metodi tradizionali

Proprietà dei contenuti generati e IP

Specifica