Torna alla versione inglese della documentazione
Tempestivo rischio di adescamento per l'IA
Tempestivo rischio di adescamento per l'IA
Descrizione
Poiché i modelli generativi tendono a produrre output come l'input fornito, al modello può essere richiesto di rivelare tipi specifici di informazioni. Ad esempio, l'aggiunta di informazioni personali nel prompt aumenta la sua probabilità di generare tipi simili di informazioni personali nel suo output. Se i dati personali sono stati inclusi come parte della formazione del modello, c'è la possibilità che possano essere rivelati.
Perché si sta rapidamente innescando una preoccupazione per i modelli di fondazione?
A seconda del contenuto rivelato, le entità aziendali potrebbero subire multe, danni reputazionali e altre conseguenze legali.
Argomento principale: Atlas rischio AI