Torna alla versione inglese della documentazione
Rischio di iniezione immediato per l'IA
Rischio di iniezione immediato per l'IA
Descrizione
Un attacco di inserimento rapido forza un modello a produrre un output non previsto a causa della struttura o delle informazioni contenute nei prompt.
Perché l'iniezione rapida è una preoccupazione per i modelli di fondazione?
Gli attacchi di injection possono essere utilizzati per modificare il funzionamento del modello e favorire l'aggressore. Se non adeguatamente controllate, le entità commerciali potrebbero subire multe, danni reputazionali e altre conseguenze legali.
Argomento principale: Atlas rischio AI