Descrizione
Poiché i modelli generativi tendono a produrre output come l'input fornito, al modello può essere richiesto di rivelare tipi specifici di informazioni. Ad esempio, l'aggiunta di informazioni personali nel prompt aumenta la sua probabilità di generare tipi simili di informazioni personali nel suo output. Se i dati personali sono stati inclusi come parte della formazione del modello, c'è la possibilità che possano essere rivelati.
Perché si sta rapidamente innescando una preoccupazione per i modelli di fondazione?
Gli attacchi di Jailbreaking possono essere utilizzati per alterare il comportamento del modello a vantaggio dell'attaccante
Argomento principale: Atlas rischio AI
Facciamo degli esempi che sono stati trattati dalla stampa per spiegare molti dei rischi dei modelli di fondazione. Molti di questi eventi trattati dalla stampa sono ancora in evoluzione o sono stati risolti, e fare riferimento ad essi può aiutare il lettore a comprendere i rischi potenziali e a lavorare per mitigarli. L'evidenziazione di questi esempi è solo a scopo illustrativo.