Descrizione
I modelli di IA generativa potrebbero essere utilizzati per creare intenzionalmente informazioni fuorvianti o false per ingannare o influenzare un pubblico mirato.
Perché diffondere la disinformazione è una preoccupazione per i modelli di fondazione?
La diffusione di disinformazione potrebbe compromettere la capacità dell'uomo di prendere decisioni informate. Un modello che ha questo potenziale deve essere governato correttamente.
Generazione di informazioni false
Secondo gli articoli citati, l'IA generativa rappresenta una minaccia per le elezioni democratiche, rendendo più facile per gli attori malintenzionati creare e diffondere contenuti falsi per far calare i risultati elettorali. Gli esempi citati includono:
- I messaggi di robocall generati con la voce di un candidato hanno istruito gli elettori a votare nella data sbagliata.
- Sintetizzava registrazioni audio di un candidato che confessava un crimine o esprimeva opinioni razziste.
- Il video generato dall'IA mostra un candidato che fa un discorso o un'intervista che non ha mai fatto.
- Immagini false che sono progettate per assomigliare a notizie locali.
- Falsamente sostenendo che un candidato ha abbandonato la gara.
Argomento principale: Atlas rischio AI
Forniamo esempi trattati dalla stampa per aiutare a spiegare molti dei rischi dei modelli di fondazione. Molti di questi eventi trattati dalla stampa sono ancora in evoluzione o sono stati risolti, e il loro riferimento può aiutare il lettore a comprendere i potenziali rischi e a lavorare per mitigare. L'evidenziazione di questi esempi è solo a scopo illustrativo.