Descriptif
Les modèles d'IA générative peuvent être utilisés pour créer intentionnellement des informations trompeuses ou fausses afin de tromper ou d'influencer un public ciblé.
Pourquoi la diffusion de la désinformation est-elle une préoccupation pour les modèles de fondation?
La diffusion de la désinformation peut affecter la capacité de l'homme à prendre des décisions en connaissance de cause. Un modèle qui a ce potentiel doit être correctement gouverné.
Génération de fausses informations
Selon les articles de presse cités, l'IA générative constitue une menace pour les élections démocratiques en rendant plus facile pour les acteurs malveillants de créer et de diffuser du faux contenu pour les résultats des élections. Les exemples cités sont les suivants:
- Les messages de Robocall générés dans la voix d'un candidat ont demandé aux électeurs de voter à la mauvaise date.
- Enregistrements audio synthétisés d'un candidat qui a avoué un crime ou qui a exprimé des opinions racistes.
- Des images vidéo générées par l'IA ont montré un candidat donnant un discours ou une interview qu'ils n'ont jamais donnée.
- De fausses images conçues pour ressembler à des informations locales.
- Faussement prétendre qu'un candidat a abandonné la course.
Rubrique parent: Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse pour vous aider à expliquer les risques de nombreux modèles de base. Un grand nombre de ces événements couverts par la presse sont en constante évolution ou ont été résolus, et leur référencement peut aider le lecteur à comprendre les risques potentiels et à s'orienter vers des mesures d'atténuation. La mise en évidence de ces exemples est fournie à des fins d'illustration uniquement.