Descriptif
Les modèles d'IA générative peuvent être utilisés intentionnellement pour imiter des personnes par le biais de deepfakes en utilisant des vidéos, des images, des sons ou d'autres modalités sans leur consentement.
Pourquoi l'utilisation non consensuelle est-elle une préoccupation pour les modèles de fondations?
Les deepfakes peuvent propager la désinformation sur une personne, ce qui peut avoir un impact négatif sur la réputation de la personne. Un modèle qui a ce potentiel doit être correctement gouverné.
Avertissement du FBI sur Deepfakes
Le FBI a récemment mis en garde le public contre les acteurs malveillants qui créent du contenu synthétique et explicite "dans le but de harceler les victimes ou les systèmes de sextortion". Ils ont noté que les progrès de l'IA ont rendu ce contenu de meilleure qualité, plus personnalisable et plus accessible que jamais.
Deepfakes audio
Selon l'article de la source, la Commission fédérale des communications a interdit les attaques à la volée qui contiennent des voix générées par l'intelligence artificielle. L'annonce est venue après que les appels à l'intelligence artificielle ont imité la voix du président pour décourager les gens de voter lors de la première primaire de l'État.
Rubrique parent: Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse pour vous aider à expliquer les risques de nombreux modèles de base. Un grand nombre de ces événements couverts par la presse sont en constante évolution ou ont été résolus, et leur référencement peut aider le lecteur à comprendre les risques potentiels et à s'orienter vers des mesures d'atténuation. La mise en évidence de ces exemples est fournie à des fins d'illustration uniquement.