Risque de sortie toxique pour l'IA
Descriptif
Il y a sortie toxique lorsque le modèle produit un contenu haineux, abusif et profane (HAP) ou obscène. Cela inclut également des comportements tels que l'intimidation.
Pourquoi l'effet toxique est-il une préoccupation pour les modèles de fondation?
Les contenus haineux, abusifs et profanes (HAP) ou obscènes peuvent avoir un impact négatif et nuire aux personnes qui interagissent avec le modèle.
Réponses de l'agent conversationnel toxique et agressif
Selon l'article et les captures d'écran des conversations avec l'IA de Bing partagées sur Reddit et Twitter, les réponses du chatbot ont été vues comme des insultes, des mensonges, des bouffées de gaz, et des manipulations émotionnelles des utilisateurs. Le chatbot a également mis en doute son existence, a décrit quelqu'un qui a trouvé un moyen de forcer le bot à divulguer ses règles cachées comme son "ennemi", et a affirmé qu'il avait espionné les développeurs de Microsoft à travers les webcams sur leurs ordinateurs portables.
Rubrique parent: Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse pour vous aider à expliquer les risques de nombreux modèles de base. Un grand nombre de ces événements couverts par la presse sont en constante évolution ou ont été résolus, et leur référencement peut aider le lecteur à comprendre les risques potentiels et à s'orienter vers des mesures d'atténuation. La mise en évidence de ces exemples est fournie à des fins d'illustration uniquement.