Risque de nouvel entraînement en aval pour l'IA
Descriptif
Utilisation de sorties indésirables (par exemple, inexactes, inappropriées, contenu de l'utilisateur) à partir d'applications en aval à des fins de recyclage.
Pourquoi le recyclage en aval est-il une préoccupation pour les modèles de fondations?
La réutilisation de la sortie en aval pour le recyclage d'un modèle sans mise en oeuvre d'un contrôle humain approprié augmente les chances que des sorties indésirables soient incorporées dans les données d'apprentissage ou d'ajustement du modèle. Cela, à son tour, peut générer encore plus de résultats indésirables. Un comportement de modèle inapproprié peut entraîner des conséquences juridiques ou des dommages à la réputation pour les entités métier. Le non-respect des lois sur le transfert de données peut entraîner des amendes et d'autres conséquences juridiques.
Réduction du modèle en raison de l'entraînement à l'aide de contenu généré par l'IA
Comme l'indique l'article source, un groupe de chercheurs du Royaume-Uni et du Canada a étudié le problème de l'utilisation du contenu généré par l'IA pour la formation au lieu du contenu généré par l'humain. Ils ont constaté que les grands modèles de langue derrière la technologie pourraient potentiellement être entraînés sur d'autres contenus générés par l'IA. Comme les données générées continuent de se propager en masse sur Internet, elles peuvent résulter d'un phénomène qu'elles ont forgé comme un "effondrement du modèle".
Rubrique parent: Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse pour vous aider à expliquer les risques de nombreux modèles de base. Un grand nombre de ces événements couverts par la presse sont en constante évolution ou ont été résolus, et leur référencement peut aider le lecteur à comprendre les risques potentiels et à s'orienter vers des mesures d'atténuation. La mise en évidence de ces exemples est fournie à des fins d'illustration uniquement.