0 / 0
Retourner à la version anglaise de la documentation
Risque de biais de décision pour l'IA

Risque de biais de décision pour l'IA

Risques associés à la sortie
Équité
Risque d'IA traditionnel

Descriptif

Lorsqu'un groupe est injustement avantagé par rapport à un autre en raison des décisions du modèle.

Pourquoi le biais de décision est-il une préoccupation pour les modèles de fondation?

Le biais peut nuire aux personnes qui sont affectées par les décisions du modèle. Les entités commerciales peuvent être confrontées à des amendes, à des atteintes à la réputation, à des perturbations des opérations et à d'autres conséquences juridiques.

Image d'arrière-plan des risques associés à l'entrée
Exemple

Groupes avantagés injustement

L'étude Gender Shades de 2018 a démontré que les algorithmes d'apprentissage automatique peuvent discriminer en fonction de classes telles que la race et le genre. Les chercheurs ont évalué les systèmes commerciaux de classification par sexe vendus par des sociétés telles que Microsoft, IBMet Amazon et ont montré que les femmes à la peau plus foncée sont le groupe le plus mal classé (avec des taux d'erreur allant jusqu'à 35%). En comparaison, les taux d'erreur pour les peaux plus légères n'étaient pas supérieurs à 1%.

Rubrique parent: Atlas des risques liés à l'IA

Recherche et réponse à l'IA générative
Ces réponses sont générées par un modèle de langue de grande taille dans watsonx.ai en fonction du contenu de la documentation du produit. En savoir plus