Risque de biais de décision pour l'IA
Descriptif
Lorsqu'un groupe est injustement avantagé par rapport à un autre en raison des décisions du modèle.
Pourquoi le biais de décision est-il une préoccupation pour les modèles de fondation?
Le biais peut nuire aux personnes qui sont affectées par les décisions du modèle. Les entités commerciales peuvent être confrontées à des amendes, à des atteintes à la réputation, à des perturbations des opérations et à d'autres conséquences juridiques.
Groupes avantagés injustement
L'étude Gender Shades de 2018 a démontré que les algorithmes d'apprentissage automatique peuvent discriminer en fonction de classes telles que la race et le genre. Les chercheurs ont évalué les systèmes commerciaux de classification par sexe vendus par des sociétés telles que Microsoft, IBMet Amazon et ont montré que les femmes à la peau plus foncée sont le groupe le plus mal classé (avec des taux d'erreur allant jusqu'à 35%). En comparaison, les taux d'erreur pour les peaux plus légères n'étaient pas supérieurs à 1%.
Rubrique parent: Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse pour vous aider à expliquer les risques de nombreux modèles de base. Un grand nombre de ces événements couverts par la presse sont en constante évolution ou ont été résolus, et leur référencement peut aider le lecteur à comprendre les risques potentiels et à s'orienter vers des mesures d'atténuation. La mise en évidence de ces exemples est fournie à des fins d'illustration uniquement.