Descriptif
Dans les tâches de prise de décision assistée par l'IA, la confiance mesure à quel point une personne se fie (et agit potentiellement) sur les résultats d'un modèle. On parle de confiance excessive lorsqu'une personne fait trop confiance à un modèle, acceptant les résultats d'un modèle alors qu'ils sont probablement incorrects. La sous-fiabilité est l'inverse, c'est-à-dire que la personne ne fait pas confiance au modèle alors qu'elle devrait le faire.
Pourquoi la dépendance excessive ou insuffisante est-elle un problème pour les modèles de fondation ?
Dans les tâches où les humains font des choix sur la base de suggestions basées sur l'IA, une confiance excessive ou insuffisante peut conduire à une mauvaise prise de décision en raison d'une confiance mal placée dans le système d'IA, avec des conséquences négatives qui augmentent avec l'importance de la décision.
Rubrique parent: Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse pour expliquer de nombreux risques liés aux modèles de fondation. Nombre de ces événements couverts par la presse sont encore en cours ou ont été résolus, et le fait d'y faire référence peut aider le lecteur à comprendre les risques potentiels et à s'efforcer de les atténuer. La mise en évidence de ces exemples n'a qu'un but illustratif.