Descriptif
Un indicateur choisi pour mesurer ou suivre un risque est mal sélectionné, mesure le risque de manière incomplète ou mesure le mauvais risque dans le contexte donné.
Pourquoi les tests de risque incorrects constituent-ils une préoccupation pour les modèles de fondation ?
Si les paramètres ne mesurent pas le risque comme prévu, la compréhension de ce risque sera incorrecte et les mesures d'atténuation risquent de ne pas être appliquées. Si les résultats du modèle ont des conséquences, il peut en résulter un préjudice sociétal, un préjudice de réputation ou un préjudice financier.
Thème parent: Atlas des risques de l'IA
Nous fournissons des exemples couverts par la presse pour expliquer de nombreux risques liés aux modèles de fondation. Nombre de ces événements couverts par la presse sont encore en cours ou ont été résolus, et le fait d'y faire référence peut aider le lecteur à comprendre les risques potentiels et à s'efforcer de les atténuer. La mise en évidence de ces exemples n'a qu'un but illustratif.