Risque de conservation des données pour l'IA
Descriptif
Lorsque les données d'apprentissage ou d'ajustement ne sont pas correctement collectées ou préparées, le résultat peut être un désalignement des valeurs ou de l'intention souhaitées d'un modèle et le résultat réel.
Pourquoi la conservation des données est-elle une préoccupation pour les modèles de base?
Une organisation incorrecte des données peut avoir un impact négatif sur la façon dont un modèle est entraîné, ce qui se traduit par un modèle qui ne se comporte pas conformément aux valeurs prévues. La correction des problèmes après l'entraînement et le déploiement du modèle peut être insuffisante pour garantir un comportement correct. Un comportement de modèle inapproprié peut entraîner des conséquences juridiques ou des dommages à la réputation pour les entités métier.
Rubrique parent: Atlas des risques liés à l'IA