0 / 0
Retourner à la version anglaise de la documentation
Risque de transparence des données pour l'IA

Risque de transparence des données pour l'IA

Risques associés à l'entrée
Phase de formation et d'optimisation
Transparence
Amplifié par l'IA générative

Descriptif

Sans une documentation précise sur la façon dont les données d'un modèle ont été collectées, conservées et utilisées pour entraîner un modèle, il peut être plus difficile d'expliquer de manière satisfaisante le comportement du modèle par rapport aux données.

Pourquoi la transparence des données est-elle une préoccupation pour les modèles de base?

La transparence des données est importante pour la conformité juridique et l'éthique de l'IA. Les informations manquantes limitent la capacité d'évaluer les risques associés aux données. L'absence d'exigences normalisées peut limiter la divulgation, car les organisations protègent les secrets commerciaux et tentent d'empêcher les autres de copier leurs modèles.

Image d'arrière-plan des risques associés à l'entrée
Exemple

Divulgation des métadonnées de données et de modèles

Le rapport technique d' OpenAIest un exemple de dichotomie entre la divulgation de données et la divulgation de métadonnées de modèle. Alors que de nombreux développeurs de modèles voient de l'intérêt à favoriser la transparence pour les consommateurs, la divulgation pose de réels problèmes de sécurité et pourrait augmenter la capacité d'utiliser à mauvais escient les modèles. Dans le rapport technique GPT-4 , les auteurs déclarent: " Compte tenu du paysage concurrentiel et des implications sur la sécurité des modèles à grande échelle tels que GPT-4, ce rapport ne contient aucun détail supplémentaire sur l'architecture (y compris la taille du modèle), le matériel, le calcul d'entraînement, la construction de jeux de données, la méthode d'entraînement ou similaire.

Rubrique parent: Atlas des risques liés à l'IA

Nous fournissons des exemples couverts par la presse pour vous aider à expliquer les risques de nombreux modèles de base. Un grand nombre de ces événements couverts par la presse sont en constante évolution ou ont été résolus, et leur référencement peut aider le lecteur à comprendre les risques potentiels et à s'orienter vers des mesures d'atténuation. La mise en évidence de ces exemples est fournie à des fins d'illustration uniquement.

Recherche et réponse à l'IA générative
Ces réponses sont générées par un modèle de langue de grande taille dans watsonx.ai en fonction du contenu de la documentation du produit. En savoir plus