Retourner à la version anglaise de la documentation
Atlas des risques de l'IA
Atlas des risques de l'IA
Explorez cet atlas pour comprendre certains des risques liés à l'utilisation de l'IA générative, des modèles de base et des modèles d'apprentissage automatique.
Les risques sont catégorisés avec l'une des balises suivantes:
- Risques d'IA traditionnelle (s'applique aux modèles traditionnels ainsi qu'à l'IA générative)
- Risques amplifiés par l'IA générative (peut également s'appliquer aux modèles traditionnels)
- Nouveaux risques spécifiquement associés à l'IA générative
Risques associés à l'entrée
Phase de formation et d'optimisation
Robustesse
Empoisonnement des données
conventionnelle
Propriété intellectuelle
Confidentialité
Informations personnelles dans les données
conventionnelle
Réidentification
conventionnelle
Transparence
Lois sur les données
Restrictions d'utilisation des données
conventionnelle
Restrictions en matière de transfert de données
conventionnelle
Equité
Biais de données
Amplifié
Phase d'inférence
Confidentialité
Informations personnelles dans l'invite
Spécifique
Attaque par inférence d'attribut
Amplifié
Robustesse
Fuite d'invite
Spécifique
Attaque par injection d'invite
Spécifique
Attaque d'extraction
Amplifié
Attaque d'évasion
Amplifié
Propriété intellectuelle
Informations IP dans l'invite
Spécifique
Données confidentielles dans l'invite
Spécifique
Précision
Faible précision du modèle
Amplifié
Risques associés à la sortie
Alignement des valeurs
Sortie toxique
Spécifique
Production nocive
Spécifique
Conseils incomplets
Spécifique
Explicabilité
Attribution de source non fiable
Spécifique
Sortie inexplicable
Amplifié
Attribution non traçable
Amplifié
Confidentialité
Mauvaise utilisation
Utilisation non consensuelle
Amplifié
Non-divulgation
Spécifique
Utilisation incorrecte
Amplifié
Utilisation dangereuse
Spécifique
Répartition des désinformations
Spécifique
Répartition de la toxicité
Spécifique
Robustesse
Hallucination
Spécifique
Propriété intellectuelle
Violation de copyright
Spécifique
Génération de code nuisible
Génération de code préjudiciable
Spécifique
Risques non techniques
Gouvernance
Manque de transparence du modèle
conventionnelle
Manque de diversité des tests
Amplifié
Manque de transparence du système
conventionnelle
Test de risque non représentatif
Amplifié
Définition incomplète de l'usage
Spécifique
Test de risque incorrect
Amplifié
Impact sociétal
Impact sur l'agence humaine
Amplifié
Impact sur la diversité culturelle
Spécifique
Impact sur l'éducation : le plagiat
Spécifique
Impact sur l'emploi
Amplifié
Exploitation humaine
Amplifié
Impact sur les communautés affectées
conventionnelle
Impact sur l'environnement
Amplifié
Conformité juridique
La responsabilité juridique
Amplifié
Restrictions des droits d'utilisation des modèles
conventionnelle