Atlas des risques de l'IA

Explorez cet atlas pour comprendre certains des risques liés à l'utilisation de l'IA générative, des modèles de base et des modèles d'apprentissage automatique.

Les risques sont catégorisés avec l'une des balises suivantes:

• Risques d'IA traditionnelle (s'applique aux modèles traditionnels ainsi qu'à l'IA générative)
• Risques amplifiés par l'IA générative (peut également s'appliquer aux modèles traditionnels)
• Nouveaux risques spécifiquement associés à l'IA générative

Risques associés à l'entrée

Phase de formation et d'optimisation

Équité

Biais de données

Amplifié

Robustesse

Empoisonnement des données

conventionnelle

Alignement des valeurs

Organisation des données

Amplifié

Réentraînement en aval

Nouveau

Lois sur les données

Transfert de données

conventionnelle

Utilisation des données

conventionnelle

Acquisition de données

Amplifié

Propriété intellectuelle

Droits d'utilisation des données

Amplifié

Informations confidentielles dans les données

conventionnelle

Transparence

Transparence des données

Amplifié

provenance des données

Amplifié

Confidentialité

Informations personnelles dans les données

conventionnelle

Réidentification

conventionnelle

Droits de confidentialité des données

Amplifié

Consentement donné en connaissance de cause

conventionnelle

Phase d'inférence

Confidentialité

Informations personnelles dans l'invite

Nouveau

Attaque par inférence d'appartenance

conventionnelle

Attaque par inférence d'attribut

Amplifié

Propriété intellectuelle

Informations IP dans l'invite

Nouveau

Données confidentielles dans l'invite

Nouveau

Robustesse

Attaque d'évasion

Amplifié

Attaque d'extraction

Amplifié

Injection d'invite

Nouveau

Fuite d'invite

Amplifié

Catégorie multiple

Demander l'amorçage

Amplifié

Jailbreak

Amplifié

Risques associés à la sortie

Équité

Biais de sortie

Nouveau

Biais de décision

conventionnelle

Propriété intellectuelle

Violation de copyright

Nouveau

Révélation d'informations confidentielles

Amplifié

Alignement des valeurs

Hallucination

Nouveau

Sortie toxique

Nouveau

Plus ou moins de confiance

Amplifié

Dommages physiques

Nouveau

Conseils non spécifiés

Nouveau

Mauvaise utilisation

Répartition des désinformations

Nouveau

Répartition de la toxicité

Nouveau

Utilisation non consensuelle

Amplifié

Utilisation dangereuse

Nouveau

Non-divulgation

Nouveau

Utilisation incorrecte

Amplifié

Génération de code nuisible

Génération de code préjudiciable

Nouveau

Confidentialité

Révélation des informations personnelles

Amplifié

Explicabilité

Sortie inexplicable

Amplifié

Attribution de source non fiable

Amplifié

Données d'entraînement inaccessibles

Amplifié

Attribution non traçable

Amplifié

Risques non techniques

Gouvernance

Manque de transparence du modèle

conventionnelle

Manque de transparence des données

Amplifié

Imputabilité

Amplifié

Conformité juridique

La responsabilité juridique

Nouveau

Propriété du contenu généré

Nouveau

Adresse IP de contenu générée

Nouveau

Impact sociétal

Perte d'emploi

Amplifié

Exploitation humaine

Amplifié

Impact sur l'environnement

Amplifié

Impact sur la diversité culturelle

Nouveau

Impact sur l'agence humaine

Amplifié

Contournement de l'apprentissage

Nouveau

Plagiat

Nouveau