Explorez cet atlas pour comprendre certains des risques liés à l'utilisation de l'IA générative, des modèles de base et des modèles d'apprentissage automatique.

Les risques sont catégorisés avec l'une des balises suivantes:

• Risques d'IA traditionnelle (s'applique aux modèles traditionnels ainsi qu'à l'IA générative)
• Risques amplifiés par l'IA générative (peut également s'appliquer aux modèles traditionnels)
• Nouveaux risques spécifiquement associés à l'IA générative

Risques associés à l'entrée

Phase de formation et d'optimisation

Robustesse

Empoisonnement des données

conventionnelle

Propriété intellectuelle

Informations confidentielles dans les données

Amplifié

Restrictions des droits d'utilisation des données

Amplifié

Précision

Données non représentatives

conventionnelle

Contamination des données

Amplifié

Confidentialité

Alignement des droits en matière de protection de la vie privée

Amplifié

Informations personnelles dans les données

conventionnelle

Réidentification

conventionnelle

Transparence

Manque de transparence des données relatives à la formation

Amplifié

Provenance incertaine des données

Amplifié

Lois sur les données

Restrictions d'utilisation des données

conventionnelle

Restrictions en matière d'acquisition de données

Amplifié

Restrictions en matière de transfert de données

conventionnelle

Alignement des valeurs

Conservation inadéquate des données

Amplifié

Reconversion inadéquate

Amplifié

Equité

Biais de données

Amplifié

Phase d'inférence

Confidentialité

Informations personnelles dans l'invite

Spécifique

Attaque par inférence d'attribut

Amplifié

Attaque par inférence d'appartenance

Amplifié

Robustesse

Fuite d'invite

Spécifique

Attaque par injection d'invite

Spécifique

Attaque d'extraction

Amplifié

Attaque d'évasion

Amplifié

Propriété intellectuelle

Informations IP dans l'invite

Spécifique

Données confidentielles dans l'invite

Spécifique

Catégorie multiple

Jailbreak

Spécifique

Demander l'amorçage

Spécifique

Précision

Faible précision du modèle

Amplifié

Risques associés à la sortie

Alignement des valeurs

Sortie toxique

Spécifique

Production nocive

Spécifique

Conseils incomplets

Spécifique

Dépendance excessive ou insuffisante

Amplifié

Explicabilité

Attribution de source non fiable

Spécifique

Sortie inexplicable

Amplifié

Données d'entraînement inaccessibles

Amplifié

Attribution non traçable

Amplifié

Confidentialité

Exposer des informations personnelles

Amplifié

Mauvaise utilisation

Utilisation non consensuelle

Amplifié

Non-divulgation

Spécifique

Utilisation incorrecte

Amplifié

Utilisation dangereuse

Spécifique

Répartition des désinformations

Spécifique

Répartition de la toxicité

Spécifique

Equité

Biais de décision

conventionnelle

Biais de sortie

Spécifique

Robustesse

Libre

Spécifique

Propriété intellectuelle

Révélation d'informations confidentielles

Amplifié

Violation de copyright

Spécifique

Génération de code nuisible

Génération de code préjudiciable

Spécifique

Risques non techniques

Gouvernance

Manque de transparence du modèle

conventionnelle

Manque de diversité des tests

Amplifié

Manque de transparence du système

conventionnelle

Test de risque non représentatif

Amplifié

Définition incomplète de l'usage

Spécifique

Manque de transparence des données

Amplifié

Test de risque incorrect

Amplifié

Impact sociétal

Impact sur l'agence humaine

Amplifié

Impact sur la diversité culturelle

Spécifique

Impact sur l'éducation : le plagiat

Spécifique

Impact sur l'emploi

Amplifié

Exploitation humaine

Amplifié

Impact sur les communautés affectées

conventionnelle

Impact sur l'éducation : contournement de l'apprentissage

Spécifique

Impact sur l'environnement

Amplifié

Conformité juridique

La responsabilité juridique

Amplifié

Restrictions des droits d'utilisation des modèles

conventionnelle

Propriété du contenu généré et propriété intellectuelle

Spécifique