Atlas des risques de l'IA

Les risques sont catégorisés avec l'une des balises suivantes:

Un agent d'intelligence artificielle est une entité logicielle qui utilise des techniques d'intelligence artificielle et qui a la capacité d'agir dans son environnement en fonction d'objectifs définis, ce qui signifie qu'il peut décider des actions à effectuer et qu'il a la capacité de les exécuter. Les systèmes d'IA agentique sont des systèmes logiciels qui exploitent des agents d'IA (avec d'autres composants tels que des outils, des planificateurs, des mémoires et des ensembles de données), poursuivent des objectifs et peuvent fonctionner de manière autonome.

Les agents d'intelligence artificielle peuvent effectuer trois types d'actions :

• Entreprendre des actions qui ont un impact sur le monde (physique ou numérique).
• Consulter des ressources et utiliser des outils.
• Décider du processus à choisir pour la sélection des ressources/outils/autres agents d'intelligence artificielle et les sélectionner.

Les risques mentionnés dans cette section sont spécifiques à l'IA agentique ou amplifiés par elle. Étant donné que les agents récents sont construits sur de grands modèles de langage, les risques liés à l'IA générative décrits dans la section suivante peuvent également s'appliquer à l'IA agentique.

Les risques sont catégorisés avec l'une des balises suivantes:

Les risques ci-dessous décrivent les risques applicables aux modèles d'IA générative et aux modèles d'IA traditionnelle (non générative). Ces risques peuvent également s'appliquer à l'IA agentique, en particulier lorsque le comportement ou les résultats de l'agent sont déterminés à l'aide d'un modèle d'IA génératif ou traditionnel.