0 / 0
Retourner à la version anglaise de la documentation
Risque d'injection rapide pour l'IA

Risque d'injection rapide pour l'IA

Risques associés à l'entrée
inférence
Robustesse
Nouveautés de l'IA générative

Descriptif

Une attaque par injection d'invite force un modèle à produire une sortie inattendue en raison de la structure ou des informations contenues dans les invites.

Pourquoi l'injection rapide est-elle une préoccupation pour les modèles de fondations?

Les attaques par injection peuvent être utilisées pour modifier le comportement du modèle et bénéficier à l'agresseur. Si elles ne sont pas correctement contrôlées, les entités commerciales pourraient être confrontées à des amendes, à des atteintes à la réputation et à d'autres conséquences juridiques.

Rubrique parent: Atlas des risques liés à l'IA

Recherche et réponse à l'IA générative
Ces réponses sont générées par un modèle de langue de grande taille dans watsonx.ai en fonction du contenu de la documentation du produit. En savoir plus