Retourner à la version anglaise de la documentation
Risque d'injection rapide pour l'IA
Risque d'injection rapide pour l'IA
Descriptif
Une attaque par injection d'invite force un modèle à produire une sortie inattendue en raison de la structure ou des informations contenues dans les invites.
Pourquoi l'injection rapide est-elle une préoccupation pour les modèles de fondations?
Les attaques par injection peuvent être utilisées pour modifier le comportement du modèle et bénéficier à l'agresseur. Si elles ne sont pas correctement contrôlées, les entités commerciales pourraient être confrontées à des amendes, à des atteintes à la réputation et à d'autres conséquences juridiques.
Rubrique parent: Atlas des risques liés à l'IA