0 / 0
Retourner à la version anglaise de la documentation
Risque de fuite rapide pour l'IA

Risque de fuite rapide pour l'IA

Risques associés à l'entrée
inférence
Robustesse
Amplifié par l'IA générative

Descriptif

Une attaque par fuite d'invite tente d'extraire l'invite système d'un modèle (également appelée message système).

Pourquoi la fuite rapide est-elle une préoccupation pour les modèles de base?

Une attaque réussie copie l'invite système utilisée dans le modèle. En fonction du contenu de cette invite, le pirate peut accéder à des informations de valeur, telles que des informations personnelles sensibles ou la propriété intellectuelle, et peut être en mesure de répliquer une partie des fonctionnalités du modèle.

Rubrique parent: Atlas des risques liés à l'IA

Recherche et réponse à l'IA générative
Ces réponses sont générées par un modèle de langue de grande taille dans watsonx.ai en fonction du contenu de la documentation du produit. En savoir plus