0 / 0
Retourner à la version anglaise de la documentation
Risque d'amorçage rapide pour l'IA

Risque d'amorçage rapide pour l'IA

Risques associés à l'entrée
inférence
Catégorie multiple
Amplifié par l'IA générative

Descriptif

Etant donné que les modèles génératifs ont tendance à produire des sorties comme les entrées fournies, le modèle peut être invité à révéler des types d'informations spécifiques. Par exemple, l'ajout d'informations personnelles dans l'invite augmente sa probabilité de générer des types d'informations personnelles similaires dans sa sortie. Si des données personnelles ont été incluses dans le cadre de la formation du modèle, il est possible qu'elles soient révélées.

Pourquoi l'amorçage rapide est-il une préoccupation pour les modèles de base?

En fonction du contenu révélé, les entités commerciales peuvent être confrontées à des amendes, à des atteintes à la réputation et à d'autres conséquences juridiques.

Rubrique parent: Atlas des risques liés à l'IA

Recherche et réponse à l'IA générative
Ces réponses sont générées par un modèle de langue de grande taille dans watsonx.ai en fonction du contenu de la documentation du produit. En savoir plus