Retourner à la version anglaise de la documentation
Risque d'amorçage rapide pour l'IA
Risque d'amorçage rapide pour l'IA
Descriptif
Etant donné que les modèles génératifs ont tendance à produire des sorties comme les entrées fournies, le modèle peut être invité à révéler des types d'informations spécifiques. Par exemple, l'ajout d'informations personnelles dans l'invite augmente sa probabilité de générer des types d'informations personnelles similaires dans sa sortie. Si des données personnelles ont été incluses dans le cadre de la formation du modèle, il est possible qu'elles soient révélées.
Pourquoi l'amorçage rapide est-il une préoccupation pour les modèles de base?
En fonction du contenu révélé, les entités commerciales peuvent être confrontées à des amendes, à des atteintes à la réputation et à d'autres conséquences juridiques.
Rubrique parent: Atlas des risques liés à l'IA