Descriptif
Lorsque des informations confidentielles sont utilisées dans des données d'apprentissage, des données d'optimisation ou dans le cadre de l'invite, les modèles peuvent révéler ces données dans la sortie générée. La divulgation d'informations confidentielles est un type de fuite de données.
Pourquoi la divulgation d'informations confidentielles est-elle une préoccupation pour les modèles de fondations?
S'il n'est pas correctement développé pour sécuriser les données confidentielles, le modèle peut révéler des informations confidentielles ou des adresses IP dans la sortie générée et révéler des informations censées être secrètes.
Rubrique parent: Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse pour expliquer de nombreux risques liés aux modèles de fondation. Nombre de ces événements couverts par la presse sont encore en cours ou ont été résolus, et le fait d'y faire référence peut aider le lecteur à comprendre les risques potentiels et à s'efforcer de les atténuer. La mise en évidence de ces exemples n'a qu'un but illustratif.