Descripción
Cuando se utiliza información confidencial en datos de entrenamiento, datos de ajuste preciso o como parte de la solicitud, los modelos pueden revelar esos datos en la salida generada. Revelar información confidencial es un tipo de fuga de datos.
¿Por qué revelar información confidencial es una preocupación para los modelos de fundación?
Si no se desarrolla correctamente para proteger los datos confidenciales, el modelo podría revelar información confidencial o IP en la salida generada y revelar información que estaba destinada a ser secreta.
Tema principal: Atlas de riesgo de IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa siguen evolucionando o ya se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Resaltar estos ejemplos son sólo para fines ilustrativos.