Descripción
Un ataque de pérdida de solicitud intenta extraer la solicitud del sistema de un modelo (también conocido como el mensaje del sistema).
¿Por qué la filtración rápida es una preocupación para los modelos de fundación?
Un ataque satisfactorio copia la solicitud del sistema utilizada en el modelo. En función del contenido de esa solicitud, el atacante podría obtener acceso a información valiosa, como información personal confidencial o propiedad intelectual, y podría ser capaz de replicar parte de la funcionalidad del modelo.
Tema principal: Atlas de riesgo de IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa siguen evolucionando o ya se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Resaltar estos ejemplos son sólo para fines ilustrativos.