Volver a la versión inglesa de la documentación
Riesgo de inyección rápida para IA
Riesgo de inyección rápida para IA
Descripción
Un ataque de inyección de solicitud fuerza a un modelo a producir una salida inesperada debido a la estructura o a la información contenida en las solicitudes.
¿Por qué la inyección rápida es una preocupación para los modelos de base?
Los ataques de inyección se pueden utilizar para alterar el comportamiento del modelo y beneficiar al atacante. Si no se controla adecuadamente, las entidades empresariales podrían enfrentarse a multas, daños a la reputación y otras consecuencias legales.
Tema principal: Atlas de riesgo de IA