Volver a la versión inglesa de la documentación
Riesgo de ataque de extracción para IA
Riesgo de ataque de extracción para IA
Descripción
Un ataque de extracción intenta copiar o robar un modelo de IA realizando un muestreo adecuado del espacio de entrada y observando las salidas para crear un modelo sustituto que se comporte de forma similar.
¿Por qué el ataque de extracción es una preocupación para los modelos de fundación?
Con un ataque exitoso, el atacante puede obtener información valiosa como información personal sensible o propiedad intelectual.
Tema principal: Atlas de riesgo de IA