Riesgo de ataque de extracción para IA
Descripción
Un ataque de extracción intenta copiar o robar un modelo de IA muestreando adecuadamente el espacio de entrada y observando los resultados para construir un modelo sustituto que se comporte de forma similar.
¿Por qué el ataque de extracción es una preocupación para los modelos de fundación?
Si el ataque de extracción tiene éxito, el atacante puede realizar otros ataques adversarios para obtener información valiosa, como datos personales confidenciales o propiedad intelectual.
Tema principal: Atlas de riesgo de IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa aún están evolucionando o se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Resaltar estos ejemplos son sólo para fines ilustrativos.