0 / 0
Volver a la versión inglesa de la documentación
Riesgo de ataque de evasión para IA

Riesgo de ataque de evasión para IA

Riesgos asociados con la entrada
Inferencia
Solidez
Amplificado por IA generativa

Descripción

Intente que la salida de un modelo sea incorrecta al perturbar los datos enviados al modelo entrenado.

¿Por qué la evasión es una preocupación para los modelos de fundación?

Los ataques de evasión alteran el comportamiento del modelo, normalmente para beneficiar al atacante. Si no se contabilizan adecuadamente, las entidades empresariales podrían enfrentarse a multas, daños a la reputación y otras consecuencias legales.

Imagen de fondo para riesgos asociados con la entrada
Ejemplo

Ataques adversarios a los componentes de IA de los vehículos autónomos

Un informe de la Agencia de la Unión Europea para la Ciberseguridad (ENISA) encontró que los vehículos autónomos son "altamente vulnerables a una amplia gama de ataques" que podrían ser peligrosos para pasajeros, peatones y personas en otros vehículos. El informe afirma que un ataque adversarial podría ser utilizado para hacer que la IA 'ciega' a los peatones mediante la manipulación del componente de reconocimiento de imagen para clasificar mal a los peatones. Este ataque podría provocar estragos en las calles, ya que los coches autónomos podrían golpear a los peatones en las carreteras o los cruces.

Otros estudios demostraron posibles ataques adversarios en vehículos autónomos:

  • Engañar a los algoritmos de aprendizaje automático realizando cambios menores en los gráficos de los signos de la calle, como añadir pegatinas.
  • Los investigadores de seguridad de Tencent demostraron cómo la adición de tres pequeñas pegatinas en una intersección podría hacer que el sistema de piloto automático de Tesla virara hacia el carril equivocado.
  • Dos investigadores de McAfee demostraron cómo el uso de sólo cinta eléctrica negra podría engañar a un Tesla 2016 en una peligrosa ráfaga de aceleración al cambiar un signo de límite de velocidad de 35 mph a 85 mph.

    Tema principal: Atlas de riesgo de IA

    Búsqueda y respuesta de IA generativa
    Estas respuestas las genera un modelo de lenguaje grande en watsonx.ai que se basa en el contenido de la documentación del producto. Más información