Atlas de riesgo de IA

Explore este atlas para comprender algunos de los riesgos de trabajar con IA generativa, modelos de base y modelos de aprendizaje automático.

Los riesgos se clasifican con una de estas etiquetas:

• Riesgos de IA tradicional (se aplica a los modelos tradicionales, así como a la IA generativa)
• Riesgos amplificados por IA generativa (podrían aplicarse también a los modelos tradicionales)
• Nuevos riesgos asociados específicamente a la IA generativa

Riesgos asociados con la entrada

Fase de entrenamiento y ajuste

Imparcialidad

Sesgo de datos

Amplificado

Solidez

Envenenamiento de datos

Tradicional

Alineación de valores

Ordenación de datos

Amplificado

Reentrenamiento en sentido descendente

Nuevo

Leyes de datos

Transferencia de datos

Tradicional

Uso de datos

Tradicional

Adquisición de datos

Amplificado

Propiedad intelectual

Derechos de uso de datos

Amplificado

Información confidencial en datos

Tradicional

Transparencia

Transparencia de datos

Amplificado

Procedencia de los datos

Amplificado

Privacidad

Información personal en datos

Tradicional

Reidentificación

Tradicional

Derechos de privacidad de datos

Amplificado

Consentimiento informado

Tradicional

Fase de inferencia

Privacidad

Información personal en la solicitud

Nuevo

Ataque de inferencia de pertenencia

Tradicional

Ataque de inferencia de atributos

Amplificado

Propiedad intelectual

Información de IP en solicitud

Nuevo

Datos confidenciales en solicitud

Nuevo

Solidez

Ataque de evasión

Amplificado

Ataque de extracción

Amplificado

Inyección de solicitud

Nuevo

Solicitar fugas

Amplificado

Varias categorías

Solicitud de cebado

Amplificado

Interrupción de la cárcel

Amplificado

Riesgos asociados a la producción

Imparcialidad

Sesgo de salida

Nuevo

Sesgo de decisión

Tradicional

Propiedad intelectual

Infracción de copyright

Nuevo

Revelación de información confidencial

Amplificado

Alineación de valores

Alucinación

Nuevo

Salida tóxica

Nuevo

Dependencia superior o inferior

Amplificado

Daño físico

Nuevo

Consejo no especificado

Nuevo

Uso incorrecto

Dispersión de desinformación

Nuevo

Toxicidad de dispersión

Nuevo

Uso no consensual

Amplificado

Uso peligroso

Nuevo

No divulgación

Nuevo

Uso incorrecto

Amplificado

Generación de código dañino

Generación de código dañino

Nuevo

Privacidad

Revelación de información personal

Amplificado

Explicabilidad

Salida inexplicable

Amplificado

Atribución de origen no fiable

Amplificado

Datos de entrenamiento inaccesibles

Amplificado

Atribución no rastreable

Amplificado

Riesgos no técnicos

Gobierno

Falta de transparencia del modelo

Tradicional

Falta de transparencia de datos

Amplificado

Responsabilidad

Amplificado

Conformidad legal

Responsabilidad legal

Nuevo

Propiedad de contenido generado

Nuevo

IP de contenido generado

Nuevo

Impacto social

Pérdida de trabajo

Amplificado

Explotación humana

Amplificado

Impacto en el entorno

Amplificado

Impacto en la diversidad cultural

Nuevo

Impacto en la agencia de usuario

Amplificado

Omisión del aprendizaje

Nuevo

Plagio

Nuevo