Explore este atlas para comprender algunos de los riesgos de trabajar con IA generativa, modelos de base y modelos de aprendizaje automático.

Los riesgos se clasifican con una de estas etiquetas:

• Riesgos de IA tradicional (se aplica a los modelos tradicionales, así como a la IA generativa)
• Riesgos amplificados por IA generativa (podrían aplicarse también a los modelos tradicionales)
• Nuevos riesgos asociados específicamente a la IA generativa

Riesgos asociados con la entrada

Fase de entrenamiento y ajuste

Solidez

Envenenamiento de datos

Tradicional

Propiedad intelectual

Información confidencial en datos

Amplificado

Restricciones de derechos de uso de datos

Amplificado

Precisión

Datos no representativos

Tradicional

Contaminación de datos

Amplificado

Privacidad

Alineación de los derechos de privacidad de datos

Amplificado

Información personal en datos

Tradicional

Reidentificación

Tradicional

Transparencia

Falta de transparencia de los datos de formación

Amplificado

Procedencia incierta de los datos

Amplificado

Leyes de datos

Restricciones de uso de datos

Tradicional

Restricciones en la adquisición de datos

Amplificado

Restricciones a la transferencia de datos

Tradicional

Alineación de valores

Conservación adecuada de los datos

Amplificado

Reformación adecuada

Amplificado

Equidad

Sesgo de datos

Amplificado

Fase de inferencia

Privacidad

Información personal en la solicitud

Específico

Ataque de inferencia de atributos

Amplificado

Ataque de inferencia de pertenencia

Amplificado

Solidez

Solicitar fugas

Específico

Ataque de inyección de código

Específico

Ataque de extracción

Amplificado

Ataque de evasión

Amplificado

Propiedad intelectual

Información de IP en solicitud

Específico

Datos confidenciales en solicitud

Específico

Varias categorías

Interrupción de la cárcel

Específico

Solicitud de cebado

Específico

Precisión

Poca precisión del modelo

Amplificado

Riesgos asociados a la producción

Alineación de valores

Salida tóxica

Específico

Salida perjudicial

Específico

Consejo incompleto

Específico

Exceso o falta de confianza

Amplificado

Explicabilidad

Atribución de origen no fiable

Específico

Salida inexplicable

Amplificado

Datos de entrenamiento inaccesibles

Amplificado

Atribución no rastreable

Amplificado

Privacidad

Exponer información personal

Amplificado

Uso incorrecto

Uso no consensual

Amplificado

No divulgación

Específico

Uso incorrecto

Amplificado

Uso peligroso

Específico

Dispersión de desinformación

Específico

Toxicidad de dispersión

Específico

Equidad

Sesgo de decisión

Tradicional

Sesgo de salida

Específico

Solidez

Alucinación

Específico

Propiedad intelectual

Revelación de información confidencial

Amplificado

Infracción de copyright

Específico

Generación de código dañino

Generación de código dañino

Específico

Riesgos no técnicos

Gobernabilidad

Falta de transparencia del modelo

Tradicional

Falta de diversidad en las pruebas

Amplificado

Falta de transparencia del sistema

Tradicional

Pruebas de riesgo no representativas

Amplificado

Definición de uso incompleta

Específico

Falta de transparencia de datos

Amplificado

Pruebas de riesgo incorrectas

Amplificado

Impacto social

Impacto en la agencia de usuario

Amplificado

Impacto en la diversidad cultural

Específico

Impacto en la educación: plagio

Específico

Impacto en el empleo

Amplificado

Explotación humana

Amplificado

Impacto en las comunidades afectadas

Tradicional

Impacto en la educación: saltarse el aprendizaje

Específico

Impacto en el entorno

Amplificado

Conformidad legal

Responsabilidad legal

Amplificado

Restricciones de derechos de uso del modelo

Tradicional

Propiedad de los contenidos generados e IP

Específico