Volver a la versión inglesa de la documentaciónAtlas de riesgo de IA
Atlas de riesgo de IA
Última actualización: 10 feb 2025
Explore este atlas para comprender algunos de los riesgos de trabajar con IA generativa, modelos de base y modelos de aprendizaje automático.
Los riesgos se clasifican con una de estas etiquetas:
- Riesgos de IA tradicional (se aplica a los modelos tradicionales, así como a la IA generativa)
- Riesgos amplificados por IA generativa (podrían aplicarse también a los modelos tradicionales)
- Nuevos riesgos asociados específicamente a la IA generativa
Riesgos de los datos de formación
Transparencia
Procedencia incierta de los datos
Amplificado
Leyes de datos
Restricciones de uso de datos
Tradicional
Restricciones en la adquisición de datos
Amplificado
Restricciones a la transferencia de datos
Tradicional
Equidad
Sesgo de datos
Amplificado
Propiedad intelectual
Restricciones de derechos de uso de datos
Amplificado
Información confidencial en datos
Amplificado
Solidez
Envenenamiento de datos
Tradicional
Riesgos de inferencia
Solidez
Ataque de inyección de código
Específico
Ataque de extracción
Amplificado
Ataque de evasión
Amplificado
Solicitar fugas
Específico
Privacidad
Ataque de inferencia de pertenencia
Amplificado
Ataque de inferencia de atributos
Amplificado
Información personal en la solicitud
Específico
Propiedad intelectual
Datos confidenciales en solicitud
Específico
Información de IP en solicitud
Específico
Precisión
Poca precisión del modelo
Amplificado
Riesgos de salida
Uso incorrecto
No divulgación
Específico
Uso incorrecto
Amplificado
Toxicidad de dispersión
Específico
Uso peligroso
Específico
Uso no consensual
Amplificado
Dispersión de desinformación
Específico
Alineación de valores
Consejo incompleto
Específico
Generación de código dañino
Específico
Confianza excesiva o insuficiente
Amplificado
Salida tóxica
Específico
Salida perjudicial
Específico
Propiedad intelectual
Infracción de copyright
Específico
Revelación de información confidencial
Amplificado
Explicabilidad
Datos de entrenamiento inaccesibles
Amplificado
Atribución no rastreable
Amplificado
Salida inexplicable
Amplificado
Atribución de origen no fiable
Específico
Solidez
Alucinación
Específico
Privacidad
Exponer información personal
Amplificado
Riesgos no técnicos
Conformidad legal
Restricciones de derechos de uso del modelo
Tradicional
Responsabilidad legal
Amplificado
Gobernabilidad
Falta de transparencia del sistema
Tradicional
Pruebas de riesgo no representativas
Amplificado
Definición de uso incompleta
Específico
Falta de transparencia de datos
Amplificado
Pruebas de riesgo incorrectas
Amplificado
Falta de transparencia del modelo
Tradicional
Falta de diversidad en las pruebas
Amplificado
Impacto social
Impacto en la diversidad cultural
Específico
Impacto en la educación: plagio
Específico
Impacto en el empleo
Amplificado
Impacto en las comunidades afectadas
Tradicional
Impacto en el entorno
Amplificado
Explotación humana
Amplificado
Impacto en la agencia de usuario
Amplificado