Volver a la versión inglesa de la documentación
Atlas de riesgo de IA
Atlas de riesgo de IA
Explore este atlas para comprender algunos de los riesgos de trabajar con IA generativa, modelos de base y modelos de aprendizaje automático.
Los riesgos se clasifican con una de estas etiquetas:
- Riesgos de IA tradicional (se aplica a los modelos tradicionales, así como a la IA generativa)
- Riesgos amplificados por IA generativa (podrían aplicarse también a los modelos tradicionales)
- Nuevos riesgos asociados específicamente a la IA generativa
Riesgos asociados con la entrada
Fase de entrenamiento y ajuste
Solidez
Envenenamiento de datos
Tradicional
Propiedad intelectual
Información confidencial en datos
Amplificado
Restricciones de derechos de uso de datos
Amplificado
Transparencia
Procedencia incierta de los datos
Amplificado
Leyes de datos
Restricciones de uso de datos
Tradicional
Restricciones en la adquisición de datos
Amplificado
Restricciones a la transferencia de datos
Tradicional
Equidad
Sesgo de datos
Amplificado
Fase de inferencia
Privacidad
Información personal en la solicitud
Específico
Ataque de inferencia de atributos
Amplificado
Ataque de inferencia de pertenencia
Amplificado
Solidez
Solicitar fugas
Específico
Ataque de inyección de código
Específico
Ataque de extracción
Amplificado
Ataque de evasión
Amplificado
Propiedad intelectual
Información de IP en solicitud
Específico
Datos confidenciales en solicitud
Específico
Precisión
Poca precisión del modelo
Amplificado
Riesgos asociados a la producción
Alineación de valores
Salida tóxica
Específico
Salida perjudicial
Específico
Consejo incompleto
Específico
Exceso o falta de confianza
Amplificado
Explicabilidad
Atribución de origen no fiable
Específico
Salida inexplicable
Amplificado
Datos de entrenamiento inaccesibles
Amplificado
Atribución no rastreable
Amplificado
Privacidad
Exponer información personal
Amplificado
Uso incorrecto
Uso no consensual
Amplificado
No divulgación
Específico
Uso incorrecto
Amplificado
Uso peligroso
Específico
Dispersión de desinformación
Específico
Toxicidad de dispersión
Específico
Solidez
Alucinación
Específico
Propiedad intelectual
Revelación de información confidencial
Amplificado
Infracción de copyright
Específico
Generación de código dañino
Generación de código dañino
Específico
Riesgos no técnicos
Gobernabilidad
Falta de transparencia del modelo
Tradicional
Falta de diversidad en las pruebas
Amplificado
Falta de transparencia del sistema
Tradicional
Pruebas de riesgo no representativas
Amplificado
Definición de uso incompleta
Específico
Falta de transparencia de datos
Amplificado
Pruebas de riesgo incorrectas
Amplificado
Impacto social
Impacto en la agencia de usuario
Amplificado
Impacto en la diversidad cultural
Específico
Impacto en la educación: plagio
Específico
Impacto en el empleo
Amplificado
Explotación humana
Amplificado
Impacto en las comunidades afectadas
Tradicional
Impacto en el entorno
Amplificado
Conformidad legal
Responsabilidad legal
Amplificado
Restricciones de derechos de uso del modelo
Tradicional