0 / 0
Volver a la versión inglesa de la documentación
Riesgo de sesgo de decisión para IA

Riesgo de sesgo de decisión para IA

Riesgos asociados a la producción
Imparcialidad
Riesgo de IA tradicional

Descripción

Cuando un grupo es injustamente aventajado sobre otro debido a las decisiones del modelo.

¿Por qué el sesgo de decisión es una preocupación para los modelos de fundación?

El sesgo puede perjudicar a las personas afectadas por las decisiones del modelo. Las entidades de negocios podrían enfrentarse a multas, daños a la reputación, interrupción de las operaciones y otras consecuencias legales.

Imagen de fondo para riesgos asociados con la entrada
Ejemplo

Grupos desfavorecidos

El estudio 2018 Gender Shades demostró que los algoritmos de aprendizaje automático pueden discriminar en función de clases como raza y género. Los investigadores evaluaron sistemas comerciales de clasificación de género que son vendidos por empresas como Microsoft, IBMy Amazon y mostraron que las mujeres de piel más oscura son el grupo más mal clasificado (con tasas de error de hasta el 35%). En comparación, los índices de error para los de piel más ligera no superaron el 1%.

Tema principal: Atlas de riesgo de IA

Búsqueda y respuesta de IA generativa
Estas respuestas las genera un modelo de lenguaje grande en watsonx.ai que se basa en el contenido de la documentación del producto. Más información