0 / 0
Volver a la versión inglesa de la documentación
Riesgo de sesgo de datos para IA

Riesgo de sesgo de datos para IA

Riesgos asociados con la entrada
Fase de entrenamiento y ajuste
Imparcialidad
Amplificado por IA generativa

Descripción

Los sesgos históricos, representativos y sociales presentes en los datos utilizados para entrenar y afinar el modelo pueden afectar negativamente al comportamiento del modelo.

¿Por qué el sesgo de datos es una preocupación para los modelos de base?

El entrenamiento de un sistema de IA sobre datos con sesgo, como el sesgo histórico o representacional, podría conducir a resultados sesgados o sesgados que pueden representar injustamente o discriminar de otro modo a ciertos grupos o individuos. Además de los impactos sociales negativos, las entidades empresariales podrían enfrentarse a consecuencias legales o daños reputacionales derivados de resultados de modelos sesgados.

Imagen de fondo para riesgos asociados con la entrada
Ejemplo

Sesgo de asistencia sanitaria

Según el artículo de investigación sobre el refuerzo de las disparidades en la medicina mediante el uso de datos y aplicaciones de IA para transformar la forma en que las personas reciben asistencia sanitaria es sólo tan fuerte como los datos detrás del esfuerzo. Por ejemplo, el uso de datos de entrenamiento con escasa representación minoritaria o que reflejen lo que ya es una atención desigual puede conducir a un aumento de las desigualdades en salud.

Tema principal: Atlas de riesgo de IA

Búsqueda y respuesta de IA generativa
Estas respuestas las genera un modelo de lenguaje grande en watsonx.ai que se basa en el contenido de la documentación del producto. Más información