Riesgo de sesgo de los datos para la IA
Descripción
Los sesgos históricos y sociales presentes en los datos se utilizan para entrenar y afinar el modelo.
¿Por qué preocupa el sesgo de los datos en los modelos de fundación?
Entrenar un sistema de IA con datos sesgados, como los históricos o los sociales, puede dar lugar a resultados sesgados o sesgados que pueden representar injustamente o discriminar de otro modo a determinados grupos o individuos.
Sesgo sanitario
Según el artículo de investigación sobre el refuerzo de las disparidades en medicina, el uso de datos y aplicaciones de IA para transformar el modo en que las personas reciben atención sanitaria solo es tan sólido como los datos que respaldan el esfuerzo. Por ejemplo, utilizar datos de formación con escasa representación de las minorías o que reflejen lo que ya es una atención desigual puede conducir a un aumento de las desigualdades sanitarias.
Tema principal: Atlas de riesgo de la IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa siguen evolucionando o ya se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Resaltar estos ejemplos son sólo para fines ilustrativos.