Riesgo de sesgo de salida para IA
Descripción
El contenido generado puede representar de forma injusta a determinados grupos o individuos.
¿Por qué el sesgo de salida es una preocupación para los modelos de base?
El sesgo puede perjudicar a los usuarios de los modelos de IA y magnificar los comportamientos discriminatorios existentes. Las entidades empresariales podrían enfrentarse a daños reputacionales, interrupción de las operaciones y otras consecuencias.
Imágenes generadas sesgadas
Lensa AI es una aplicación móvil con características generativas que se entrenan en Stable Diffusion que puede generar "Avatares mágicos" basados en imágenes que los usuarios suben de sí mismos. Según el informe de la fuente, algunos usuarios descubrieron que los avatares generados son sexualizados y racializados.
Tema principal: Atlas de riesgo de IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos básicos. Muchos de estos eventos cubiertos por la prensa están todavía en evolución o se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y trabajar hacia las mitigaciones. El resaltado de estos ejemplos sólo tiene fines ilustrativos.