0 / 0
Volver a la versión inglesa de la documentación
Riesgo de sesgo de salida para IA

Riesgo de sesgo de salida para IA

Riesgos asociados a la producción
Imparcialidad
Novedad en la IA generativa

Descripción

El contenido generado puede representar de forma injusta a determinados grupos o individuos.

¿Por qué el sesgo de salida es una preocupación para los modelos de base?

El sesgo puede perjudicar a los usuarios de los modelos de IA y magnificar los comportamientos discriminatorios existentes. Las entidades empresariales podrían enfrentarse a daños reputacionales, interrupción de las operaciones y otras consecuencias.

Imagen de fondo para riesgos asociados con la entrada
Ejemplo

Imágenes generadas sesgadas

Lensa AI es una aplicación móvil con características generativas que se entrenan en Stable Diffusion que puede generar "Avatares mágicos" basados en imágenes que los usuarios suben de sí mismos. Según el informe de la fuente, algunos usuarios descubrieron que los avatares generados son sexualizados y racializados.

Tema principal: Atlas de riesgo de IA

Búsqueda y respuesta de IA generativa
Estas respuestas las genera un modelo de lenguaje grande en watsonx.ai que se basa en el contenido de la documentación del producto. Más información