Falta de riesgo de transparencia de datos para IA
Descripción
La falta de transparencia de los datos se debe a una documentación insuficiente de los detalles de los conjuntos de datos de entrenamiento o ajuste
¿Por qué la falta de transparencia de los datos es una preocupación para los modelos de base?
La transparencia es importante para el cumplimiento legal y la ética de la IA. La información sobre la recogida y preparación de los datos de entrenamiento, incluida la forma en que se etiquetaron y quién los etiquetó, es necesaria para comprender el comportamiento y la idoneidad del modelo. Los detalles sobre cómo se determinaron, midieron y mitigaron los riesgos de los datos son importantes para evaluar la fiabilidad tanto de los datos como de los modelos. La falta de detalles sobre los datos puede dificultar la evaluación de los daños de representación, la propiedad de los datos, la procedencia y otros riesgos relacionados con los datos. La falta de requisitos normalizados podría limitar la divulgación, ya que las organizaciones protegen los secretos comerciales e intentan impedir que otros copien sus modelos.
Tema principal: Atlas de riesgo de IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa siguen evolucionando o ya se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Resaltar estos ejemplos son sólo para fines ilustrativos.