Descripción
La falta de transparencia del modelo se debe a la insuficiente documentación del proceso de diseño, desarrollo y evaluación del modelo y a la ausencia de información sobre su funcionamiento interno.
¿Por qué la falta de transparencia de los modelos es una preocupación para los modelos de base?
La transparencia es importante para el cumplimiento legal, la ética de la IA y la guía del uso adecuado de los modelos. La falta de información puede dificultar la evaluación de riesgos, la modificación del modelo o su reutilización El conocimiento sobre quién construyó un modelo también puede ser un factor importante para decidir si confía en él. Además, la transparencia sobre cómo se determinaron, evaluaron y mitigaron los riesgos del modelo también desempeña un papel en la determinación de los riesgos del modelo, la identificación de la idoneidad del modelo y la regulación del uso del modelo.
Divulgación de metadatos de datos y modelos
OpenAI‘s es un ejemplo de la dicotomía en torno a la divulgación de datos y metadatos del modelo. Mientras que muchos desarrolladores de modelos ven valor en la habilitación de la transparencia para los consumidores, la divulgación plantea problemas de seguridad reales y podría aumentar la capacidad de hacer un mal uso de los modelos. En el informe técnico GPT-4, los autores afirman: "Dado tanto el panorama competitivo como las implicaciones de seguridad de los modelos a gran escala como GPT-4, este informe no contiene más detalles sobre la arquitectura (incluido el tamaño del modelo), el hardware, el cálculo de entrenamiento, la construcción del conjunto de datos, el método de entrenamiento o similares."
Tema principal: Atlas de riesgo de IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos básicos. Muchos de estos eventos cubiertos por la prensa están todavía en evolución o se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y trabajar hacia las mitigaciones. El resaltado de estos ejemplos sólo tiene fines ilustrativos.