Pruebas de riesgo no representativas para la IA
Descripción
Las pruebas no son representativas cuando las entradas de las pruebas no coinciden con las entradas que se esperan durante el despliegue.
¿Por qué las pruebas de riesgo no representativas son un problema para los modelos de fundaciones?
Si el modelo se evalúa en un uso, contexto o entorno que no es el mismo que el previsto para su despliegue, las evaluaciones podrían no reflejar con exactitud los riesgos del modelo.
Tema principal: Atlas de riesgo de la IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa siguen evolucionando o ya se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Resaltar estos ejemplos son sólo para fines ilustrativos.