Descripción
Una métrica seleccionada para medir o seguir un riesgo se selecciona incorrectamente, mide el riesgo de forma incompleta o mide el riesgo equivocado para el contexto dado.
¿Por qué las pruebas de riesgo incorrectas son un problema para los modelos de cimentación?
Si las métricas no miden el riesgo como se pretende, entonces la comprensión de ese riesgo será incorrecta y podrían no aplicarse las mitigaciones. Si el resultado del modelo tiene consecuencias, puede provocar daños sociales, de reputación o financieros.
Tema principal: Atlas de riesgo de la IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa siguen evolucionando o ya se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Resaltar estos ejemplos son sólo para fines ilustrativos.