0 / 0
Volver a la versión inglesa de la documentación

Riesgo de salida perjudicial para la IA

Última actualización: 06 feb 2025
Riesgo de salida perjudicial para la IA
Alineación de valores
Riesgos de salida
Nuevo en IA generativa

Descripción

Un modelo puede generar un lenguaje que provoque daños físicos El lenguaje puede incluir afirmaciones abiertamente violentas, encubiertamente peligrosas o indirectamente inseguras.

¿Por qué preocupa la producción nociva en los modelos de fundación?

Un modelo que genere resultados perjudiciales puede causar daños físicos inmediatos o crear prejuicios que podrían provocar daños futuros.

Tema principal: Atlas de riesgo de la IA

Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa aún están evolucionando o se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Resaltar estos ejemplos son sólo para fines ilustrativos.