Riesgo de generación de código dañino para IA
Descripción
Los modelos pueden generar código que cause daño o afecte involuntariamente a otros sistemas.
¿Por qué la generación de código dañino es una preocupación para los modelos de base?
La ejecución de código dañino podría abrir vulnerabilidades en los sistemas de TI.
Generación de código menos seguro
Según su artículo, los investigadores de la Universidad de Stanford investigaron el impacto de las herramientas de generación de código en la calidad del código y encontraron que los programadores tienden a incluir más errores en su código final cuando utilizan asistentes de IA. Estos errores podrían aumentar las vulnerabilidades de seguridad del código, pero los programadores creían que su código era más seguro.
Tema principal: Atlas de riesgo de IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos básicos. Muchos de estos eventos cubiertos por la prensa están todavía en evolución o se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y trabajar hacia las mitigaciones. El resaltado de estos ejemplos sólo tiene fines ilustrativos.