0 / 0
Volver a la versión inglesa de la documentación
Riesgo de tratamiento inadecuado de datos para la IA

Riesgo de tratamiento inadecuado de datos para la IA

Alineación Icono que representa los riesgos de alineación.
Riesgos asociados con la entrada
Fase de entrenamiento y ajuste
Alineación de valores
Amplificado por IA generativa

Descripción

La recogida y preparación inadecuadas de los datos de formación o ajuste incluye errores en la etiqueta de los datos y el uso de datos con información contradictoria o errónea.

¿Por qué la conservación inadecuada de los datos preocupa a los modelos de fundación?

La ordenación de datos incorrecta puede afectar negativamente a la forma en que se entrena un modelo, lo que da como resultado un modelo que no se comporta de acuerdo con los valores previstos. La corrección de problemas después de entrenar y desplegar el modelo puede ser insuficiente para garantizar un comportamiento adecuado.

Tema principal: Atlas de riesgo de IA

Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa siguen evolucionando o ya se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Resaltar estos ejemplos son sólo para fines ilustrativos.

Búsqueda y respuesta de IA generativa
Estas respuestas las genera un modelo de lenguaje grande en watsonx.ai que se basa en el contenido de la documentación del producto. Más información