0 / 0
Volver a la versión inglesa de la documentación
Datos confidenciales en riesgo inmediato para IA

Datos confidenciales en riesgo inmediato para IA

Riesgos asociados con la entrada
Inferencia
Propiedad intelectual
Novedad en la IA generativa

Descripción

Inclusión de datos confidenciales como parte de la solicitud enviada al modelo.

¿Por qué los datos confidenciales son motivo de preocupación para los modelos de base?

Si no se desarrolla correctamente para proteger los datos confidenciales, el modelo puede revelar información confidencial o IP en la salida generada. Además, la información confidencial de los usuarios finales podría recopilarse y almacenarse involuntariamente.

Imagen de fondo para riesgos asociados con la entrada
Ejemplo

Divulgación de información confidencial

Según el artículo de la fuente, los empleados de Samsung revelaron información confidencial a OpenAI a través de su uso de ChatGPT. En un caso, un empleado ha pegado el código fuente confidencial para comprobar si hay errores. En otro, un empleado compartió código con ChatGPT y "solicitó optimización de código". Un tercero compartió una grabación de una reunión para convertirla en notas para una presentación. Samsung tiene un uso interno limitado de ChatGPT en respuesta a estas incidencias, pero es poco probable que puedan recuperar alguno de sus datos. Adicionalmente, el artículo destacó que en respuesta al riesgo de filtrar información confidencial y otra información sensible, empresas como Apple, JPMorgan Chase. Deutsche Bank, Verizon, Walmart, Samsung, Amazon y Accenture han impuesto varias restricciones al uso de ChatGPT.

Tema principal: Atlas de riesgo de IA

Búsqueda y respuesta de IA generativa
Estas respuestas las genera un modelo de lenguaje grande en watsonx.ai que se basa en el contenido de la documentación del producto. Más información