Desarrollar una solución de gobierno integral

Utilizando watsonx.governance, puede ampliar las mejores prácticas de gobierno de IA desde modelos de machine learning predictivos a IA generativa, al tiempo que supervisa y mitiga los riesgos asociados a modelos, usuarios y conjuntos de datos. Las ventajas de este enfoque incluyen:

• IA responsable: extienda las prácticas de IA responsable desde el gobierno de modelos predictivos de machine learning hasta el uso de IA generativa con cualquier base o proveedor de modelos.
• Explicabilidad: Utilice la automatización para mejorar la transparencia y explicabilidad de los modelos rastreados. Utilice herramientas para detectar y mitigar los riesgos asociados a la IA.
• Políticas transparentes y regulatorias: mitigue los riesgos de IA mediante el seguimiento del ciclo de vida de IA de extremo a extremo para ayudar al cumplimiento de las políticas internas y las regulaciones externas para las soluciones de IA de toda la empresa.

Utilizar el atlas de riesgo de IA como guía

Comience su viaje de gobernanza revisando el Atlas de riesgos de la IA para conocer los riesgos potenciales de trabajar con modelos de IA. El atlas de riesgos de la IA ofrece una guía para comprender algunos de los riesgos de trabajar con modelos de IA, incluida la IA generativa, los modelos fundacionales y los modelos de aprendizaje automático. Además de describir los riesgos potenciales, proporciona un contexto real. Está pensado como un recurso educativo y no está pensado como una herramienta prescriptiva.

Componentes de watsonx.governance

Watsonx.governance incluye estas herramientas para abordar las necesidades de gobierno en una solución integrada:

• Watson OpenScale proporciona herramientas para configurar supervisores que evalúan los activos desplegados en los umbrales que especifique. Por ejemplo, puede configurar un umbral que le avise cuando los modelos de aprendizaje automático predictivo rindan por debajo de un umbral especificado para la equidad en los resultados supervisados, o se desvíen de la precisión. Las alertas para los modelos de fundación pueden avisarle cuando se incumple un umbral por la presencia de un lenguaje odioso o abusivo o la detección de información identificable personal. Un supervisor de estado del modelo proporciona un seguimiento del rendimiento en tiempo real para los modelos desplegados.
• AI Factsheets recopila los metadatos para modelos de aprendizaje automático y plantillas de solicitud de las que realiza un seguimiento explícito. Desarrolle casos de uso de IA para recopilar toda la información para gestionar un modelo o plantilla de solicitud desde la fase de solicitud hasta el desarrollo y en producción. Gestionar varias versiones o un modelo, o comparar diferentes enfoques para resolver un problema de negocio dentro de un caso de uso. Las hojas de datos muestran información sobre los modelos, incluida la información de creación, los datos que se utilizan y dónde está el activo en el ciclo de vida. Un panel de control de inventario de modelo común le proporciona una vista de todos los activos rastreados, o puede ver los detalles de un modelo determinado, todo en servicio de cumplir los objetivos de conformidad y política.

Gobernanza en acción

Esta ilustración muestra un flujo de gobernanza típico, que comienza con la definición de un caso de uso de IA para resolver un problema empresarial y la solicitud de un activo de IA, como un modelo o una plantilla de instrucciones, para resolver el problema. La figura muestra los diversos roles que pueden estar implicados en el flujo, empezando por un propietario de modelo que define el problema y, a continuación, pasando del desarrollador que crea el activo a un validador que lo prueba. En el siguiente paso, un responsable de riesgos podría revisar y aprobar la solución, entregarla a un ingeniero de operaciones de ML para que la despliegue y, a continuación, entregarla a un desarrollador de aplicaciones que pueda supervisar el activo en producción. Su enfoque puede combinar algunos de estos roles.

Amplíe la gobernanza con la consola de gobernanza

Opcionalmente, realice la integración con IBM OpenPages Model Risk Governance para gestionar las tareas y la actividad de gobierno desde un panel de control común. También puede utilizar OpenPages para desarrollar flujos de trabajo que den soporte a los procesos de gobierno.

Utilice un cuestionario de evaluación de riesgos para evaluar el riesgo potencial de su solución de IA y asignar una puntuación de riesgo.

Para más información, ver Gestión del riesgo y el cumplimiento con la consola de gobernanza.

Ampliar la gobernanza con watsonx.ai

Para crear una experiencia completa para desarrollar activos y, a continuación, añadirlos al gobierno, utilice watsonx.ai con watsonx.governance. Watsonx.ai amplía los servicios watsonx.ai Studio y watsonx.ai Runtime para trabajar con modelos de base, incluidas las capacidades para guardar plantillas de aviso para una colección curada de grandes activos de modelos lingüísticos.

Para obtener más información sobre watsonx.ai, consulte:

• Visión general de IBM watsonx as a Service
• Darse de alta en IBM watsonx as a Service

Próximos pasos

• Planifique su estrategia de gobernanza
• Siga los pasos en IBM watsonx.governance que ofrece opciones de plan para aprovisionar Watson OpenScale con AI Factsheets.