为了推动负责任，透明且可解释的 AI 工作流程，您的企业需要一个用于跟踪，监控和重新训练 AI 模型的集成系统。 Cloud Pak for Data as a Service 提供了各种流程和技术，使您的企业能够在生产环境中监视，维护，自动化和管理机器学习和 AI 模型。
观看此视频，了解实施 AI 监管解决方案的用例。
此视频提供了一种可视方法来学习本文档中的概念和任务。
挑戰
您可以通过实施 AI 监管用例来解决企业面临的以下挑战:
- 确保模型监管和合规性
- 组织需要跟踪并记录模型的详细历史记录，以确保合规性并向所有项目干系人提供可视性。
- 管理风险并确保负责任的 AI
- 组织需要在生产中监控模型，以确保模型有效且准确，并且不会引入偏差或偏离预期目标。
- 操作模型生命周期
- 组织需要实施可重复的流程，以高效地将模型重新训练和部署到生产环境中。
示例: Golden Bank 的挑战
在实施 AI 治理流程时，请关注 Golden Bank 的案例，以确保其新的在线应用流程合规且可解释。 Golden Bank 的业务分析师需要审查模型信息，以确保合规性，认证从开发到生产的模型进度，并生成报告以共享或归档。
进程
要为您的企业实施 AI 治理，您的组织可以遵循以下流程:
Cloud Pak for Data as a Service中的 "watsonx.aiStudio、"watsonx.aiRuntime、"Watson OpenScale和 "IBM Knowledge Catalog"服务提供了贵组织实施人工智能治理解决方案所需的工具和流程。
1. 跟踪模型
您的团队可以跟踪从请求到生产的机器学习模型，并评估这些模型是否符合贵组织的法规和要求。
| 您可以使用的内容 | 可以执行的操作 | 最佳使用时间 |
|---|---|---|
| 概况介绍 | 在IBM Knowledge Catalog 目录中的模型库存中，为一个新模型创建一个用例。 ' 查看所有已注册资产的生命周期状态，并深入查看已注册到模型用例的模型或部署的详细概况介绍。 查看一般模型详细信息、训练信息和指标以及输入和输出模式。 查看一般部署详情、评估详情、质量指标、公平性详情和漂移详情。 |
您需要向数据科学团队请求新模型。 您要确保模型符合要求并按预期执行。 您要根据跟踪数据确定是否需要更新模型。 您要对模型运行报告以共享或保留详细信息。 |
示例: Golden Bank 的模型跟踪
黄金银行的业务分析师要求建立 "抵押贷款审批模型"。 然后，随着数据科学家构建和训练模型以及 ModelOps 工程师部署和评估模型，他们可以在 AI 生命周期的所有阶段跟踪模型。 Factsheets 记录有关模型历史记录的详细信息，并生成显示其性能的度量。
2. 监视已部署的模型
部署模型后，必须对其进行监管和监视，以确保它们是可解释的和透明的。 数据科学家必须能够解释模型如何得出某些预测，以便他们可以确定这些预测是否具有任何隐式或显式偏差。 此外，最好监测模型生命周期中的模型性能和数据一致性问题。
| 您可以使用的内容 | 可以执行的操作 | 最佳使用时间 |
|---|---|---|
| Watson OpenScale | 监视跨多个功能部件的模型公平性问题。 随时间推移监视模型性能和数据一致性。 说明模型如何使用加权因子得出某些预测。 维护和报告整个组织中的模型监管和生命周期。 |
您具有受保护的功能或可能有助于预测公平性的功能。 您希望跟踪一段时间内的模型性能和数据一致性。 您希望了解模型提供特定预测的原因。 |
示例: Golden Bank 的模型监控
金银的数据研究员使用 Watson OpenScale 来监视已部署的 "抵押贷款审批模型" ，以确保其准确，并公平对待所有金银抵押贷款申请人。 他们运行笔记本以设置模型的监视器，然后使用 Watson OpenScale 用户界面调整配置。 通过使用 Watson OpenScale 质量监视器和公平性监视器中的度量，数据研究员可确定模型预测结果的方式以及是否产生任何有偏差的结果。 他们还会获得有关模型如何制定决策的洞察，以便可以向抵押贷款申请人解释这些决策。
3. 自动执行 AI 生命周期
您的团队可以使用 Orchestration Pipeline 自动执行和简化 MLOps 和 AI 生命周期。
| 您可以使用的内容 | 可以执行的操作 | 最佳使用时间 |
|---|---|---|
| 编排管道 | 使用管道来创建可重复的调度流，以自动执行机器学习管道，从数据采集到模型训练，测试和部署。 | 您希望自动执行 MLOps 流程中的部分或全部步骤。 |
示例: Golden Bank 的自动化 ML 生命周期
金银的数据科学家可以使用管道来自动执行其完整的 AI 治理生命周期和流程，以简化模型再培训流程。
AI 治理教程
| 教程 | 描述 | 教程的专业知识 |
|---|---|---|
| 构建和部署模型教程 | 训练模型，将其提升到部署空间，然后部署模型。 | 运行 Notebook。 |
| 测试和验证模型教程 | 评估模型的准确性，公平性和可解释性。 | 运行 Notebook ，并在用户界面中查看结果。 |
了解更多信息
父主题: 用例