在部署空间中部署和管理资产

创建部署空间以与项目干系人协作，并部署和管理 AI 资产。 要管理部署空间中的资产，必须将资产从项目提升到部署空间。 您还可以从部署空间导入或导出资产。 有关更多信息，请参阅部署空间。

下图显示了用于部署 AI 资产的典型活动:

部署资产的方法

您可以通过以下方式部署和管理资产:

• 使用无代码方法: 可以使用无代码方法在部署空间中部署和管理资产。 有关更多信息，请参阅 在部署空间中部署和管理资产

• 使用定制代码方法 您可以使用定制代码方法通过以下方法以编程方式部署和管理资产:

  • Python 客户机

  • Watson Machine Learning API

  有关其他 Cloud Pak for Data as a Service API ，请参阅 Cloud Pak for Data API。

部署类型

根据您组织的需要，您可以创建联机部署或批处理部署:

• 联机部署: 创建联机部署以实时处理输入数据。 要实时测试联机部署，您可以向部署端点提交新的客户数据以获取实时预测。 您可以通过在表单中或通过 JSON 代码输入测试数据来测试联机部署。 有关更多信息，请参阅 在 Watson Machine Learning中创建联机部署。

• 批处理部署: 创建批处理部署以处理来自数据源的大量输入数据，并将输出写入所选目标。 要测试批处理部署，必须创建批处理部署作业。 您可以通过提供有关输入数据，输出文件的详细信息以及有关按调度或按需运行作业的信息来配置批处理部署作业。 有关更多信息，请参阅 在 Watson Machine Learning中创建批处理部署。

• 应用程序部署: 创建应用程序部署以部署应用程序资产，例如 R Shiny 应用程序。 有关更多信息，请参阅 在 Watson Machine Learning中部署 Shiny 应用程序。

正在检索部署端点

要在应用程序中使用已部署的资产进行预测，请检索在线或批量部署的端点 URL。 模型端点提供对接口的访问，以调用和管理模型部署。

有关更多信息，请参阅 检索联机部署的端点 或 检索批处理部署的端点。

可部署资产的类型

您只能使用某些资产来创建联机或批处理部署。 例如，联机和批处理部署都支持部署资产，例如 Python 函数，脚本和模型 (例如 AutoAI 或 Decision Optimization 模型)。 但是，只能为从文件导入的模型创建联机部署。 不同类型的可部署资产如下所示:

• 基础模型资产: 您可以使用 watsonx.ai来部署基础模型资产，例如已调整的模型或提示模板资产。 有关更多信息，请参阅 部署基础模型资产。
• Machine Learning 资产: 您可以使用 Watson Machine Learning部署机器学习 Machine Learning 资产，例如 Python 函数， R Shiny 应用程序， NLP 模型和脚本等。 有关更多信息，请参阅 部署 Machine Learning 资产。
• Decision Optimization 模型: 您可以使用 Watson Machine Learning部署 Decision Optimization 模型。

管理部署

您可以在部署空间中访问，更新，缩放，删除和监视部署的性能:

• 访问部署: 您可以访问与部署相关的详细信息，例如描述部署空间是用于预生产还是用于生产目的的阶段类型。
• 更新部署: 您可以更新部署详细信息，例如部署名称，软件规范等。 有关更多信息，请参阅 更新部署。
• 缩放部署: 您可以创建部署的多个副本，以提高更大数量的评分请求的可伸缩性和可用性。 有关更多信息，请参阅 缩放部署。
• 删除部署: 当不再需要部署来释放资源时，请将其删除。 有关更多信息，请参阅 删除部署。
• 监视部署性能: 您可以通过供应 Watson OpenScale 实例并配置用于公平性，质量，漂移和可解释性的监视器，评估部署以度量性能并了解模型预测。

监视部署活动

使用部署仪表板可获取部署的汇总视图并监视部署活动。 您可以使用仪表板来监视批处理部署作业的状态，例如，基于创建作业时定义的作业调度的活动运行和已完成运行。 您还可以获取有关成功和失败的联机部署数的信息。 有关更多信息，请参阅 "部署" 仪表板。

管理部署的运行时环境

运行时环境提供了运行部署所需的必要功能。

您可以使用预定义的运行时环境或创建定制运行时环境以包含更多组件，具体取决于您的用例。 要为部署创建自定义运行时环境，必须创建Dockerfile并添加基本映像。 此外，您可以添加 docker 命令以构建用于部署的运行时环境。 更多信息，请参阅定制Watson Machine Learning部署运行时。

管理部署的框架和软件规范

软件规范和框架包含具有相应版本的软件包的捆绑软件。

根据您的用例，您可以使用预定义的软件规范或创建定制软件规范。 例如，您可以向现有框架添加新软件包，创建新软件包或替换软件规范中的软件包版本。

在废弃后，必须将模型的软件规范更新为最新版本，以确保持续服务。 不推荐使用框架时，将在将来的发行版中除去对此框架的支持。

有关更多信息，请参阅 Watson Machine Learning中的框架和软件规范。

了解更多信息

部署空间

父主题: 部署和管理 AI 资产