创建批处理部署以处理来自存储区中的文件,数据连接或已连接数据的输入数据,并将输出写入所选目标。
创建批量部署
与将数据直接提交到端点 URL 以进行实时评分或处理的联机部署不同,批处理部署提供了对评分过程的更多控制。 遵循以下顺序来创建批处理部署作业:
- 在部署空间中组织资源。 您可以提升或添加可部署资产,并 (可选) 添加数据文件或数据连接以对部署进行评分。
- 部署资产 (例如机器学习模型) 时,选择 "批处理" 作为部署类型。
- 创建并配置批处理部署作业。 必须指定用于部署的输入数据,用于写入输出的位置,用于按调度或按需运行作业的详细信息。 您还可以配置可选设置,例如硬件配置详细信息或通知选项。
- 运行作业会将输入数据提交到部署端点,并将输出写入输出文件。 在作业成功完成后,您可以从空间的 "资产" 页面查看或下载输出。
批处理部署的可部署资产类型
您可以为以下类型的资产创建批处理部署:
- 函数
- 模型
- AutoAI 模型
- Decision Optimization 模型
- PMML 模型
- PyTorch-Onnx
- Scikit-learn 模型
- Spark MLlib
- SPSS Modeler 模型
- Tensorflow 模型
- XGBoost 模型
- 脚本
您不能在 Cloud Pak for Data as a Service 上部署 R Shiny 应用程序资产。
创建批处理部署的方法
您可以通过下列其中一种方式创建批处理部署:
- 使用无代码方法 从部署空间创建批处理部署。
- 使用代码 在 Notebook 中以编程方式创建批处理部署。
从用户界面创建批量部署
遵循以下步骤来创建和测试批处理部署。
准备工作
您必须通过生成 API 密钥来设置任务凭证。 有关更多信息,请参阅管理任务凭证。
创建批量部署
执行以下步骤以从部署空间创建批处理部署:
测试批量部署
要从部署空间测试批处理部署,必须创建批处理作业以提交数据进行处理。
- 单击 新建作业 以创建部署资产的批处理作业。
- 遵循提示来定义作业,指定输入数据以及运行作业的详细信息。
- 手动或按指定的调度保存并运行作业。
要了解有关创建,运行和管理作业的更多信息,请参阅 在部署空间中创建作业。
检索批处理部署的端点
您必须检索端点 URL 以从应用程序访问批处理部署。 执行以下步骤以获取批处理部署的端点 URL:
- 在部署空间中,单击批处理部署的名称。
- 在部署详细信息页面中,单击批处理作业的名称。
如果您没有用于批处理部署的现有批处理作业,那么必须创建一个批处理作业。 有关更多信息,请参阅 在部署空间中创建作业。
- 从批处理作业详细信息页面,您可以访问批处理部署的端点 URL。 单击复制 图标,将端点 URL 复制到剪贴板。
访问批处理部署详细信息
您可查看配置详细信息,例如软硬件规范。 此外,还可以从端点获取可以用于 API 调用的部署标识。
执行以下步骤以查看或更新批处理部署的详细信息:
- 从空间的 部署 选项卡中,单击部署名称。
- 单击 部署详细信息 选项卡以访问与批处理部署相关的信息。
使用 Notebook 以编程方式创建批处理部署
您可以使用以下命令以编程方式创建批处理部署:
要访问演示如何使用watsonx.aiRuntimePython客户端创建和管理部署的示例笔记本,请参阅watsonx.aiRuntimePython客户端示例。
以编程方式测试批处理部署
要以编程方式测试批处理部署,必须创建并运行批处理作业。 批处理评分成功运行后,会将结果写入文件。
以编程方式检索批处理部署的端点
要从 Notebook 中检索批处理部署的端点 URL ,请执行以下操作:
- 通过调用 Python 客户机方法
client.deployments.list()
来列出部署。 - 查找包含您的部署的行。 部署端点 URL 列示在
url
列中。
了解更多信息
- 要了解有关通过创建批处理作业来测试批处理部署的更多信息,请参阅 在部署空间中创建作业。
- 要访问批处理部署的样本 Notebook ,请参阅:
父主题: 管理预测性部署