Go back to the English version of the documentation在watsonx.aiRuntime 中部署Python函数
在watsonx.aiRuntime 中部署Python函数
Last updated: 2024年11月21日
您可以在watsonx.aiRuntime 中部署Python函数,就像部署模型一样。 工具和应用程序可以使用 watsonx.ai Python 客户机或 REST API 将数据发送到已部署的函数,其方式与将数据发送到已部署的模型的方式相同。 部署 Python 函数使您能够隐藏详细信息 (例如凭证)。 您还可以在将数据传递到模型之前对其进行预处理。 此外,您可以处理错误并包括对多个模型的调用,所有调用都在已部署的函数中,而不是在应用程序中。
用于创建和部署 Python 函数的样本 Notebook
有关如何使用 watsonx.ai Python 客户机库创建和部署 Python 函数的示例,请参阅以下样本 Notebook:
样本名称 | 框架 | 演示的方法 |
---|---|---|
预测汽车业务 | Hybrid(Tensorflow) | 设置 AI 定义 准备数据 使用 Tensorflow创建 Keras 模型 部署和评分模型 定义,存储和部署 Python 函数 |
针对软件规范部署 Python 函数 | 核心 | 创建 Python 函数 创建 Web Service 对模型评分 |
Notebook 展示创建和部署函数的 6 个步骤:
- 定义函数。
- 认证并定义空间。
- 将函数存储在存储库中
- 获取软件规范。
- 部署已存储的函数。
- 将数据发送给函数以进行处理。
有关使用watsonx.ai Python客户端库的其他笔记本示例链接,请参阅在笔记本中使用watsonx.aiRuntime。
增加函数的可扩展性
从部署空间或者以编程方式部署函数时,缺省情况下会部署函数的单个副本。 要增加可扩展性,可以通过编辑部署配置来增加副本数量。 更多副本允许更大数量的评分请求。
以下示例使用 Python 客户机 API 将副本数量设置为 3。
change_meta = {
client.deployments.ConfigurationMetaNames.HARDWARE_SPEC: {
"name":"S",
"num_nodes":3}
}
client.deployments.update(<deployment_id>, change_meta)
了解更多信息
- 要了解有关定义可部署 Python 函数的更多信息,请参阅 编写和存储可部署 Python 函数中的 可部署函数的一般要求 部分。
- 您可以通过用户界面从部署空间部署函数。 有关更多信息,请参阅部署空间。
父主题: 管理预测性部署