Go back to the English version of the documentation用于模型训练和评分的计算选项
用于模型训练和评分的计算选项
Last updated: 2024年11月21日
在训练模型或函数或者对其评分时,选择与计算需求匹配的硬件配置的类型、大小和功率。
缺省硬件配置
在训练资产或部署资产时,为watsonx.aiRuntime 资产选择硬件配置。
容量类型 | 每小时容量单位 |
---|---|
超小型:1x4 = 1 个 vCPU 和 4 GB RAM | 0.5 |
小型:2x8 = 2 个 vCPU 和 8 GB RAM | 1 |
中型:4x16 = 4 个 vCPU 和 16 GB RAM | 2 |
大型: 8x32 = 8 个 vCPU 和 32 GB RAM | 4 |
超大型:16x64 = 16 个 vCPU 和 64 GB RAM | 8 |
watsonx.ai运行时资产的计算用量
部署和评分以容量单位小时(CUH)的形式消耗来自watsonx.aiRuntime 服务的计算资源。
要查看watsonx.ai运行时服务的每月总 CUH 消耗量,请从导航菜单中选择管理->环境运行时。
此外,您可以监视每个特定部署空间中的每月资源使用情况。 要执行此操作,请从部署空间转至 管理 选项卡,然后选择 资源使用情况。 摘要显示按部署类型使用的 CUH: 分别用于 AutoAI 部署, Federated Learning 部署,批处理部署和联机部署。
计算使用情况详细信息
使用 CUH 的速率由部署的计算需求决定。 它基于以下变量:
- 部署类型
- 框架类型
- 对扩展部署进行评分以支持更多并发用户和请求的复杂性也会增加 CUH 使用量。 由于许多变量会影响部署的资源消耗,因此建议您对模型和部署运行测试以分析 CUH 消耗。
联机部署使用容量单位的方式取决于框架。 对于某些框架,将对部署资产在部署空间中处于活动状态的小时数收取 CUH 费用。 例如,处于联机部署方式的 SPSS 模型每天运行 24 小时,每周运行 7 天,使用 CUH 并在该时间段收费。 活动联机部署没有空闲时间。 对于其他框架,将根据评分持续时间对 CUH 收费。 有关如何计算 CUH 使用情况的详细信息,请参阅 CUH 使用情况表。
计算时间为毫秒,每个不同操作的最小计算时间为 1 分钟。 例如:
- 需要 12 秒的训练运行将计费为 1 分钟
- 需要 83.555 秒的训练运行将按照计算结果进行计费
CUH 使用情况(按部署和框架类型)
CUH 消耗是使用以下公式计算的:
部署类型 | 框架 | CUH 计算 |
---|---|---|
联机 | AutoAI、AI 函数、SPSS、Scikit-Learn 定制库、Tensorflow、RShiny | 部署活动持续时间 * 容量类型框架的节点数 * CUH 速率 |
联机 | Spark、PMML、Scikit-Learn、Pytorch、XGBoost | 容量类型框架的评分持续时间 (以秒为单位) * 节点数 * CUH 速率 |
批处理 | 所有框架 | 容量类型框架的作业持续时间 (以秒计) * 节点数 * CUH 速率 |
了解更多信息
父主题: 管理预测性部署