Watson Machine Learning のプランとコンピュート・リソースの使用

Watson Machine Learning のプラン

Watson Machine Learning プランは、 Watson Machine Learning を使用してトレーニングおよびデプロイしたモデル、および基盤モデルで使用するプロンプトに対する課金方法を制御します。 ニーズに合わせて、以下のプランを選択してください。

• ライトは、容量が制限された無料プランです。 Watson Machine Learning を評価する目的で、機能を試す場合は、このプランを選択します。 ライト・プランでは、 watsonxでのファウンデーション・モデル・チューニング・エクスペリメントの実行はサポートされていません。
• Essentials は従量課金 (PAYG) プランで、お客様のニーズに合わせてモデルを作成、デプロイ、および管理する柔軟性を提供します。
• 標準 は、組織のすべての機械学習ニーズをサポートするように設計された大容量エンタープライズ・プランです。 キャパシティー・ユニット時間は定額で提供されますが、リソース・ユニット使用量は従量課金です。

プランの詳細と料金設定については、『IBM Cloud Machine Learning』を参照してください。

キャパシティー・ユニット時間 (CUH)、トークン、およびリソース単位 (RU)

計量と請求の目的で、機械学習モデルとデプロイメントまたは基盤モデルは、以下の単位で測定されます。

• キャパシティー・ユニット時間 (CUH) は、使用量と請求の目的で、ユニット時間当たりの計算リソース使用量を測定します。 CUH は、基盤モデルの推論を除き、すべての Watson Machine Learning アクティビティーを測定します。

• リソース単位 (RU) は、基盤モデルの使用量を測定します。 推論は、プロンプトに応答して出力を生成するために基盤モデルを呼び出すプロセスです。 各 RU は 1,000 トークンに相当します。 トークンは、基盤モデル・プロンプトの入力または出力で使用されるテキストの基本単位 (通常は 4 文字または 0.75 ワード) です。 使用要件に対応するプランを選択します。

• レート制限 は、特定の Watson Machine Learning プラン・インスタンスのファウンデーション・モデルに対して処理される 1 秒当たりの推論要求の数をモニターし、制限します。 有料プランのレート制限は、無料ライト・プランのレート制限よりも高くなります。

CUH または RU 使用量の測定値は何ですか?

キャパシティー・ユニット時間 (CUH) またはリソース単位 (RU) で測定されたリソースは、ツールでの作業ではなく、実行中の資産に対して消費されます。 つまり、実験を定義するための消費料金は発生しません。AutoAI,ただし、実験パイプラインをトレーニングするための実験の実行には料金がかかります。 同様に、デプロイメント・スペースの作成またはデプロイメント・ジョブの定義には課金されませんが、デプロイメント・ジョブの実行またはデプロイ済み資産に対する推論には課金されます。 Jupyter ノートブック、RStudio 資産、Bash スクリプトなど、継続的に実行される資産は、アクティブになっている限りリソースを消費します。

モデル・クラス別のリソース単位の請求レート

ファウンデーション・モデルのリソース単位の請求レート

以下のモデルでは、入力トークンと出力トークンの請求レートは同じです。

組み込みモデルのリソース単位の請求レート

組み込みモデルは、センテンスをベクトルに変換して、類似したテキストをより正確に比較および取得します。

資産タイプ別の CUH 使用率

デプロイメントおよびフレームワーク・タイプによる CUH の使用量

CUH 使用量は、以下の数式を使用して計算されます：

例えば、15 分間実行される Decision Optimization バッチ・デプロイメント・ジョブについて考えてみます。 リソース消費量は次のように計算されます。15 分 = 0.25 時間、2 つのノード上、2 つの vCPU と 8 GB RAM。 この組み合わせの結果、CUH 率は 30 になるため、ジョブが実行されるたびに 0.25 * 2 * 30 (15 CUH に相当) が消費されます。

プロジェクトでの CUH または RU 使用量の追跡

プロジェクト内の CUH または RU 使用量をモニターするには、以下のようにします。

1. プロジェクトの 「管理」 タブにナビゲートします。

2. 「リソース」 をクリックして、プロジェクトまたはスペース内の資産のリソース使用量の要約を確認したり、特定の資産のリソース使用量の詳細を確認したりします。

   

アカウントの CUH 使用量の追跡

IBM Cloud アカウント所有者または管理者、あるいは Watson Machine Learning サービス所有者は、「環境ランタイム」ページでアカウントのランタイム使用量をトラッキングできます。 詳しくは、 リソースのモニターを参照してください。

ノートブックでの機械学習の CUH 使用量の追跡

ノートブックのキャパシティー・ユニット時間を計算するには、以下を使用します。

CP =  client.service_instance.get_details()
CUH = CUH["entity"]["usage"]["capacity_units"]["current"]/(3600*1000)
print(CUH)

次に例を示します。

'capacity_units': {'current': 19773430}

19773430/(3600*1000)

結果: 5.49 CUH

詳しくは、 IBM Watson Machine Learning API 資料の「サービス・インスタンス」セクションを参照してください。