Foundation model deployment methods in watsonx.ai
You can choose from a collection of third-party and IBM foundation models to inference in IBM watsonx.ai. 生成型AIアプリケーションのニーズと予算に最適な基盤モデルをお選びください。
You can host foundation models in watsonx.ai in various ways.
If you want to deploy foundation models in your own data center, you can purchase watsonx.ai software. 詳細については、 IBM、 watsonx.ai、 IBM、 watsonx.governance ソフトウェアの概要をご覧ください。
Based on how foundation models are hosted in watsonx.ai, they are categorized as:
デプロイメント方法の比較
お客様のユースケースに最適なデプロイメントを選択する一助として、比較表をご確認ください。
| デプロイメント・タイプ | 使用可能開始 | デプロイメント | ホスティング環境 | 請求方法 | 廃止方針 |
|---|---|---|---|---|---|
| Foundation models provided with watsonx.ai | • リソースハブ>トークン単位の支払い • Prompt Lab |
キュレーションおよび展開： IBM | マルチテナントハードウェア | 使用されたトークンによって | 公開されたライフサイクルに従って非推奨とされた。 基盤モデルライフサイクル を参照してください。 |
| オンデマンド基盤モデルを展開 | • リソースハブ>時間単位の支払い • Prompt Lab |
ご依頼により、 IBM がキュレーションおよび展開を行いました | 専用ハードウェア | 展開時間 | 配置されたモデルは廃止されていません |
| カスタム基盤モデル | • Prompt Lab | あなた自身でキュレーションし、展開 | 専用ハードウェア | 展開時間 | 非推奨ではありません |
| 迅速に調整された基盤モデル | • Prompt Lab | お客様によるチューニングと展開 | マルチテナントハードウェア | • トレーニングはCUH によって課金されます。 • 推論は使用されたトークンによって課金されます |
基盤となるモデルが非推奨の場合、基盤モデル基盤モデル追加しない限り、非推奨となります |
モデル価格の算出とモニタリングの詳細については、 ジェネレーティブAI 資産の請求詳細 をご覧ください。
すぐに使える基盤モデルを提供
A collection of third-party and IBM foundation models are deployed on multitenant hardware in IBM watsonx.ai by IBM. You can prompt these foundation models in the Prompt Lab or programmatically. 使用したトークンの数に応じてお支払いいただきます。
提供された基盤モデル推論を開始するには、以下の手順を実行します
- メインメニューから「リソースハブ」を選択します。
- 「ペイ・パー・トークン」セクションの 「すべてを表示」 をクリックします。
- Click a foundation model tile, and then click で開く Prompt Lab.
オンデマンド基盤モデルを展開
A deploy on demand model is an instance of an IBM-curated foundation model that you deploy and that is dedicated for the exclusive use of your organization. デプロイメントアクセス権限が与えられた同僚のみが、 基盤モデルを推論することができます。 デプロイメントにより、速度制限のないより高速で応答性の高いやりとりが可能になります。
デプロイオンデマンド基盤モデルで作業するには、以下の手順を実行します
- メインメニューから「リソースハブ」を選択します。
- 「時間単位でのお支払い」 セクションの 「すべてを表示」 をクリックします。
- Click a foundation model tile, and then click 展開.
詳細については、 オンデマンドで基盤モデルを展開 をご覧ください。
カスタム基盤モデル
In addition to working with foundation models that are curated by IBM, you can upload and deploy your own foundation models. カスタムモデルが展開され、 watsonx.ai に登録された後、 Prompt Lab または watsonx.ai API からカスタムモデルを推論するプロンプトを作成することができます。
デプロイした基盤モデルインスタンスは、お客様の専用となります。 専用のデプロイメントにより、より高速で応答性の高いやりとりが可能になります。 基盤モデルホスティング費用は時間単位で支払う。
To learn more about how to upload, register, and deploy a custom foundation model, see カスタム基盤モデルを展開する.
迅速に調整された基盤モデル
A subset of the provided foundation models can be customized for your needs by prompt tuning the model from the watsonx.ai API or Tuning Studio. 迅速に調整された基盤モデルは、その下に展開された基盤モデルに依存しています。 基本となるモデルは廃止される可能性があります。 モデルを調整するために消費したリソースに対して料金を支払います。 モデルのチューニングが完了したら、モデルの推論に使用したトークンで支払います。
You can customize the following foundation models by prompt tuning them in watsonx.ai:
詳細については、 Tuning Studio。
詳細情報
watsonx.ai で使用できるモデルの一覧については、 サポートされている基盤モデル をご覧ください。
親トピック: ジェネリックAIソリューション