IBM watsonx.aiRuntime を使用すると、機械学習モデル、スクリプト、関数、生成 AI モデルのプロンプト・テンプレートをデプロイできます。 デプロイメントを作成した後、それらをテストおよび管理し、実動前環境および実稼働環境にデプロイするための資産を準備して、予測と洞察を生成することができます。
サービス The administrator must provision the watsonx.ai Runtime service on watsonx platform to use its capabilities.
デプロイメント・プロセス
アセットをデプロイするための標準的なプロセスは、以下のとおりです。
- デプロイメント・タイプの選択: デプロイする資産タイプのデプロイメント・タイプを選択します。
- デプロイメントの作成: アセット・タイプに応じて、オンライン、バッチ、アプリケーション、またはデタッチされたデプロイメントを作成できます。
- テスト・デプロイメント: テスト・データを入力するか、JSON ペイロードを提供するか、バッチ・ジョブを作成することで、デプロイメントをテストできます。
- デプロイメント・エンドポイントの取得: アプリケーションでデプロイメントを使用するには、デプロイメントのエンドポイントを取得する必要があります。 モデル・エンドポイントは、モデル・デプロイメントを起動および管理するためのインターフェースへのアクセスを提供します。
以下の図は、AI 資産をデプロイするプロセスを示しています。
デプロイメントのタイプ
最も一般的なデプロイメントのタイプは、以下のとおりです。
オンライン・デプロイメント: 入力データをリアルタイムで処理するためのオンライン・デプロイメントを作成します。 オンライン・デプロイメントをリアルタイムでテストするために、新規顧客データをデプロイメント・エンドポイントに送信して、リアルタイムで予測を取得することができます。
バッチ・デプロイメント: データ・ソースからの大量の入力データを処理し、選択した宛先に出力を書き込むバッチ・デプロイメントを作成します。 バッチ・デプロイメント・ジョブを構成し、スケジュールまたは要求時にジョブを実行することができます。
デプロイ可能な資産のタイプ
デプロイする資産のタイプによって、作成できるデプロイメントのタイプが決まります。 例えば、 Python の関数、スクリプト、およびモデル ( AutoAI モデルや Decision Optimization モデルなど) は、オンライン・デプロイメントとバッチ・デプロイメントをサポートします。 ただし、オンライン・デプロイメントは、ファイルからインポートされたモデルに対してのみ作成できます。 デプロイ可能な資産のさまざまなタイプは、以下のとおりです。
基礎モデルアセット：調整済みモデル、プロンプトテンプレート資産、またはカスタム基盤モデルなどのfoundation model資産をwatsonx.ai で展開できます。
watsonx.aiRuntime アセット： Python関数、R Shiny アプリケーション、NLP モデル、スクリプトなどの機械学習watsonx.aiRuntime アセットをwatsonx.aiRuntime でデプロイできます。
Decision Optimizationモデル:'Decision Optimizationモデルを'watsonx.aiランタイムにデプロイできる。
資産をデプロイする方法
以下の方法で、資産をデプロイおよび管理できます。
デプロイメント・スペースでの資産のデプロイと管理 。コードなしのアプローチを使用します。
デプロイメント・スペースでの資産のデプロイおよび管理
利害関係者とコラボレーションするためのデプロイメント・スペースを作成し、デプロイメント・スペースに資産をデプロイして管理します。
デプロイメント・スペース内の資産を管理するには、プロジェクトからデプロイメント・スペースに資産をプロモートする必要があります。 デプロイメント・スペースから資産をインポートまたはエクスポートすることもできます。
デプロイメント・ダッシュボード を使用して、デプロイメントの集約ビューを取得し、デプロイメント・アクティビティーをモニターします。
プログラムによる資産のデプロイおよび管理
Pythonクライアントライブラリまたはwatsonx.aiRuntime APIを使用して、アセットをデプロイおよび管理できます。 詳細については、プログラムによる AI アセットのデプロイを参照してください。
デプロイメントのフレームワークおよびソフトウェア仕様の管理
ソフトウェア仕様およびフレームワーク には、対応するバージョンのパッケージを含むパッケージのバンドルが含まれています。
事前定義されたソフトウェア仕様を使用することも、既存のフレームワークに新規パッケージを追加したり、新規パッケージを作成したり、ソフトウェア仕様のパッケージ・バージョンを更新したりして、カスタム・ソフトウェア仕様を作成することもできます。
詳細情報
親トピック: AI 資産のデプロイおよび管理