オンライン・デプロイメントのデプロイ可能なアセット・タイプ

以下のタイプの資産に対してオンライン・デプロイメントを作成できます。

• 機能
• モデル
  • AutoAI モデル
  • Decision Optimization モデル
  • 統合学習モデル
  • ファイルからインポートされた モデル
  • サポートされるフレームワーク を使用して作成されたモデル
  • チューニング済みファウンデーション・モデル
  • SPSS Modeler モデル
• プロンプト・テンプレート
• スクリプト

オンライン・デプロイメントを作成する方法

オンライン・デプロイメントは、以下のいずれかの方法で作成できます。

• コードなしのアプローチを使用して、 デプロイメント・スペースからオンライン・デプロイメントを作成します。
• コードを使用して、 ノートブックを使用してプログラマチックにオンライン・デプロイメントを作成します。

オンライン・デプロイメントを作成すると、エンドポイント URL が生成されます。 エンドポイント URL を使用して、デプロイメントをテストしたり、デプロイメントをアプリケーションに含めたりすることができます。

開始前に

APIキーを生成して、タスクの認証情報を設定する必要があります。 詳細については、タスク資格情報の管理を参照のこと。

デプロイメント・スペースからのオンライン・デプロイメントの作成

デプロイメント・スペースからオンライン・デプロイメントを作成するには、以下の手順を実行します。

1. スペースにデプロイする資産をプロモートするか追加します。 詳しくは、「 デプロイメント・スペース内の資産」を参照してください。

2. 「アセット」ページで、アクション・メニューから 「デプロイ」 をクリックします。

3. 「デプロイメントの詳細」ページで、 「新規デプロイメント」をクリックします。

4. デプロイメント・タイプとして オンライン を選択してください。

5. デプロイメントの名前と説明 (オプション) を指定します。

6. 「サービス名」 フィールドを使用して、デプロイメント ID ではなくデプロイメントの名前を指定します。

   注:

   • サービス名は、名前空間内で固有のものでなければなりません。
   • サービス名には、[a-z,0-9, _] の文字のみを含める必要があり、最大 36 文字の長さでなければなりません。
   • サービス名は、予測 URL の一部としてのみ機能します。 場合によっては、デプロイメント ID を使用する必要があります。

7. オプション: Python 関数、 Tensorflow モデル、または カスタム・ソフトウェア仕様を使用するモデルをデプロイする場合は、 ハードウェア仕様 を選択します。 例えば、 デプロイメントをスケーリングする場合は、ハードウェア・リソースを増やすことができます。

   制約事項:

   デプロイメント・スペースのユーザー・インターフェースからカスタム・ハードウェア仕様を作成したり選択したりすることはできません。 ハードウェア仕様を作成および選択する方法について詳しくは、 デプロイメントのためのハードウェア仕様の管理を参照してください。

8. オプション: 資産と互換性のある ソフトウェア仕様 を選択します。 機能のソフトウェア仕様のみを選択できます。

9. 作成 をクリックして、デプロイメントを作成します。

{"input_data":[{
        "fields": [<field1>, <field2>, ...],
        "values": [[<value1>, <value2>, ...]]
}]}

{"input_data":[{
        "fields": ["PassengerId","Pclass","Name","Sex","Age","SibSp","Parch","Ticket","Fare","Cabin","Embarked"],
        "values": [[1,3,"Braund, Mr. Owen Harris",0,22,1,0,"A/5 21171",7.25,null,"S"]]
}]}

{
    "parameters": {
        "prompt_variables": {
            "input": "input text goes here."
        }
    }
}

ノートブックを使用したプログラムによるオンライン・デプロイメントの作成

以下を使用して、オンライン・デプロイメントをプログラマチックに作成できます。

• watsonx.aiRuntimeREST API。
• watsonx Python クライアント・ライブラリー。

watsonx.aiRuntimePythonクライアントを使用してデプロイメントを作成・管理する方法を示したサンプル・ノートブックにアクセスするには、機械学習のサンプルと例をご覧ください。

model_details = client.repository.get_details("<model_id>")  # retrieves details and includes schema
columns_in_schema = []
for i in range(0, len(model_details['entity']['schemas']['input'][0].get('fields'))):
    columns_in_schema.append(model_details['entity']['schemas']['input'][0].get('fields')[i]['name'])

X = X[columns_in_schema] # where X is a pandas dataframe that contains values to be scored
#(...)
scoring_values = X.values.tolist()
array_of_input_fields = X.columns.tolist()
payload_scoring = {"input_data": [{"fields": [array_of_input_fields],"values": scoring_values}]}

詳細情報

バッチ・デプロイメントの作成方法については、 バッチ・デプロイメントの作成を参照してください。

デプロイメント・ジョブを管理する方法、およびオンライン・デプロイメントを更新、スケーリング、または削除する方法については、 資産の管理を参照してください。

デプロイメント エンドポイントの詳細については、「エンドポイント URL」を参照してください。

親トピック: 予測デプロイメントの管理