Microsoft Azure ML Service フレームワーク

Web サービスの JSON 要求に求められる形式

Copy link to section

• REST API 要求の本体は、JSON オブジェクトの JSON 配列 1 つを指定した JSON 文書でなければなりません。
• JSON 配列の名前は "input"でなければなりません。
• 各 JSON オブジェクトに含めることができるのは、単純なキーと値のペアのみです。値には、ストリング、数値、 true、 false、または null のいずれかです
• 値を JSON オブジェクトや配列にすることはできません
• 使用可能なnull 以外の値があるかどうかに関係なく、配列内の各 JSON オブジェクトには、すべて同じキー (およびキーの数) が指定されている必要があります

以下のサンプル JSON ファイルは前述の要件を満たしているので、ユーザー独自の JSON 要求ファイルを作成するためのテンプレートとして使用できます。

{
  "input": [
    {
      "field1": "value1",
      "field2": 31,
      "field3": true,
      "field4": 2.3
    },
    {
      "field1": "value2",
      "field2": 15,
      "field3": false,
      "field4": 0.1
    },
    {
      "field1": null,
      "field2": 5,
      "field3": true,
      "field4": 6.1
    }
  ]
}
Copy to clipboardクリップボードにコピーされましたShow more

Web サービスの JSON 応答に求められる形式

Copy link to section

JSON 応答ファイルを作成するときには、以下の点に注意してください。

• REST API 応答の本体は、JSON オブジェクトの JSON 配列 1 つを指定した JSON 文書でなければなりません。

• JSON 配列の名前は "output"でなければなりません。

• 各 JSON オブジェクトには、キーと値のペアのみを含めることができます。この値は、ストリング、数値、 true、 false、 null、またはその他の JSON オブジェクトや配列を含まない配列のいずれかです

• 値を JSON オブジェクトにすることはできません

• 使用可能なnull 以外の値があるかどうかに関係なく、配列内の各 JSON オブジェクトには、すべて同じキー (およびキーの数) が指定されている必要があります

• 分類モデルの場合: Web サービスは、各クラスの確率を含む配列を返す必要があります。確率の順序は、配列内のすべての JSON オブジェクトで一貫していなければなりません。

  • 例: 信用リスクを予測する二項分類モデルでクラス Risk またはクラス No Risk に分類する場合
  • "output" 配列で返されるあらゆる結果において、オブジェクト内のキーと値のペアに含まれている確率の順序が、以下の形式で固定されていなければなりません。

  {
  "output": [
    {
      "Scored Probabilities": ["Risk" probability,"No Risk" probability
      ]
      },
      {
        "Scored Probabilities": ["Risk" probability,"No Risk" probability
          ]
         }
      ]
  Copy to clipboardクリップボードにコピーされました

Azure ML Studio および Service の両方で使用される Azure ML ビジュアル・ツールとの整合性を確保するために、以下のキー名を使用します。

• モデルの予測値を示す、出力キーのキー名 "Scored Labels"
• 各クラスの確率の配列を示す、出力キーのキー名 "Scored Probabilities" 。

以下のサンプル JSON ファイルは、前述の要件を満たしているので、ユーザー独自の JSON 応答ファイルを作成するためのテンプレートとして使用できます。

{
  "output": [
    {
      "Scored Labels": "No Risk",
      "Scored Probabilities": [
        0.8922524675865824,
        0.10774753241341757
      ]
    },
    {
      "Scored Labels": "No Risk",
      "Scored Probabilities": [
        0.8335192848546905,
        0.1664807151453095
      ]
    }
  ]
}
Copy to clipboardクリップボードにコピーされましたShow more

Microsoft Azure ML Service エンジンの追加

Copy link to section

IBM以外のwatsonx.aiランタイム・エンジンはカスタムとしてバインドされ、メタデータで構成される。 IBM以外のwatsonx.aiRuntimeサービスとの直接的な統合はありません。

service_type = "azure_machine_learning_service"
added_service_provider_result = wos_client.service_providers.add(
        name=SERVICE_PROVIDER_NAME,
        description=SERVICE_PROVIDER_DESCRIPTION,
        service_type = service_type,
        credentials=AzureCredentials(
            subscription_id= AZURE_ENGINE_CREDENTIALS['subscription_id'],
            client_id = AZURE_ENGINE_CREDENTIALS['client_id'],
            client_secret= AZURE_ENGINE_CREDENTIALS['client_secret'],
            tenant = AZURE_ENGINE_CREDENTIALS['tenant']
        ),
        background_mode=False
    ).result
Copy to clipboardクリップボードにコピーされました

次のコマンドを使用してサービス・バインディングを表示できます。

client.service_providers.list()
Copy to clipboardクリップボードにコピーされました

出力例:

uid	                                   name	                      service_type	                   created
410e730f-8462-45fe-8b41-a029d6d6043a	My Azure ML Service engine azure_machine_learning_service2019-06-10T22:10:29.398Z
Copy to clipboardクリップボードにコピーされました

Microsoft Azure ML Service サブスクリプションの追加

Copy link to section

サブスクリプションを追加します

asset_deployment_details = wos_client.service_providers.list_assets(data_mart_id=data_mart_id, service_provider_id=service_provider_id).result
asset_deployment_details
 
deployment_id=''
for model_asset_details in asset_deployment_details['resources']:
    if model_asset_details['metadata']['guid']==deployment_id:
        break
 
azure_asset = Asset(
            asset_id=model_asset_details["entity"]["asset"]["asset_id"],
            name=model_asset_details["entity"]["asset"]["name"],
            url=model_asset_details["entity"]["asset"]["url"],
            asset_type=model_asset_details['entity']['asset']['asset_type'] if 'asset_type' in model_asset_details['entity']['asset'] else 'model',
            input_data_type=InputDataType.STRUCTURED,
            problem_type=ProblemType.BINARY_CLASSIFICATION
        )
 
deployment_scoring_endpoint = model_asset_details['entity']['scoring_endpoint']
scoring_endpoint = ScoringEndpointRequest(url = model_asset_details['entity']['scoring_endpoint']['url'],request_headers = model_asset_details['entity']['scoring_endpoint']['request_headers'],
                                                 credentials = None)  
 
deployment = AssetDeploymentRequest(
    deployment_id=model_asset_details['metadata']['guid'],
    url=model_asset_details['metadata']['url'],
    name=model_asset_details['entity']['name'],
    description=model_asset_details['entity']['description'],
    deployment_type=model_asset_details['entity']['type'],
    scoring_endpoint = scoring_endpoint
)
 
asset_properties = AssetPropertiesRequest(
        label_column="Risk ",
        prediction_field='Scored Labels',
        probability_fields=['Scored Probabilities'],
        training_data_reference=training_data_reference,
        training_data_schema=None,
        input_data_schema=None,
        output_data_schema=None,
    )
 
subscription_details = wos_client.subscriptions.add(
        data_mart_id=data_mart_id,
        service_provider_id=service_provider_id,
        asset=azure_asset,
        deployment=deployment,
        asset_properties=asset_properties,
        background_mode=False
).result
Copy to clipboardクリップボードにコピーされましたShow more

サブスクリプション・リストを取得します

subscription_id = subscription_details.metadata.id
subscription_id
 
details: wos_client.subscriptions.get(subscription_id).result.to_dict()
Copy to clipboardクリップボードにコピーされました

ペイロード・ロギングの有効化

Copy link to section

サブスクリプションでペイロード・ロギングを有効にします

payload_data_set_id = None
payload_data_set_id = wos_client.data_sets.list(type=DataSetTypes.PAYLOAD_LOGGING, 
                                                target_target_id=subscription_id, 
                                                target_target_type=TargetTypes.SUBSCRIPTION).result.data_sets[0].metadata.id
Copy to clipboardクリップボードにコピーされました

ロギングの詳細を取得します

subscription.payload_logging.get_details()
Copy to clipboardクリップボードにコピーされました

評価とペイロード・ロギング

Copy link to section

モデルを評価します。 完全な例については、Azure Machine Learning Service エンジン・ノートブックの操作を参照してください。

ペイロード・ロギング・テーブルに要求と応答を格納します。

wos_client.data_sets.store_records(data_set_id=payload_data_set_id, request_body=[PayloadRecord(
           scoring_id=str(uuid.uuid4()),
           request=request_data,
           response=response_data,
           response_time=460
)])
Copy to clipboardクリップボードにコピーされました

Python 以外の言語の場合は、REST API を使用してペイロードをログに記録することもできます。

親トピック: サポートされる機械学習エンジン、フレームワーク、およびモデル