カスタム機械学習フレームワーク

デプロイメントのリストの要求

Copy link to section

「デプロイメントのリストの要求」タイルを選択した場合は、資格情報と API エンドポイントを入力してから構成を保存します。

個々の評価エンドポイントの指定

Copy link to section

「個々の評価エンドポイントの入力」タイルを選択した場合は、API エンドポイントの資格情報を入力してから構成を保存します。

これで、デプロイされたモデルを選択し、モニターを構成する準備ができました。 ダッシュボードに追加]をクリックすると、デプロイされたモデルがInsightsダッシュボードに表示されます。 モニターするデプロイメントを選択し、 構成をクリックしてください。

詳しくは、モニタリングの構成を参照してください。

カスタム機械学習エンジンの追加

Copy link to section

non-watsonx.aiRuntime エンジンは、メタデータを使用してカスタムとして追加され、IBMIBMwatsonx.aiRuntime サービスとの直接的な統合は存在しない。 wos_client.service_providers.addメソッドを使えば、モデル評価のために複数の機械学習エンジンを追加することができる。

CUSTOM_ENGINE_CREDENTIALS = {
    "url": "***",
    "username": "***",
    "password": "***",
}

wos_client.service_providers.add(
        name=SERVICE_PROVIDER_NAME,
        description=SERVICE_PROVIDER_DESCRIPTION,
        service_type=ServiceTypes.CUSTOM_MACHINE_LEARNING,
        credentials=CustomCredentials(
            url= CUSTOM_ENGINE_CREDENTIALS['url'],
            username= CUSTOM_ENGINE_CREDENTIALS['username'],
            password= CUSTOM_ENGINE_CREDENTIALS['password'],
        ),
        background_mode=False
    ).result
Copy to clipboardクリップボードにコピーされましたShow more

以下のコマンドを使用してサービス・プロバイダーを表示できます。

client.service_providers.get(service_provider_id).result.to_dict()
Copy to clipboardクリップボードにコピーされました

API キーを使用してセキュリティーを構成する

Copy link to section

カスタム機械学習エンジンのセキュリティを設定するには、IBM CloudとIBM Cloud Pak for Dataをモデル評価の認証プロバイダーとして使用します。 https://iam.cloud.ibm.com/identity/token URL を使用して IBM Cloud の IAM トークンを生成し、 https://<$hostname>/icp4d-api/v1/authorize URL を使用して Cloud Pak for Dataのトークンを生成できます。

POST /v1/deployments/{deployment_id}/online 要求を使用して、以下の形式でスコアリング API を実装できます：

要求

{
	"input_data": [{
		"fields": [
			"name",
			"age",
			"position"
		],
		"values": [
			[
			"john",
			 33,
			"engineer"
			],
			[
			"mike",
			 23,
			"student"
			]
		]
	}]
}
Copy to clipboardクリップボードにコピーされましたShow more

応答

{
	"predictions": [{
		"fields": [
			"name",
			"age",
			"position",
			"prediction",
			"probability"
		],
		"labels": [
			"personal",
			"camping"
		],
		"values": [
			[
			"john",
			 33,
			"engineer",
			"personal",
			[
			0.6744664422398081,
			0.32553355776019194
			]
			],
			[
			"mike",
			 23,
			"student",
			"camping",
			[
			0.2794765664946941,
			0.7205234335053059
			]
			]
		]
	}]
}
Show more

カスタム・サブスクリプションの追加

Copy link to section

カスタム・サブスクリプションを追加するには、次のコマンドを実行します。

custom_asset = Asset(
        asset_id=asset['entity']['asset']['asset_id'],
        name=asset['entity']['asset']['name'],
        url = "dummy_url",
        asset_type=asset['entity']['asset']['asset_type'] if 'asset_type' in asset['entity']['asset'] else 'model',
        problem_type=ProblemType.MULTICLASS_CLASSIFICATION,
        input_data_type=InputDataType.STRUCTURED,
    )
deployment = AssetDeploymentRequest(
        deployment_id=asset['metadata']['guid'],
        url=asset['metadata']['url'],
        name=asset['entity']['name'],
        deployment_type=asset['entity']['type'],
        scoring_endpoint =  scoring_endpoint
    )
asset_properties = AssetPropertiesRequest(
        prediction_field='predicted_label',
        probability_fields = ["probability"],
        training_data_reference=None,
        training_data_schema=None,
        input_data_schema=None,
        output_data_schema=output_schema,
    )
result = ai_client.subscriptions.add(
        data_mart_id=cls.datamart_id,
        service_provider_id=cls.service_provider_id,
        asset=custom_asset,
        deployment=deployment,
        asset_properties=asset_properties,
        background_mode=False
    ).result
Copy to clipboardクリップボードにコピーされましたShow more

サブスクリプション・リストを取得するには、以下のコマンドを実行します。

subscription_id = subscription_details.metadata.id
subscription_id

details: wos_client.subscriptions.get(subscription_id).result.to_dict()
Copy to clipboardクリップボードにコピーされました

ペイロード・ロギングの有効化

Copy link to section

サブスクリプションでペイロード・ロギングを有効にするには、次のコマンドを実行します。

request_data = {'fields': feature_columns, 
                'values': [[payload_values]]}
Copy to clipboardクリップボードにコピーされました

ロギングの詳細を取得するには、次のコマンドを実行します。

response_data = {'fields': list(result['predictions'][0]),
                 'values': [list(x.values()) for x in result['predictions']]}
Copy to clipboardクリップボードにコピーされました

評価とペイロード・ロギング

Copy link to section

• モデルを評価します。

• ペイロード・ロギング・テーブルに要求と応答を格納します

  records_list = [PayloadRecord(request=request_data, response=response_data, response_time=response_time), PayloadRecord(request=request_data, response=response_data, response_time=response_time)]
  
  subscription.payload_logging.store(records=records_list)
  Copy to clipboardクリップボードにコピーされました

Python 以外の言語の場合は、REST API を使用してペイロードをログに記録することもできます。

親トピック: サポートされる機械学習エンジン、フレームワーク、およびモデル