请求部署列表

如果选择了请求部署列表磁贴，请输入凭证和 API 端点，然后保存配置。

提供个别评分端点

如果选择了输入个别评分端点磁贴，请输入 API 端点的凭证，然后保存配置。

现在您已准备好选择已部署模型并配置监视器。 您部署的模型会列在Insights仪表板上，您可以单击 "添加到仪表板"。 选中要监视的部署，然后单击配置。

有关更多信息，请参阅配置监视器。

添加定制机器学习引擎

non-watsonx.aiRuntime 引擎是通过使用元数据作为自定义添加的，不存在与非IBM watsonx.aiRuntime 服务的直接集成。 您可以使用 "wos_client.service_providers.add方法为模型评估添加多个机器学习引擎。

CUSTOM_ENGINE_CREDENTIALS = {
    "url": "***",
    "username": "***",
    "password": "***",
}

wos_client.service_providers.add(
        name=SERVICE_PROVIDER_NAME,
        description=SERVICE_PROVIDER_DESCRIPTION,
        service_type=ServiceTypes.CUSTOM_MACHINE_LEARNING,
        credentials=CustomCredentials(
            url= CUSTOM_ENGINE_CREDENTIALS['url'],
            username= CUSTOM_ENGINE_CREDENTIALS['username'],
            password= CUSTOM_ENGINE_CREDENTIALS['password'],
        ),
        background_mode=False
    ).result

可以使用以下命令来查看服务提供者：

client.service_providers.get(service_provider_id).result.to_dict()

使用 API 密钥配置安全性

要为自定义机器学习引擎配置安全性，您可以使用IBM Cloud和IBM Cloud Pak for Data作为模型评估的身份验证提供商。 您可以使用https://iam.cloud.ibm.com/identity/tokenURL 为IBM Cloud生成 IAM 令牌，使用https://<$hostname>/icp4d-api/v1/authorizeURL 为Cloud Pak for Data 生成令牌。

您可以使用 POST /v1/deployments/{deployment_id}/online 请求来实现以下格式的评分 API:

请求

{
	"input_data": [{
		"fields": [
			"name",
			"age",
			"position"
		],
		"values": [
			[
			"john",
			 33,
			"engineer"
			],
			[
			"mike",
			 23,
			"student"
			]
		]
	}]
}

响应

{
	"predictions": [{
		"fields": [
			"name",
			"age",
			"position",
			"prediction",
			"probability"
		],
		"labels": [
			"personal",
			"camping"
		],
		"values": [
			[
			"john",
			 33,
			"engineer",
			"personal",
			[
			0.6744664422398081,
			0.32553355776019194
			]
			],
			[
			"mike",
			 23,
			"student",
			"camping",
			[
			0.2794765664946941,
			0.7205234335053059
			]
			]
		]
	}]
}

添加定制预订

要添加定制预订，请运行以下命令：

custom_asset = Asset(
        asset_id=asset['entity']['asset']['asset_id'],
        name=asset['entity']['asset']['name'],
        url = "dummy_url",
        asset_type=asset['entity']['asset']['asset_type'] if 'asset_type' in asset['entity']['asset'] else 'model',
        problem_type=ProblemType.MULTICLASS_CLASSIFICATION,
        input_data_type=InputDataType.STRUCTURED,
    )
deployment = AssetDeploymentRequest(
        deployment_id=asset['metadata']['guid'],
        url=asset['metadata']['url'],
        name=asset['entity']['name'],
        deployment_type=asset['entity']['type'],
        scoring_endpoint =  scoring_endpoint
    )
asset_properties = AssetPropertiesRequest(
        prediction_field='predicted_label',
        probability_fields = ["probability"],
        training_data_reference=None,
        training_data_schema=None,
        input_data_schema=None,
        output_data_schema=output_schema,
    )
result = ai_client.subscriptions.add(
        data_mart_id=cls.datamart_id,
        service_provider_id=cls.service_provider_id,
        asset=custom_asset,
        deployment=deployment,
        asset_properties=asset_properties,
        background_mode=False
    ).result

要获取预订列表，请运行以下命令：

subscription_id = subscription_details.metadata.id
subscription_id

details: wos_client.subscriptions.get(subscription_id).result.to_dict()

启用有效内容日志记录

要在预订中启用有效内容日志记录，请运行以下命令：

request_data = {'fields': feature_columns, 
                'values': [[payload_values]]}

要获取日志记录详细信息，请运行以下命令：

response_data = {'fields': list(result['predictions'][0]),
                 'values': [list(x.values()) for x in result['predictions']]}

评分和有效内容日志记录

• 对模型评分。

• 在有效内容日志记录表中存储请求和响应

  records_list = [PayloadRecord(request=request_data, response=response_data, response_time=response_time), PayloadRecord(request=request_data, response=response_data, response_time=response_time)]
  
  subscription.payload_logging.store(records=records_list)
  

对于除 Python 以外的其他语言，您还可以使用 REST API 来记录有效内容。

上级主题: 受支持的机器学习引擎，框架和模型