온라인 배치를 위한 배치 가능한 자산 유형

다음 유형의 자산에 대한 온라인 배치를 작성할 수 있습니다.

• Functions
• 모델
  • AutoAI 모델
  • Decision Optimization 모델
  • 연합 학습 모델
  • 파일에서 가져온 모델
  • 지원되는 프레임워크 로 작성된 모델
  • SPSS Modeler 모델

온라인 배치를 작성하는 방법

다음 방법 중 하나로 온라인 배치를 작성할 수 있습니다.

• 코드가 없는 접근 방식을 사용하여 배치 영역에서 온라인 배치를 작성하십시오.
• 코드를 사용하여 노트북을 사용하여 프로그래밍 방식으로 온라인 배치를 작성하십시오.

온라인 배치를 작성하면 엔드포인트 URL이 생성됩니다. 엔드포인트 URL을 사용하여 배치를 테스트하거나 애플리케이션에 배치를 포함할 수 있습니다.

시작하기 전에

API 키를 생성하여 작업 자격 증명을 설정해야 합니다. 자세한 내용은 작업 자격 증명 관리하기를 참조하세요.

배치 영역에서 온라인 배치 작성

배치 영역에서 온라인 배치를 작성하려면 다음 단계를 수행하십시오.

1. 영역에 배치할 자산을 승격하거나 추가하십시오. 자세한 정보는 배치 영역의 자산을 참조하십시오.

2. 자산 페이지의 조치 메뉴에서 배치 를 클릭하십시오.

3. 배치 세부사항 페이지에서 새 배치를 클릭하십시오.

4. 배치 유형으로 온라인을 선택하십시오.

5. 배치에 대한 이름 및 선택적 설명을 제공하십시오.

6. 제공 이름 필드를 사용하여 배치 ID 대신 배치의 이름을 지정하십시오.

   참고:

   • 제공 이름은 네임스페이스 내에서 구별되어야 합니다.
   • 제공 이름은 [a-z,0-9, _] 문자만 포함해야 하며 최대 36자여야 합니다.
   • 서비스 이름은 예측 URL의 일부로만 작동합니다. 때때로 배치 ID를 사용해야 할 수도 있습니다.

7. 선택사항: Python 함수, Tensorflow 모델 또는 사용자 정의 소프트웨어 스펙이 있는 모델을 배치하는 경우 하드웨어 스펙 을 선택하십시오. 예를 들어, 배치를 스케일링하는 경우 하드웨어 리소스를 늘릴 수 있습니다.

   제한사항:

   배치 영역의 사용자 인터페이스에서 사용자 정의 하드웨어 스펙을 작성하거나 선택할 수 없습니다. 하드웨어 스펙을 작성하고 선택하는 방법에 대해 자세히 알아보려면 배치를 위한 하드웨어 스펙 관리를 참조하십시오.

8. 선택사항: 자산과 호환 가능한 소프트웨어 스펙 을 선택하십시오. 기능에 대해서만 소프트웨어 스펙을 선택할 수 있습니다.

9. 작성을 클릭하여 배치를 작성하십시오.

{"input_data":[{
        "fields": [<field1>, <field2>, ...],
        "values": [[<value1>, <value2>, ...]]
}]}

{"input_data":[{
        "fields": ["PassengerId","Pclass","Name","Sex","Age","SibSp","Parch","Ticket","Fare","Cabin","Embarked"],
        "values": [[1,3,"Braund, Mr. Owen Harris",0,22,1,0,"A/5 21171",7.25,null,"S"]]
}]}

노트북을 사용하여 프로그래밍 방식으로 온라인 배치 작성

다음을 사용하여 온라인 배치를 프로그래밍 방식으로 작성할 수 있습니다.

• watsonx.ai 런타임 REST API.
• watsonx Python 클라이언트 라이브러리.

watsonx.ai 런타임 Python 클라이언트를 사용하여 배포를 생성하고 관리하는 데모를 사용하는 샘플 노트북에 액세스하려면 머신 러닝 샘플 및 예제를 참조하세요.

model_details = client.repository.get_details("<model_id>")  # retrieves details and includes schema
columns_in_schema = []
for i in range(0, len(model_details['entity']['schemas']['input'][0].get('fields'))):
    columns_in_schema.append(model_details['entity']['schemas']['input'][0].get('fields')[i]['name'])

X = X[columns_in_schema] # where X is a pandas dataframe that contains values to be scored
#(...)
scoring_values = X.values.tolist()
array_of_input_fields = X.columns.tolist()
payload_scoring = {"input_data": [{"fields": [array_of_input_fields],"values": scoring_values}]}

자세한 정보

일괄처리 배치를 작성하는 방법을 학습하려면 일괄처리 배치 작성을 참조하십시오.

배치 작업을 관리하고 온라인 배치를 업데이트, 스케일링 또는 삭제하는 방법을 학습하려면 자산 관리를 참조하십시오.

배포 엔드포인트에 대해 자세히 알아보려면 엔드포인트 URL을 참조하세요.

상위 주제: 예측 배치 관리