Watson Machine Learning 플랜 및 컴퓨팅 사용

AutoAI 모델을 훈련시키고 딥 러닝 실험을 실행하며 배치된 모델에서 예측을 요청할 때 용량 단위 시간(CUH)으로 측정된 Watson Machine Learning 리소스를 사용합니다. 이 주제에서는 선택할 수 있는 다양한 플랜 및 포함된 서비스에 대해 설명하고 사용자 요구에 맞는 플랜을 선택하는 데 도움이 되는 기본 컴퓨팅 환경 목록을 제공합니다. 이 주제에서는 다음을 설명합니다.

용량 단위 시간(CUH)

CUH는 단위 시간당 컴퓨팅 리소스 소비량을 측정한 것입니다. 모든 Watson Machine Learning 플랜은 용량 단위 시간으로 통합되어 리소스 소비량을 보다 쉽게 추적할 수 있습니다.

Watson Machine Learning 플랜

{: #wml-plan}Watson Machine Learning 플랜은 Watson Machine Learning으로 훈련하고 배치한 모델에 대한 요금이 청구되는 방법을 관리합니다. 필요에 따라 플랜을 선택하십시오.

  • Lite는 용량이 제한된 무료 계획입니다. Watson Machine Learning을 평가하고 기능을 사용해 보려면 이 플랜을 선택하십시오.
  • Standard는 사용자 요구에 맞게 모델을 빌드, 배치 및 관리할 수 있는 유연성을 제공하는 pay-as-you-go 계획입니다.
  • Professional은 조직의 모든 시스템 학습 요구를 지원하기 위해 설계된 높은 용량의 엔터프라이즈 계획입니다. Professional 플랜은 계획은 댈러스 지역에서 프로비저닝된 경우 HIPAA도 지원합니다.

계획 세부사항 및 가격 결정에 대해서는 IBM Cloud 머신 러닝을 참조하십시오.

참고: Standard에서 Professional로 업그레이드하는 경우 Standard 계획으로 롤백할 수 없습니다. 이 경우, IBM 지원 부서에 문의하십시오.

CUH별 플랜

계획 용량 단위 시간 포함 초과 공간당 최대 배치 작업
Lite 월별 20 초과가 허용되지 않음 100
표준 CUH당 청구됨 CUH당 청구됨 1000
Professional 2500 사용한 추가 CUH 청구 3000(지원을 통해 요청으로 증가)

배치 재훈련 작업을 위한 한계 및 기본값(Watson Machine Learning)

Watson Machine Learning은 각 단일 배치 공간에 대해 보유된 배치 작업의 수를 제한합니다. 특히 이 업데이트로 누실된 사용자 정보가 없지만 배치 작업 실행 시 사용자 경험을 변경해야 할 수 있습니다.

한계를 초과하면, 기존 작업을 삭제하거나 플랜을 업그레이드할 때까지 새 배치를 작성할 수 없습니다. 새 자동화로 플랜 한계 내에 머물 수 있습니다. 기본적으로, 작업 메타데이터는 30일 후 자동 삭제됩니다. 작업 작성 시 이 값을 대체할 수 있습니다. 작업 관리를 참조하십시오.

Watson Machine Learning 컴퓨팅 사용 및 가격

참고: 가격 결정에 대한 자세한 내용은 다음을 참조하십시오. Watson Machine Learning: 가격 책정

CUH 사용 세부사항

  • 기계 학습 컴퓨팅 사용은 활성 기계 학습 인스턴스가 사용하는 CUH(capacity unit hours) 수로 계산됩니다.
  • 사용되는 시간당 용량 단위의 비율은 기계 학습 자산과 모델의 컴퓨팅 요구사항에 따라 판별됩니다. 예를 들어, 크고 복잡한 데이터 세트가 있는 모델은 더 작고 간단한 데이터 세트가 있는 모델보다 더 많은 훈련 리소스를 사용합니다. 동시 사용자와 요청을 더 많이 지원하도록 배치를 스케일링하면 CUH 소비량도 증가함에 유의하십시오.
  • 배치의 리소스 소모에 영향을 미치는 변수가 너무 많기 때문에 모델 및 배치에 대한 테스트를 실행해서 CUH 소비량을 분석할 것을 권장합니다.
  • 컴퓨팅 시간은 밀리초로 계산됩니다. 단, 각 고유 오퍼레이션에 대해 최소 1분이 있습니다. 즉, 12 초가 걸리는 훈련 실행은 용량 단위 시간 할당량에 대해 1분으로 청구되고 83.555초가 걸리는 훈련 실행은 계산된 대로 정확하게 청구됩니다.
  • 온라인 배치가 용량 단위를 소모하는 방식은 프레임워크에 기반합니다. 일부 프레임워크의 경우 배치 영역에서 배치 자산이 활성화된 시간의 CUH 비용이 청구됩니다. 예를 들어, 일주일에 7일 동안 하루에 24시간 실행되는 온라인 배치 모드의 SPSS 모델은 해당 기간만큼의 CUH를 이용하며 이에 대해 비용이 청구됩니다. 활성 온라인 배치의 경우 유휴 시간이 없습니다. 다른 프레임워크의 경우, CUH는 스코어링 지속 기간에 따라 충전됩니다. CUH가 계산되는 방식에 대한 세부사항은 CUH 소비량 표를 참조하십시오.

배치가 활성인지 여부 판별

배치가 주어진 기간 동안 스코어링 요청을 받지 않는 경우 배치가 비활성 또는 유휴 상태라 간주되어 SPSS를 제외한 모든 프레임워크에 대한 청구가 중지됩니다. 배치가 비활성인 시점을 판별하는 데 사용되는 기간은 플랜 유형에 따라 다릅니다.

계획 유형 유휴 시간
Lite 1일
표준 3일
Professional 3일

배치 및 프레임워크 유형별 CUH 소비량

CUH 소비량은 다음 공식을 사용하여 계산합니다.

배치 유형 프레임워크 CUH 계산
온라인 AutoAI, AI 기능, SPSS, Scikit-Learn 사용자 정의 라이브러리, Tensorflow, RShiny deployment_active_duration no_of_nodes CUH_rate_for_capacity_type_framework
온라인 Spark, PMML, Scikit-Learn, Pytorch, XGBoost score_duration_in_seconds no_of_nodes CUH_rate_for_capacity_type_framework
일괄처리 모든 프레임워크 job_duration_in_seconds no_of_nodes CUH_rate_for_capacity_type_framework

이 표는 사용 유형별 기계 학습 환경의 시간당 용량 계산을 보여줍니다.

딥 러닝 실험을 위한 시간당 용량 단위

용량 유형 시간당 용량 단위
1개의 NVIDIA K80 GPU 2
1개의 NVIDIA V100 GPU 10

모델 훈련, 평가 또는 스코어링을 위한 시간당 용량 단위

용량 유형 시간당 용량 단위
초소형: 1x4 = 1개의 vCPU와 4GB RAM 0.5
소형: 2x8 = 2개의 vCPU와 8GB RAM 1
중형: 4x16 = 4개의 vCPU와 16GB RAM 2
대형: 8x32 = 8개의 vCPU와 32GB RAM 4
초대형: 16x64 = 16개의 vCPU와 64GB RAM 8

AutoAI 실험을 위한 시간당 용량 단위

AutoAI 실험을 위해 데이터가 결합되는 경우 데이터가 결합되는 동안에는 시간당 용량 단위가 다르게 계산됩니다. 데이터가 결합된 후에는 CUH 소비량이 단일 데이터 소스가 있는 실험에 대한 계산으로 되돌아갑니다.

단일 데이터 소스를 사용하는 AutoAI 실험의 시간당 용량 단위:

용량 유형 시간당 용량 단위
vCPU 8개 및 32GB RAM 20

데이터를 결합하는 동안 AutoAI 실험에 대한 시간당 용량 단위:

실행자가 추가될 때마다 소비량이 증가합니다.

용량 유형 시간당 용량 단위
1개의 드라이버: 2개의 vCPU와 8GB RAM + 1개의 실행자: 2개의 vCPU와 8GB RAM과 결합 10
추가 실행자와 결합 추가 실행자마다 5 CUH 추가
데이터 결합 후: 8개의 vCPU와 32GB RAM 20

Decision Optimization을 위한 시간당 용량 단위

용량 유형 시간당 용량 단위
Decision Optimization: 2개의 vCPU와 8GB RAM 30
Decision Optimization: 4개의 vCPU와 16GB RAM 40
Decision Optimization: 16개의 vCPU와 64GB RAM 60

자원 이용 방법에 대한 자세한 내용은 계정 자원 사용 모니터링을 참조하십시오.

계정에 대한 CUH 사용 추적

IBM Cloud 계정 소유자 또는 관리자 또는 Watson Machine Learning 서비스 소유자인 경우 환경 런타임 페이지에서 계정의 런타임 사용을 추적할 수 있습니다. 자세한 내용은 자원 모니터링을 참조하십시오.

노트북에서 기계 학습의 CUH 소비량 추적

용량 단위 시간을 계산하려면 다음을 사용하십시오.

CP =  client.service_instance.get_details()
CUH = CUH["entity"]["usage"]["capacity_units"]["current"]/(3600*1000)
print(CUH)

예를 들어,

'capacity_units': {'current': 19773430}

19773430/(3600*1000)

5.49 CUH 리턴

세부사항은 IBM Watson Machine Learning API 문서의 서비스 인스턴스 섹션을 참조하십시오.

자세히 보기

상위 주제: Watson Machine Learning