Watson Machine Learning 플랜 및 컴퓨팅 사용

Watson Machine Learning 플랜

Watson Machine Learning 플랜은 Watson Machine Learning 으로 훈련하고 배치하는 모델에 대해 청구되는 방법과 기본 모델에서 사용하는 프롬프트에 대해 청구되는 방법을 제어합니다. 필요에 따라 플랜을 선택하십시오.

• Lite는 용량이 제한된 무료 계획입니다. Watson Machine Learning을 평가하고 기능을 사용해 보려면 이 플랜을 선택하십시오. Lite 플랜은 watsonx에서 기본 모델 튜닝 실험 실행을 지원하지 않습니다.
• 필수사항 은 사용자의 요구에 맞게 모델을 빌드, 배치 및 관리할 수 있는 유연성을 제공하는 종량과금제 플랜입니다.
• 표준 은 조직의 모든 기계 학습 요구사항을 지원하도록 설계된 고용량 엔터프라이즈 플랜입니다. 용량 단위 시간은 정액 요금으로 제공되는 반면, 자원 단위 이용은 종량제로 제공됩니다.

계획 세부사항 및 가격 결정에 대해서는 IBM Cloud 머신 러닝을 참조하십시오.

용량 단위 시간 (CUH), 토큰 및 자원 단위 (RU)

측정 및 청구 목적으로 기계 학습 모델 및 배치 또는 기반 모델은 다음 단위로 측정됩니다.

• 용량 단위 시간 (CUH) 은 사용 및 청구 목적으로 단위 시간당 계산 자원 소비를 측정합니다. CUH는 Foundation Model 추론을 제외한 모든 Watson Machine Learning 활동을 측정합니다.

• 자원 단위 (RU) 는 기초 모델 추론 소비를 측정합니다. 추론은 프롬프트에 대한 응답으로 출력을 생성하기 위해 기초 모델을 호출하는 프로세스입니다. 각 RU는 1,000개 토큰과 같습니다. 토큰은 기초 모델 프롬프트의 입력 또는 출력에 사용되는 기본 텍스트 단위 (일반적으로 4자또는 0.75 단어) 입니다. 사용 요구사항에 해당하는 플랜을 선택하십시오. 토큰에 대한 세부사항은 토큰 및 토큰화를 참조하십시오.

• 비율 한계 는 지정된 Watson Machine Learning 플랜 인스턴스의 기초 모델에 대해 처리되는 초당 추론 요청 수를 모니터하고 제한합니다. 무료 라이트 플랜보다 유료 플랜의 비율 한계가 더 높습니다.

CUH 또는 RU 이용에 대해 측정되는 것은?

용량 단위 시간 (CUH) 또는 자원 단위 (RU) 로 측정된 자원은 도구에서 작업하는 데 사용되지 않고 실행 중인 자산에 사용됩니다. 즉, 실험을 정의하는 데에는 소비 비용이 없습니다.AutoAI, 하지만 실험 파이프라인을 교육하기 위해 실험을 실행하는 데에는 요금이 부과됩니다. 마찬가지로 배치 영역을 작성하거나 배치 작업을 정의하는 데는 비용이 부과되지 않지만 배치 작업을 실행하거나 배치된 자산에 대해 추론하는 데는 비용이 부과됩니다. Jupyter 노트북, RStudio 자산 및 Bash 스크립트와 같이 지속적으로 실행되는 자산은 활성 상태인 동안 자원을 이용합니다.

모델 클래스별 자원 단위 청구 비율

기초 모델의 자원 단위 청구 비율

다음 모델의 경우 청구 비율은 입력 및 출력 토큰에 대해 동일합니다.

다음 모델의 경우 입력 토큰과 출력 토큰의 청구 요율이 다릅니다.

임베드 모델에 대한 자원 단위 청구 비율

모델을 임베드하면 문장이 벡터로 변환되어 유사한 텍스트를 보다 정확하게 비교하고 검색할 수 있습니다.

생성 AI 모델에 대한 참고사항

• 신속하게 조정된 기초 모델은 기본 기초 모델과 동일한 청구 클래스에 지정됩니다. 예를 들어, 클래스 1기초 모델을 즉시 조정하는 경우 조정된 모델을 추론하는 비용은 클래스 1청구 비율로 측정됩니다. 조정된 기본 모델에 대한 정보는 Tuning Studio를 참조하십시오.
• 각 모델에 대한 자세한 정보는 지원되는 기초 모델을 참조하십시오.
• 각 모델의 지역 지원에 대한 정보는 기초 모델의 지역 가용성을 참조하십시오.

자산 유형별 CUH 소비율

배치 및 프레임워크 유형별 CUH 소비량

CUH 소비량은 다음 공식을 사용하여 계산합니다.

예를 들어, 15분동안 실행되는 Decision Optimization 일괄처리 배치 작업을 고려해 보십시오. 자원 이용은 다음과 같은 방식으로 계산됩니다. 15분 = 0.25 시간, 두 개의 노드에서, 두 개의 vCPU 및 8GB RAM이 있습니다. 이 조합의 결과로 CUH 비율이 30이 되므로 작업이 실행될 때마다 0.25 * 2 * 30 (15 CUH와 같음) 을 이용합니다.

프로젝트의 리소스 사용량 추적

프로젝트에서 CUH 또는 RU 소비 또는 시간당 사용량을 모니터링하려면 다음 안내를 따르세요.

1. 프로젝트의 관리 탭으로 이동하십시오.

2. 자원 을 클릭하여 프로젝트 또는 공간의 자산에 대한 자원 이용 요약을 검토하거나 특정 자산에 대한 자원 이용 세부사항을 검토하십시오.

   

계정의 리소스 사용량 추적

IBM Cloud 계정 소유자 또는 관리자 또는 Watson Machine Learning 서비스 소유자인 경우 환경 런타임 페이지에서 계정의 런타임 사용을 추적할 수 있습니다. 자세한 내용은 모니터링 자원을 참조하십시오.

노트북에서 기계 학습을 위한 CUH 이용 추적

노트북에서 용량 단위 시간을 계산하려면 다음을 사용하십시오.

CP =  client.service_instance.get_details()
CUH = CUH["entity"]["usage"]["capacity_units"]["current"]/(3600*1000)
print(CUH)

예를 들어,

'capacity_units': {'current': 19773430}

19773430/(3600*1000)

5.49 CUH 리턴

세부사항은 IBM Watson Machine Learning API 문서의 서비스 인스턴스 섹션을 참조하십시오.