모델 상태 모니터 평가

모델 상태 모니터 평가를 구성하여 모델 동작 및 성능을 이해하는 데 도움을 받을 수 있습니다. 모델 상태 메트릭을 사용하여 모델 배치가 트랜잭션을 얼마나 효율적으로 처리하는지 판별할 수 있습니다.

모델 상태 평가는 프로덕션 환경의 머신러닝 모델 평가와 모든 유형의 생성형 AI 자산 배포에 대해 기본적으로 활성화되어 있습니다. 모델 상태 평가가 사용으로 설정되면 사용하는 서비스의 데이터 마트에 모델 상태 데이터 세트가 작성됩니다. 모델 상태 데이터 세트는 모델 상태 메트릭을 계산하는 데 사용되는 스코어링 요청에 대한 세부사항을 저장합니다.

모델 상태 모니터 평가를 구성하기 위해 다음 예제에 표시된 대로 각 메트릭에 대한 임계값을 설정할 수 있습니다.

사전 프로덕션 및 배치 배포에 대한 모델 상태 평가는 머신 러닝 모델 배포에는 지원되지 않습니다.