모델 평가에 대해 자주 묻는 질문에 대한 답변을 찾아보세요.
일반
데이터 훈련 질문
위험, 편향성, 공정성 및 설명 가능성
- 기계 학습 모델 사용에 연관된 다양한 위험의 종류는 무엇입니까?
- Watson OpenScale을 사용하여 모델 편향성을 완화하는 방법은 무엇입니까?
- 인종 및 성별과 같은 민감한 속성에서 모델 편향성을 확인할 수 있습니까(모델이 해당 속성에서 훈련되지 않은 경우도 포함)?
- API를 통해 모델 공정성을 구성할 수 있습니까?
- Watson OpenScale에 표시되는 설명 유형은 무엇입니까?
- Watson OpenScale에서 what-if 분석은 무엇입니까?
- Watson OpenScale에서 로컬/LIME 설명이 지원되는 모델을 무엇입니까?
- Watson OpenScale에서 대조 설명과 what-if 분석이 지원되는 모델을 무엇입니까?
- Watson OpenScale 설명 가능성 구성에서 제어 가능한 기능은 무엇입니까?
드리프트
- IBM Watson OpenScale가 발견하는 다른 종류의 드리프트는 무엇입니까?
- Watson OpenScale은 정확도의 드리프트 및 데이터의 드리프트를 감지합니까?
- 모델 정확도 드리프트 또는 데이터 드리프트에 대해 주의해야 하는 이유는 무엇입니까?
- IBM Watson OpenScale에서 계산된 모델 정확도 드리프트의 정확도는 어떻습니까?
- IBM Watson OpenScale에서 계산된 데이터 일관성의 하락은 어떻습니까?
- Watson OpenScale은 텍스트 코퍼스에서 훈련된 내 모델에서 드리프트를 감지할 수 있습니까?
- Watson OpenScale은 이미지 데이터에서 훈련된 내 모델에서 드리프트를 감지할 수 있습니까?
- Watson OpenScale IBM watsonx.ai 런타임에 배포된 Python 함수에서 드리프트를 감지할 수 있나요?
기타
- Watson OpenScale을 사용하는 사전 프로덕션 환경에서 모델이 위험에 대해 평가되고 사용을 위해 승인된 후 프로덕션 환경에서 모든 모니터를 다시 구성해야 합니까?
- Watson OpenScale에서 프리프로덕션의 내 모델 배치를 벤치마크 모델과 비교하여 괜찮은지 여부를 확인할 수 있습니까?
- Watson OpenScale에서 품질 메트릭 계산에 사용되는 데이터는 무엇입니까?
- Watson OpenScale에서 일부 구성 탭은 왜 사용 불가능합니까?
내 서버에서 Watson OpenScale을 실행하려면 필요한 컴퓨터 처리 성능은 어떻게 됩니까?
세 개의 노드와 여섯 개의 노드 구성을 위한 하드웨어 구성을 위한 특정 지침이 제공됩니다. IBM Technical Sales 팀에서도 사용자의 특정 구성을 크기 조정하는 데 도움을 줄 수 있습니다. Watson OpenScale IBM Cloud Pak for Data 애드온으로 실행되므로 두 소프트웨어 제품에 대한 요구 사항을 모두 고려해야 합니다.
Watson OpenScale가 훈련 데이터에 액세스해야 하는 이유는 무엇입니까?
사용자는 Db2 또는 Watson OpenScale에 저장되어 있는 훈련 데이터에 대한 액세스를 IBM Cloud Object Storage에 제공하거나, 훈련 데이터에 액세스하는 노트북을 실행해야 합니다.
Watson OpenScale은 다음 이유로 사용자의 훈련 데이터에 대해 액세스해야 합니다.
- LIME (Local Interpretable Model-Agnostic설명 (LIME)) 및 대조적인 설명을 생성하려면 설명을 작성하려면 중간 값, 표준 편차 및 훈련 데이터의 구별 값과 같은 통계에 대한 액세스가 필요합니다.
- 훈련 데이터 통계를 표시하기 위해: 편향성 세부사항 페이지를 채우기 위해서는 Watson OpenScale은 통계를 생성할 훈련 데이터가 있어야 합니다.
- 드리프트 감지 모델을 빌드하기 위해: 드리프트 모니터는 훈련 데이터를 사용하여 드리프트 감지를 작성하고 측정합니다.
노트북 기반 접근법에서는 Watson OpenScale에서 배치 구성 시에 사용자가 통계 및 기타 정보를 업로드한다고 가정합니다. Watson OpenScale은 사용자 환경에서 실행되는 노트북 외부의 훈련 데이터에 더 이상 액세스 권한이 없습니다. 구성 중에 업로드된 정보에만 액세스할 수 있습니다.
사용할 명령행 도구가 있습니까?
네 있습니다! ModelOps CLI 도구가 있으며 공식 이름은 Watson OpenScale CLI 모델 오퍼레이션 도구입니다. 이를 사용하여 기계 학습 모델의 라이프사이클 관리에 연관된 태스크를 실행하십시오.
Watson OpenScale에 사용 가능한 Python 버전은?
Watson OpenScale은 모델 작성 프로세스와는 독립되어 있기 때문에 기계 학습 제공자가 지원되는 모든 Python 버전을 지원합니다. Watson OpenScale Python 클라이언트는 IBM Cloud에서 Watson OpenScale 서비스와 직접 작동하는 Python 라이브러리입니다. 최신 버전 정보는 필수 소프트웨어 섹션을 참조하십시오. Watson OpenScale 클라이언트 UI 대신 Python 클라이언트를 사용하여 직접 로깅 데이터베이스를 구성하고 기계 학습 엔진을 바인드하며 배치를 선택 및 모니터할 수 있습니다. 이런 방식으로 Python 클라이언트를 사용하는 예를 보려면 Watson OpenScale 샘플 노트북을 참조하십시오.
Watson OpenScale을 실행하는 데 사용할 수 있는 브라우저는 무엇입니까?
Watson OpenScale 서비스 도구의 경우 클라우드에서 필요한 동일한 브라우저 소프트웨어 레벨이 필수입니다. 자세한 내용은 IBM Cloud 전제 조건 주제를 참조하십시오.
모델 구성 시에는 훈련 데이터 위치 정보가 필요하며 옵션은 Cloud Object Storage 및 Db2입니다. 데이터가 Netezza에 있는 경우 Watson OpenScale은 Netezza를 사용할 수 있습니까?
이 Watson OpenScale 노트북을 사용하여 Netezza에서 데이터를 읽고 훈련 통계 및 드리프트 감지 모델을 생성하십시오.
모델에 대해 작성된 업데이트를 Watson OpenScale 참조하지 않는 이유는 무엇입니까?
Watson OpenScale은 모델 자체가 아닌 모델 배치에서 작동합니다. 배치를 새로 작성한 후 이 새 배치를 Watson OpenScale에서 새 구독으로 구성해야 합니다. 이런 배열로 두 모델 버전을 비교할 수 있습니다.
Watson OpenScale을 사용하여 모델 편향성을 완화하는 방법은 무엇입니까?
Watson OpenScale에서 편향성 제거 기능은 엔터프라이즈 등급입니다. 매우 강력하고 스케일링 가능하며 다양한 모델을 처리할 수 있습니다. Watson OpenScale 의 편향성 제거는 2단계프로세스로 구성됩니다.
- 학습 단계: 편향된 방식으로 작동하는 시기를 이해하기 위해 고객 모델 동작을 학습합니다.
- 애플리케이션 단계: 고객 모델이 특정 데이터 점에서 편향성 방식으로 작동하는지 식별하고 필요한 경우 편향성을 수정합니다. 자세한 정보는 편향성 제거된 트랜잭션 검토를 참조하십시오.
인종 및 성별과 같은 민감한 속성에서 모델 편향성을 확인할 수 있습니까(모델이 해당 속성에서 훈련되지 않은 경우도 포함)?
예. 최근에 Watson OpenScale은 "간접 편향성 감지"라고 하는 혁신적인 기능을 제공하였습니다. 이를 사용하여 모델이 민감한 속성에 대해 간접적으로 편향성을 나타내고 있는지 감지하십시오. 모델이 해당 속성에서 훈련되지 않은 경우도 포함됩니다. 자세한 정보는 편향성 제거된 트랜잭션 검토를 참조하십시오.
API를 통해 모델 공정성을 구성할 수 있습니까?
예, Watson OpenScale SDK를 사용하여 가능합니다. 자세한 정보는 IBM Watson OpenScale Python SDK 문서를 참조하십시오.
기계 학습 모델 사용에 연관된 다양한 위험의 종류는 무엇입니까?
입력 데이터 (드리프트라고도 함) 의 변경과 같이 기계 학습 모델과 연관된 여러 종류의 위험으로 인해 모델이 부정확한 의사결정을 내리고 비즈니스 예측에 영향을 줄 수 있습니다. 훈련 데이터는 편향이 없도록 정리할 수 있지만 런타임 데이터는 모델의 편향된 동작을 유발할 수 있습니다.
기존 통계 모델은 해석 및 설명이 더 단순하지만 기계 학습 모델 출력을 설명할 수 없어 모델 사용 시 심각한 위험에 노출될 수 있습니다.
자세한 정보는 모델 위험성 관리를 참조하십시오.
Watson OpenScale은 정확도의 드리프트 및 데이터의 드리프트를 감지합니까?
Watson OpenScale은 정확도의 드리프트와 데이터의 드리프트 모두 감지합니다.
- 정확도에서 드리프트는 런타임 시 모델 정확도 하락을 예측합니다. 모델 정확도는 모델이 훈련 데이터에서 제대로 평가하지 않은 트랜잭션과 유사한 트랜잭션에서의 증가가 발생할 때 하락합니다. 이런 유형의 드리프트는 구조화된 2진 및 다중 클래스 분류 모델에 대해서만 계산됩니다.
- 데이터의 드리프트는 훈련 시 데이터의 특성과 비교하여 런타임 시 데이터의 일관성 감소를 추정합니다.
Watson OpenScale에 표시되는 설명 유형은 무엇입니까?
Watson OpenScale 은 LIME, 대조 설명 및 SHAP 설명을 기반으로 로컬 설명을 제공합니다. 자세한 정보는 설명 가능성 보기를 참조하십시오.
Watson OpenScale에서 what-if 분석은 무엇입니까?
설명 UI는 가정 시나리오를 테스트하는 기능도 제공합니다. 예를 들어, 사용자는 입력 데이터 점의 특성 값을 변경하고 모델 예측 및 확률에 미치는 영향을 확인할 수 있습니다.
LIME 설명을 지원하는 모델은 무엇입니까?
다음 유형의 모델은 Watson OpenScale에서 LIME 설명을 지원합니다.
- 구조화된 회귀 및 분류 모델
- 구조화되지 않은 텍스트 및 이미지 분류 모델
대조 설명 및 what-if 분석을 지원하는 모델은 무엇입니까?
구조화된 데이터 및 분류 문제만 사용하는 모델에 대해 대조적인 설명 및 what-if 분석이 지원됩니다.
Watson OpenScale 설명 가능성 구성에서 제어 가능한 기능은 무엇입니까?
제어 가능 기능을 사용하여 일부 입력 데이터 점 기능은 잠금 가능하기 때문에 대조 설명이 생성되는 경우 변경되지 않고 what-if 분석 시 변경 가능하지 않습니다. 변경되지 않아야 하는 기능은 설명 가능성 구성에서 제어 불가능 또는 NO로 설정되어야 합니다.
Watson OpenScale에서 기계 학습 제공자를 구성하는 경우 프리프로덕션과 프로덕션 구독 사이의 차이점은 무엇입니까?
모델을 프로덕션에 배치하기 전에 모델 유효성 검증기가 사전 프로덕션 서비스 제공자를 사용하여 모델을 구성하고 유효성을 검증할 수 있습니다. Watson OpenScale 은 기계 학습 제공자를 위험 평가를 수행하는 사전 프로덕션 처리의 일부로 지정할 수 있습니다. 모델이 품질 표준을 만족하면 모델을 프로덕션으로 전송할 수 있습니다. 사전 프로덕션 및 프로덕션을 위해 다른 머신 러닝 제공자를 사용하거나 동일한 머신 러닝 제공자의 다른 인스턴스를 사용하여 사전 프로덕션 및 프로덕션 환경을 세그먼트로 유지할 수 있습니다.
내 모델이 예상대로 작동하는지 확인하기 위해 Watson OpenScale 대시보드를 계속 모니터링해야 합니까?
아니오, Watson OpenScale에서 프로덕션 모델 배치에 대한 이메일 경보를 설정할 수 있습니다. 이메일 경보는 위험 평가 테스트가 실패할 때마다 전송되며, 그런 다음 문제를 확인하고 해결할 수 있습니다.
모델이 위험에 대해 평가되고 사용이 승인된 후 Watson OpenScale 을 사용하는 사전 프로덕션 환경에서 프로덕션 환경에서 모든 모니터를 다시 구성해야 합니까?
아니오, Watson OpenScale은 프리프로덕션 구독 구성을 프로덕션 구독으로 복사하는 방법을 제공합니다. 자세한 정보는 모델 위험성 관리를 참조하십시오.
Watson OpenScale에서 프리프로덕션의 내 모델 배치를 벤치마크 모델과 비교하여 괜찮은지 여부를 확인할 수 있습니까?
예, Watson OpenScale 은 두 개의 모델 배치 또는 구독을 비교하는 옵션을 제공합니다. 구성된 각 모니터에서 두 모델의 동작을 나란히 비교하여 볼 수 있습니다. 비교하려면 Watson OpenScale 대시보드의 모델 요약 페이지로 이동하여 Actions -> Compare
을(를) 선택하십시오. 자세한 정보는 평가 결과 검토를 참조하십시오.
Watson OpenScale에서 품질 메트릭 계산에 사용되는 데이터는 무엇입니까?
수동으로 레이블링된 피드백 데이터 및 이 데이터에 대해 모니터된 배치 응답을 사용하는 품질 메트릭이 사용됩니다.
Watson OpenScale에서 일부 구성 탭은 왜 사용 불가능합니까?
일부 조건으로 특정 탭을 사용할 수 있습니다. 마우스 커서를 탭의 동그란 아이콘에 놓으면 탭이 사용 불가능한 이유를 확인할 수 있습니다.
모델 정확도 드리프트 또는 데이터 드리프트에 대해 주의해야 하는 이유는 무엇입니까?
모델 정확도 또는 데이터 일관성의 하락은 모델과 연관된 비즈니스 출력에 좋지 않은 영향을 주기 때문에 모델을 다시 훈련하여 처리해야 합니다.
IBM Watson OpenScale가 발견하는 다른 종류의 드리프트는 무엇입니까?
Watson OpenScale은 정확도의 드리프트와 데이터의 드리프트 모두 감지합니다.
IBM Watson OpenScale에서 계산된 모델 정확도 드리프트에서 정확도의 하락은 어떻습니까?
Watson OpenScale은 드리프트 감지 모델이라고도 하는 프록시 모델을 작성하여 모델 동작을 학습합니다. 이는 훈련 데이터를 보고 모델이 훈련 데이터에서 예측을 작성하는 방법을 확인합니다.
자세한 정보는 드리프트 감지를 참조하십시오.
IBM Watson OpenScale에서 계산된 데이터 일관성의 하락은 어떻습니까?
IBM Watson OpenScale은 구성 시에 훈련 데이터에 대해 단일 및 두 열 제한조건 또는 경계를 학습합니다. 그런 다음 모든 페이로드 트랜잭션을 분석하여 데이터 일관성에서 하락을 유발시키는 트랜잭션을 판별합니다. 자세한 정보는 드리프트 메트릭을 참조하십시오.
Watson OpenScale은 텍스트 코퍼스에서 훈련된 내 모델에서 드리프트를 감지할 수 있습니까?
Watson OpenScale은 지금 시점에서는 텍스트 기반 모델의 드리프트를 감지할 수 없습니다.
Watson OpenScale은 이미지 데이터에서 훈련된 내 모델에서 드리프트를 감지할 수 있습니까?
Watson OpenScale은 지금 시점에서는 이미지 기반 모델의 드리프트를 감지할 수 없습니다.
Watson OpenScale IBM watsonx.ai 런타임에 배포된 Python 함수에서 드리프트를 감지할 수 있나요?
Watson OpenScale 은 구조화된 데이터 세트에 대해 훈련된 Python 함수에 대한 드리프트를 발견할 수 있습니다. 텍스트 또는 이미지 데이터 세트에서 훈련된 python 함수는 지원되지 않습니다. python 함수의 스코어링 출력에는 분류 문제에 대한 모든 클래스 확률을 포함하는 예측 열 및 확률 열이 포함되어야 합니다.