watsonx.governance 에 대한 페이로드 데이터 관리

페이로드 데이터 로깅

Copy link to section

스코어링 요청을 전송할 때 watsonx.governance 는 모델 평가를 사용하도록 모델 트랜잭션을 처리합니다. Watsonx.governance 는 데이터를 스코어링하고 이를 watsonx.governance 데이터 마트 내의 페이로드 로깅 테이블에 레코드로 저장합니다.

페이로드 로깅 테이블에는 프롬프트 템플리트를 평가할 때 다음 열이 포함되어 있습니다.

• 필수 컬럼:
  • 프롬프트 변수: 프롬프트 템플리트에 대해 작성된 변수의 값을 포함합니다.
  • generated_text' : foundation model 생성된 출력을 포함합니다
• 선택적 열:
  • input_token_count: 입력 텍스트의 토큰 수를 포함합니다.
  • generated_token_count: 생성된 텍스트의 토큰 수를 포함합니다.
  • prediction_probability: 낙찰 출력을 나타내는 생성된 토큰의 로그 확률에 대한 집계 값을 포함합니다.

테이블에는 데이터를 스코어링 레코드로 저장하기 위한 시간소인 및 ID열도 포함될 수 있습니다.

다음 예시와 같이 데이터 마트에 지정한 데이터베이스에 액세스하거나 Python SDK를 사용하여 페이로드 로깅 테이블을 볼 수 있습니다:

페이로드 데이터 전송

Copy link to section

머신 러닝 제공업체로 IBM watsonx.ai Runtime을 사용하는 경우, 모델이 점수를 받을 때 watsonx.governance 자동으로 페이로드 데이터를 기록합니다.

평가를 구성한 후에는 페이로드 로깅 엔드포인트를 사용하여 요청 시 평가를 실행하도록 스코어링 요청을 전송할 수도 있습니다. 프로덕션 모델의 경우, CSV 파일을 사용하여 페이로드 데이터를 업로드하여 스코어링 요청을 전송할 수도 있습니다. 자세한 정보는 모델 트랜잭션 전송을 참조하십시오.

자세히 알아보기

Copy link to section

페이로드 로깅

상위 주제: 모델 평가를 위한 데이터 관리