0 / 0
영어 버전 문서로 돌아가기
사용자 지정 foundation model 대한 배포 관리하기
마지막 업데이트 날짜: 2024년 11월 28일
사용자 지정 foundation model 대한 배포 관리하기

사용자 지정 foundation model 배포한 후에는 배포를 관리하고 업데이트할 수 있습니다.

배포 공간 UI에서 또는 프로그래밍 방식으로 배포된 foundation model 관리하고 업데이트할 수 있습니다.

배포 공간에서 사용자 지정 foundation model 배포 관리하기

배포 공간에서 사용자 지정 모델 배포의 성능에 액세스, 업데이트, 확장, 삭제 및 모니터링할 수 있습니다.

배포 공간에서 배포 세부 정보에 액세스하기

배포 세부 정보를 검토하거나 업데이트하려면 다음 단계를 따르세요:

  1. 배포 공간의 디플로이먼트 탭에서 배포 이름을 클릭합니다.
  2. 배포 세부 정보 탭을 클릭하여 사용자 지정 foundation model 배포와 관련된 정보에 액세스합니다.
주: 조직에서 사용 사례 중 하나를 사용하여 자산을 추적하고 관리하는 경우 추적된 자산의 배포 정보는 관련 사용 사례의 팩트 시트에 기록됩니다.

배포 공간에서 배포 세부 정보 업데이트하기

이름, 서비스 이름, 설명, 하드웨어 사양 등 사용자 지정 foundation model 배포에 대한 세부 정보를 업데이트할 수 있습니다. 자세한 내용은 배포 업데이트하기를 참조하세요.

배포 공간에서 배포 확장하기

배포를 위해 생성되는 복사본의 수를 늘려 배포를 확장할 수 있습니다. 자세한 내용은 배포 확장하기를 참조하세요.

배치 영역에서 배치 삭제

더 이상 필요하지 않은 경우 사용자 지정 foundation model 배포를 삭제하여 리소스를 확보할 수 있습니다. 자세한 내용은 배포 삭제하기를 참조하세요.

참고:

사용자 지정 foundation model 주기적으로 사용하는 워크플로에서는 배포할 때마다 모델에 동일한 서비스 이름을 할당하는 것이 좋습니다. 이렇게 하면 모델을 삭제했다가 다시 배포한 후에도 코드에서 동일한 엔드포인트를 계속 사용할 수 있습니다.

배포 공간에서 배포 성능 모니터링하기

사용자 지정 foundation model 배포를 평가하여 성능을 측정하고 모델 예측을 이해하기 위해 watsonx.governance 인스턴스를 프로비저닝하고 공정성, 품질, 드리프트 및 설명 가능성에 대한 모니터를 구성하여 모델 예측을 이해할 수 있습니다. 자세한 내용은 watsonx.governance 있는 공간에서 배포 평가하기를 참조하세요.

프로그래밍 방식으로 사용자 지정 foundation model 배포 관리하기

전제조건

프로그래밍 방식으로 사용자 지정 모델 배포의 성능에 액세스, 업데이트, 확장, 삭제 및 모니터링할 수 있습니다.

watsonx.ai API를 사용하려면 무기명 토큰이 필요합니다. 자세한 내용은 프로그래머틱 액세스를 위한 자격증명를 참조하세요.

프로그래밍 방식으로 배포 업데이트하기

프로그래밍 방식으로 배포를 업데이트하거나 삭제하려면 먼저 배포된 모델 목록 가져오기을 검색하여 배포에 대한 올바른 메타데이터를 찾습니다.

배포된 모델 목록 가져오기

지정된 프로젝트 ID에 대한 배포 목록을 가져옵니다. 사용자 지정 기반 모델을 가리키는 모든 배포를 필터링하려면 type=custom_foundation_model 쿼리 매개 변수를 사용합니다. 이 예제 코드를 참조하세요:

curl -X GET "https://<your cloud hostname>/ml/v4/deployments?version=2024-01-29&project_id=<your project ID>&type=custom_foundation_model" \
-H "Authorization: Bearer $TOKEN"

배포된 모델에서 업데이트할 수 있는 필드입니다:

  • name
  • description
  • tags
  • serving_name
  • asset
  • hardware_spec
  • software_spec
  • /online/parameters
  • /online/parameters/serving_name
  • /online/parameters/foundation_model

예를 들어,

curl -X PATCH "https://<your cloud hostname>//ml/v4/deployments/<your deployment ID>?version=2024-01-29&project_id=<your project ID>" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '[{
 "op": "replace",
 "path": "/name",
 "value": "<updated deployment name>"
}]'

프로그래밍 방식으로 배포 삭제하기

사용자 정의 foundation model 배포를 삭제하려면 다음 코드를 사용하세요:

curl -vk -X DELETE "https://<your cloud hostname>/ml/v4/deployments/<your deployment ID>?version=2024-01-29&project_id=<your project ID>" -H "Authorization: Bearer $TOKEN"

배포 공간에서 배포 성능 모니터링하기

사용자 지정 foundation model 배포를 평가하여 성능을 측정하고 모델 예측을 이해하기 위해 watsonx.governance 인스턴스를 프로비저닝하고 공정성, 품질, 드리프트 및 설명 가능성에 대한 모니터를 구성하여 모델 예측을 이해할 수 있습니다. 자세한 내용은 watsonx.governance 있는 공간에서 배포 평가하기를 참조하세요.

프로그래밍 방식으로 배포 확장하기

프로그래밍으로 배포 확장하기를 참조하세요.

다음 단계

사용자 지정 foundation model 메시지를 표시하는 방법 알아보기

상위 주제: 사용자 지정 파운데이션 모델 배포