배포 공간 사용

배포 공간을 튜닝된 모델의 컨테이너로 선택하면 튜닝된 모델이 배포 공간으로 승격된 다음 배포됩니다. 배치 영역은 자산을 배치하는 데 사용하는 다음 서비스와 연관됩니다.

• watsonx.ai 런타임: 머신 러닝 모델을 구축, 학습 및 배포하는 데 사용할 수 있는 도구와 서비스가 포함된 제품입니다. 이 서비스는 전환된 모델을 호스팅합니다.

• IBM Cloud Object Storage: 정형 및 비정형 데이터를 저장하기 위한 안전한 플랫폼입니다. 배포된 모델 에셋은 프로젝트와 연결된 Cloud Object Storage 버킷에 저장됩니다.

자세한 정보는 배치 영역을 참조하십시오.

배포 공간을 사용하려면 다음 단계를 완료하세요:

1. 배포 컨테이너로 배포 공간를 선택한 후 대상 배포 공간 필드에서 배포 공간을 선택합니다.

   배치 영역은 튜닝된 모델이 작성된 프로젝트와 동일한 계정에 있는 기계 학습 인스턴스와 연관되어야 합니다.

   배치 영역이 없는 경우 새 배치 영역 작성을 선택한 후 배치 영역 작성의 단계를 따르십시오.

2. 배치 제공 이름 필드에서 배치에 대한 레이블을 추가하십시오.

   제공 이름은 배치를 식별하는 API 엔드포인트의 URL에서 사용됩니다. 사용자가 추가하는 사람이 읽을 수 있는 이름이 그렇지 않으면 지정되는 긴 시스템 생성 ID를 대체하므로 이름을 추가하는 것이 유용합니다.

   서비스 이름은 또한 해당 서비스 인스턴스 세부사항에서 배치를 추상화합니다. 애플리케이션은 사용자에게 영향을 주지 않고 기본 서비스 인스턴스를 변경할 수 있도록 하는 이 이름을 참조할 수 있습니다.

   이름은 최대 36자까지 가능합니다. 지원되는 문자는 [a-z,0-9, _] 입니다.

   이름은 IBM Cloud 지역에서 고유해야 합니다. 선택한 이름이 이미 사용 중인 경우 제공 이름을 변경하도록 프롬프트가 표시될 수 있습니다.

프로젝트에서 배포 모델 테스트하기

프로젝트에서 튜닝한 모델을 테스트하려면 다음 단계를 완료하세요:

1. 프로젝트에서 디플로이먼트 탭을 클릭합니다.

2. 배치된 모델의 이름을 클릭하십시오.

3. 테스트 탭을 클릭하십시오.

4. 입력 데이터 필드에서 튜닝된 모델이 인식하도록 훈련된 프롬프트 패턴을 따르는 프롬프트를 추가한 후 생성을 클릭하십시오.

   매개변수 설정 보기 를 클릭하여 기본적으로 모델에 적용되는 프롬프트 매개변수를 볼 수 있습니다. 프롬프트 매개변수를 변경하려면 프롬프트 랩으로 이동해야 합니다.

배포 공간에서 배포 모델 테스트하기

배포 공간에서 튜닝된 모델을 테스트하려면 다음 단계를 완료하세요:

1. 탐색 메뉴에서 배치를 선택하십시오.

2. 튜닝된 모델을 배치한 배치 영역의 이름을 클릭하십시오.

3. 배치된 모델의 이름을 클릭하십시오.

4. 테스트 탭을 클릭하십시오.

5. 입력 데이터 필드에서 튜닝된 모델이 인식하도록 훈련된 프롬프트 패턴을 따르는 프롬프트를 추가한 후 생성을 클릭하십시오.

   매개변수 설정 보기 를 클릭하여 기본적으로 모델에 적용되는 프롬프트 매개변수를 볼 수 있습니다. 프롬프트 매개변수를 변경하려면 프롬프트 랩으로 이동해야 합니다.

프롬프트 랩에서 배포 모델 테스트

프롬프트 랩에서 튜닝한 모델을 테스트하려면 다음 단계를 완료하세요:

1. 이전 절차의 단계에 따라 프로젝트 또는 배포 공간에서 배포된 모델을 엽니다.

2. 프로젝트에서 프롬프트 랩에서 열기를 클릭합니다. 배포 공간에서 작업하는 경우 모델을 사용하여 작업할 프로젝트를 선택하라는 메시지가 표시됩니다.

   프롬프트 랩이 열리고 배포한 튜닝된 모델이 모델 필드에서 선택됩니다.

3. 시도 섹션에서 조정된 모델이 인식하도록 훈련된 프롬프트 패턴을 따르는 입력 필드에 프롬프트를 추가한 후 생성을 클릭하십시오.

   프롬프트 편집기를 사용하는 방법에 대한 자세한 정보는 프롬프트 랩을 참조하십시오.