프롬프트 템플리트를 배치 영역으로 승격

프롬프트 템플릿을 배포 공간으로 승격하려면 프롬프트 템플릿에 변수가 하나 이상 포함되어 있어야 합니다.

프롬프트 템플릿을 배포할 때 다음과 같은 추가 고려 사항을 참고하세요:

• 모델 배포를 만든 프로젝트 또는 공간에서 모델 배포를 참조하는 프롬프트 템플릿의 배포는 모델 배포를 만든 프로젝트 또는 공간에서만 만들 수 있습니다. 배포된 모델을 참조하는 템플릿을 스페이스로 승격하면 모델 자산의 사본이 스페이스에 자동으로 추가됩니다. 프롬프트 템플릿을 배포하기 전에 해당 공간에 모델을 배포해야 합니다.
• 배포된 모델을 참조하는 프롬프트 템플릿을 내보내는 경우 연결된 모델 자산이 프롬프트 템플릿과 함께 자동으로 내보내집니다. 템플릿을 새 컨테이너로 가져오면 모델도 함께 가져옵니다. 프롬프트 템플릿을 배포하기 전에 모델을 새 컨테이너에 배포해야 합니다.

프롬프트 템플릿을 배포 공간으로 가져오기

변수가 없는 프롬프트 템플릿을 배포하려면 프롬프트 템플릿 에셋이 포함된 프로젝트를 내보내고 프로젝트를 배포 공간으로 가져와야 합니다.

배치된 프롬프트 템플리트 테스트

배치가 완료되면 배치 이름을 클릭하여 배치를 보십시오.

• API 참조 탭에는 이 프롬프트 템플리트를 애플리케이션에 추가하는 데 필요한 API 엔드포인트 및 코드 스니펫이 포함되어 있습니다.
• 테스트 탭은 프롬프트 템플리트 테스트를 지원합니다. 테스트 데이터를 텍스트, 스트림된 텍스트 또는 JSON 파일로 입력하십시오.

watsonx.governance 서비스가 사용으로 설정된 경우 다음 탭도 표시됩니다.

• 평가 는 공간에서 프롬프트 템플리트를 평가하기 위한 도구를 제공합니다. 활성화 를 클릭하여 평가할 차원을 선택하십시오. 세부사항은 프롬프트 템플리트 평가를 참조하십시오.
• AI Factsheets 는 프롬프트 템플리트에 대해 수집되는 모든 메타데이터를 표시합니다. 통제 및 준수 목표에 대한 프롬프트 템플리트를 추적하려면 이 세부사항을 사용하십시오. 프롬프트 템플리트 추적을 참조하십시오.

프롬프트 템플릿을 프로그래밍 방식으로 배포하기

프로그래밍 방식으로 프롬프트 템플릿을 배포하는 경우 다음 단계를 따라야 합니다:

1. 모델 에셋과 프롬프트 템플릿을 배포 공간으로 이동합니다. 예를 들어, watsonx.ai API를 사용하는 경우 템플릿을 가져와 prompt.model_id 에 저장된 model_id 을 구문 분석합니다. 데이터 및 AI 공통 코어 API를 사용하는 경우 entity.wx_prompt.prompt.model_id 을 사용하세요. ID는 : 로 분할된 키 문자열입니다. 문자열의 마지막 항목은 템플릿과 연결된 모델 자산을 참조하는 모델 리소스 키입니다.
2. 첫 번째 단계의 모델 리소스 키를 사용하여 템플릿에 배포할 모델을 찾아 모델을 배포합니다. 예를 들어 데이터 및 AI 공통 코어 API를 사용하는 경우 검색 요청은 스페이스 또는 프로젝트 ID( XXX ), 사용자 토큰( YYY ), 프롬프트 템플릿과 연결된 모델 리소스 키( ZZZ )를 찾습니다.

curl --location 'https://api.dataplatform.cloud.ibm.com/v2/asset_types/wml_model/search?space_id=XXX' \
--header 'Authorization: Bearer YYY' \
--header 'Content-Type: application/json' \
--data '{
    "query": "(asset.resource_key:ZZZ)",
    "include": "entity",
    "limit": 100
}'

1. 모델이 성공적으로 배포되면 프롬프트 템플릿을 배포합니다

자세히 알아보기

• 프롬프트 템플리트 추적

• 배치 영역에서 프롬프트 템플리트 평가

• 기초 모델의 보안 및 개인정보 보호정책

• 빠른 시작: 프롬프트 템플리트 평가 및 추적 학습서에 따라 샘플 프롬프트 템플리트를 평가하고 추적하십시오.

• 노트북에서 배치된 프롬프트 템플리트를 사용하여 AI 추론으로 비즈니스 애플리케이션 및 워크플로우를 조작하는 방법에 대한 팁은 블로그 게시물 AI 모델의 관리 및 성능 보장을 위한 IBM watsonx.governance -규정된 접근 방식 을 참조하십시오.

상위 주제: 자산 배치 및 관리