작업 저장

프롬프트 엔지니어링 작업을 저장하려면 다음 단계를 완료하십시오.

1. 프롬프트 편집기의 헤더에서 작업 저장 아이콘 을 클릭한 다음 다른 이름으로 저장을 클릭합니다.

2. 자산 유형을 선택하십시오.

   배포 가능한 Gen AI 플로우 노트북을 만들기로 선택한 경우, 프롬프트를 배포 스페이스와 연결해야 합니다. 자세한 내용은 배치 공간를 참조하세요.

3. 자산의 이름을 지정한 후 선택적으로 설명을 추가하십시오.

4. Watsonx.governance 전용: 목표에 가장 잘 맞는 태스크 유형을 선택하십시오.

5. 프롬프트를 노트북 자산으로만 저장하는 경우: 저장 후 프로젝트에서 보기를 선택하십시오.

6. 저장 을 클릭하십시오.

노트북에 저장된 프롬프트에 대한 작업

작업을 노트북 자산으로 저장하면 Python 노트북이 빌드됩니다.

프롬프트 노트북 자산으로 작업하려면 노트북 유형에 따라 다음 단계를 완료하세요.

표준 노트북

1. 프로젝트의 자산 탭에서 노트북 자산을 여십시오.

2. 편집 아이콘( )을 클릭하여 노트북을 인스턴스화하여 코드를 단계별로 살펴볼 수 있도록 합니다.

   노트북에는 다음 단계를 관리하는 실행 가능한 코드가 포함되어 있습니다.

   • 서비스를 사용하여 인증합니다.
   • Python 클래스를 정의합니다.
   • 모델의 입력 텍스트를 정의하고 프롬프트 변수를 선언합니다. 정적 프롬프트 텍스트를 편집하고 프롬프트 변수에 값을 지정할 수 있습니다.
   • 정의된 클래스를 사용하여 watsonx.ai 추론 API를 호출하고 사용자의 입력을 foundation model 전달합니다.
   • foundation model 의해 생성된 출력을 표시합니다.
   주: 프로젝트에 저장된 모델을 추론 조정하는 프롬프트의 경우 스페이스 ID를 프로젝트 ID로 바꿉니다.

3. 노트북을 그대로 사용하거나 유스 케이스의 요구에 맞게 변경하십시오.

   Prompt Lab 사용하여 생성된 Python 코드가 성공적으로 실행됩니다. 코드에 대한 변경사항을 테스트하고 유효성을 검증해야 합니다.

배치 노트북

1. 프로젝트의 자산 탭에서 노트북 자산을 여십시오.

2. 편집 아이콘( )을 클릭하여 노트북을 인스턴스화하여 코드를 단계별로 살펴볼 수 있도록 합니다.

   노트북에는 다음 단계를 관리하는 실행 가능한 코드가 포함되어 있습니다.

   • 서비스를 사용하여 인증합니다.
   • 대상 공간에 연결하고 벡터 인덱스를 승격시킵니다.
   • 배포할 Python 함수를 정의합니다. 여기에는 벡터 인덱스를 초기화하고, 벡터 인덱스에 대해 쿼리를 만들고, 모델에 대한 입력 형식을 지정하고, 추론을 실행하는 코드가 포함됩니다.
   • Python 함수를 로컬에서 테스트합니다.
   • Python 함수를 대상 공간에 배포합니다.
   • 배포된 Python 함수를 테스트합니다.

3. 노트북을 그대로 사용하거나 유스 케이스의 요구에 맞게 변경하십시오.

   Prompt Lab 사용하여 생성된 Python 코드가 성공적으로 실행됩니다. 코드에 대한 변경사항을 테스트하고 유효성을 검증해야 합니다.

4. 그만큼Python 노트북에서 배포한 함수는 REST API를 사용하여 사용할 수 있습니다. 다음은 예시입니다cURL 배포 호출을 요청합니다.

   curl --location '${PUBLIC_ENDPOINT}' \
   --header 'Content-Type: application/json' \
   --header 'Authorization: Bearer ${IAM_TOKEN}' \
   --data '{ \
     "input_data": [{
         "fields": ["Search", "Access token"],
         "values": [
           [${MESSAGES}],
           [${IAM_TOKEN}]]
       }]
   }'
   

   여기서,

   • PUBLIC_ENDPOINT는 배포의 공개 끝점입니다. 보다 온라인 배포 생성 .
   • IAM_TOKEN은 액세스할 인증 토큰입니다.IBM Cloud 서비스. 보다 프로그래밍 방식 액세스를 위한 자격 증명 .
   • MESSAGES는 다음 스키마를 사용하는 채팅 기록 텍스트 항목의 배열입니다.

   {
      "role": type, // "user" or "assistant"
      "content": content // The text content of the message
   }
   

저장된 프롬프트 템플리트에 대한 작업

저장된 프롬프트로 계속 작업하려면 Prompt Lab 저장된 프롬프트 템플릿 탭에서 해당 프롬프트를 엽니다.

저장된 프롬프트 템플리트를 열면 자동 저장 이 켜집니다. 이는 프롬프트에 대한 변경사항이 저장된 프롬프트 템플리트 자산에 반영됨을 의미합니다. 저장한 프롬프트 템플리트를 변경하지 않고 유지하려면 새 프롬프트 를 클릭하여 새 프롬프트를 시작하십시오.

저장된 프롬프트 템플리트에서 편집 모드를 변경할 수 없습니다.

다른 편집 모드와 달리, 대화 모드에서 저장되는 프롬프트 템플리트도 모델 출력을 저장합니다. 대화 모드에서 저장된 프롬프트 템플리트와 다른 모드로 전환할 수 없습니다.

watsonx.governance 가 프로비저닝될 때 프롬프트 템플리트에 하나 이상의 프롬프트 변수가 포함된 경우 모델 응답의 효율성을 평가할 수 있습니다.

• 프롬프트 변수에 대한 자세한 정보는 재사용 가능한 프롬프트 빌드를 참조하십시오.
• 모델 응답 평가에 대한 자세한 정보는 프로젝트에서 프롬프트 템플리트 평가를 참조하십시오.

저장된 프롬프트 세션에 대한 작업

저장된 프롬프트 세션으로 계속 작업하려면 Prompt Lab 기록 탭에서 해당 세션을 엽니다.

이전 프롬프트 제출을 검토하려면 히스토리에서 프롬프트 항목을 클릭하여 프롬프트 편집기에서 열 수 있습니다. 이전 프롬프트의 결과를 선호하는 경우 복원을 클릭하여 현재 프롬프트로 재설정할 수 있습니다. 이전 프롬프트를 복원하면 현재 프롬프트 세션이 이전 버전의 프롬프트 세션으로 대체됩니다.

자세히 알아보기

• 기초 모델의 보안 및 개인정보 보호정책

상위 주제: Prompt Lab