IBM watsonx.ai의 프롬프트 랩에서 다른 기반 모델을 프롬프트하는 실험을 수행하고 샘플 프롬프트를 탐색하며 최상의 프롬프트를 저장하고 공유할 수 있습니다.
프롬프트 랩을 사용하여 추론을 위해 배치된 기반 모델에 제출하는 효과적인 프롬프트를 엔지니어링합니다. 새 기초 모델을 작성하는 데 프롬프트 랩을 사용하지 않습니다.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
요구사항
watsonx.ai 에 등록하고 샌드박스 프로젝트가 있는 경우 모든 요구사항이 충족되고 프롬프트 랩을 사용할 준비가 되었습니다.
프롬프트 랩을 사용하려면 다음 요구사항을 충족해야 합니다.
- 프로젝트가 있어야 합니다.
- 프로젝트에 편집자 또는 관리자 역할이 있어야 합니다.
- 프로젝트에 연결된 watsonx.ai 런타임 서비스 인스턴스가 있어야 합니다. 그렇지 않으면 프롬프트 랩을 열 때 서비스를 연관시키도록 프롬프트가 표시될 수 있습니다.
프롬프트 작성 및 실행
새 프롬프트를 작성하고 실행하려면 다음 단계를 완료하십시오.
watsonx.ai 홈 페이지에서 프로젝트를 선택한 다음 새 자산 > 채팅 및 기초 모델 타일로 프롬프트 빌드 타일을 클릭합니다.
선택사항: 작업할 다른 편집 모드를 선택하십시오 (예: 자유 형식).
foundation model 선택합니다.
팁: 사용 가능한 모든 기초 모델을 보려면 적용된 검색 필터를 제거하십시오.선택사항: 모델 매개변수를 업데이트하거나 프롬프트 변수를 추가하십시오.
프롬프트를 입력하십시오.
보내기 아이콘 '
'을 클릭합니다.구조화 또는 자유 형식 모드에서 생성을 클릭하십시오.
중지 아이콘 '
'을 클릭하여 언제든지 추론 요청을 취소할 수 있습니다.입력의 토큰은 사용된 토큰으로 계산됩니다. 요청이 취소되기 전에 모델에 의해 출력으로 생성된 모든 토큰도 계산됩니다.
현재 프로젝트에서 협업자와 프롬프트를 재사용하거나 공유할 수 있도록 작업을 유지하려면 작업을 프로젝트 자산으로 저장하십시오. 자세한 정보는 프롬프트 저장을 참조하십시오.
샘플 프롬프트를 실행하려면 다음 단계를 완료하십시오.
프롬프트 랩의 샘플 프롬프트 메뉴에서 샘플 프롬프트를 선택하십시오.
편집기에서 프롬프트가 열리고 적절한 모델이 선택됩니다.
생성을 클릭하십시오.
프롬프트 편집 옵션
프롬프트 편집기에 프롬프트를 입력합니다. 프롬프트 편집기에는 다음 편집 모드가 있습니다.
대화 모드
foundation model 채팅하여 모델이 대화 또는 질문 답변 작업을 처리하는 방식을 확인할 수 있습니다.
foundation model 답변할 질문이나 요청을 제출하여 채팅을 시작하세요. 또는 빠른 시작 샘플을 클릭하여 모델에 제출할 수 있습니다. 빠른 시작 샘플이 라마 foundation model 전송됩니다. 다른 foundation model 작업하려면 고유한 프롬프트 텍스트를 추가하세요.
대화의 각 후속 전환은 이전에 교환된 정보를 기반으로 빌드됩니다.
'를 클릭하여 중지하고 변경합니다.대화를 시작하기 전에 모델 선택사항 및 매개변수 설정을 검토하고 조정하십시오. 긴 대화 상자 교환을 지원하기 위해 최대 토큰 매개변수는 높은 기본값으로 설정됩니다. 예를 들어, 모델이 더 많은 출력을 생성하지 않도록 중지 시퀀스를 추가할 수 있습니다.
대화 템플리트
시스템 프롬프트 라는 사전 정의된 텍스트가 대화 시작 시 포함되어 대화에 대한 기본 규칙을 설정합니다. 텍스트를 검토하고 사용자 지정하려면 시스템 프롬프트 수정 아이콘 ' 
'을 클릭합니다.
일부 기초 모델은 프롬프트의 다른 세그먼트를 식별하는 특정 템플리트 (예: 프롬프트 명령어 및 사용자 입력) 를 권장합니다. 채팅 모드는 각 foundation model 권장 형식에 맞게 프롬프트 입력의 구문을 조정합니다. 전체 프롬프트 텍스트 보기 아이콘 ' 
'을 클릭하면 foundation model 제출될 전체 프롬프트 텍스트를 볼 수 있습니다.
팩트의 접지 프롬프트
foundation model 사실적인 출력을 반환할 수 있도록 관련 정보가 포함된 문서를 프롬프트에 추가하세요. 문서 업로드 아이콘 ' 
'을 클릭한 다음 문서 추가를 선택합니다. 자세한 내용은 문서 및 이미지로 채팅하기를 참조하세요.
타사 벡터 저장소에서 관련 데이터를 추가할 수도 있습니다. 문서로 접지 아이콘 ' 
'을 클릭하고 벡터 인덱스를 선택합니다. 자세한 내용은 접지 foundation model 프롬프트에 벡터화된 문서 추가하기를 참조하세요.
대화 모드에서 생략된 기능
다음 기능은 대화 모드에서 생략됩니다.
토큰 사용 수는 대화 모드에서 표시되지 않습니다.
전체 토큰 수에 기여하는 사용자가 제출하는 각각의 새 프롬프트와 함께 대화 히스토리가 전송된다는 점을 기억하십시오.
API를 사용하여 토큰 개수를 직접 확인할 수 있습니다. 전체 프롬프트 텍스트 보기 아이콘 '
'을 클릭하여 전체 프롬프트 텍스트를 열고 복사한 다음 텍스트 토큰화 방법을 사용하여 토큰을 계산합니다.대화 모드에서 프롬프트 변수를 정의할 수 없습니다. 따라서 저장된 대화 프롬프트 템플리트를 통제할 수 없습니다.
프롬프트 랩에서 대화 모드를 표시하는 이 비디오를 보십시오.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
구조화된 모드
구조화된 모드는 새 사용자가 효과적인 프롬프트를 작성할 수 있도록 설계되었습니다. 필드의 텍스트는 템플리트 형식으로 모델에 전송됩니다.
프롬프트의 일부를 적절한 필드에 추가합니다.
지시사항: 유스 케이스에 적합한 경우 지시사항을 추가하십시오. 명령어는 다음 기사 요약과 같은 필수 명령문입니다.
예제: 원하는 입력 및 해당 출력을 포함하는 하나 이상의 예제 쌍을 추가하십시오. 프롬프트에 몇 가지 예제 입력 및 출력 쌍을 제공하는 것을 몇 번의 프롬프트라고 합니다.
입력 또는 출력에 특정 접두부가 필요한 경우 기본 레이블 "Input:" 또는 "Output:" 을 사용할 레이블로 바꿀 수 있습니다. 예를 들어 기본 레이블을 foundation model 프롬프트 튜닝할 때 학습 데이터에 사용된 사용자 지정 레이블로 바꿀 수 있습니다.
예제 레이블과 예제 텍스트 사이에 공백이 추가됩니다.
입력 테스트: 시도 영역에서 프롬프트의 최종 입력을 입력하십시오.
자유 양식 모드
프롬프트를 일반 텍스트로 추가합니다. 프롬프트 텍스트는 사용자가 입력한 대로 정확하게 모델에 전송됩니다.
구조화된 입력을 제출하고 프롬프트를 형식화하는 방법을 알고 싶을 때 자유 양식 모드를 선택하는 것이 좋습니다.
모델 및 프롬프트 구성 옵션
프롬프트할 모델을 지정해야 하며 선택적으로 생성된 결과를 제어하는 매개변수를 설정할 수 있습니다.
모델 선택사항
프롬프트 랩에서 watsonx.ai에서 지원되는 모든 모델에 프롬프트를 제출할 수 있습니다. 드롭 다운 목록에서 최근에 사용한 모델을 선택할 수 있습니다. 또는 모든 기본 모델 보기 를 클릭하여 지원되는 모든 모델을 보고, 태스크별로 필터링하며, 모델에 대한 상위 레벨 정보를 읽을 수 있습니다.
Tuning Studio 사용하여 foundation model 튜닝하고 튜닝된 모델을 배포했거나 사용자 지정 foundation model 배포한 경우에는 프롬프트 랩에서 튜닝된 모델 또는 사용자 지정 모델도 프롬프트에 표시할 수 있습니다.
모델 모수
프롬프트에 대한 응답으로 모델이 출력을 생성하는 방법을 제어하기 위해 디코딩 매개변수 및 중지 기준을 지정할 수 있습니다. 자세한 정보는 프롬프트를 위한 모델 매개변수를 참조하십시오.
프롬프트 변수
프롬프트에 유연성을 추가하기 위해 프롬프트 변수를 정의할 수 있습니다. 프롬프트 변수는 작성 시 프롬프트의 정적 텍스트에 포함시키고 런타임 시 동적으로 텍스트로 바꾸는 플레이스홀더 키워드입니다. 자세한 정보는 재사용 가능 프롬프트 빌드를 참조하십시오.
전체 프롬프트 텍스트 보기
다음과 같은 상황에서 foundation model 제출되는 전체 프롬프트 텍스트를 보고 싶을 수 있습니다:
- 프롬프트 변수가 사용 중인 경우 컨텍스트에서 해석된 변수 값을 확인합니다.
- 대화 모드에서는 서로 다른 기본 모델에 대해 권장되는 프롬프트 형식이 자동으로 적용됩니다.
- 구조화된 모드에서는 프롬프트의 일부를 별도의 필드에 추가합니다.
AI 가드레일
AI 가드레일 전환기를 켜짐으로 설정하면 모델에서 생성되는 출력 및 입력 프롬프트 텍스트에서 유해한 언어가 자동으로 제거됩니다. 특히, 유해한 언어를 포함하는 입력 또는 출력의 모든 문장은 잠재적으로 유해한 텍스트가 제거되었음을 알리는 메시지로 대체됩니다.
자세한 정보는 유해한 컨텐츠 제거를 참조하십시오.
프롬프트 코드
프롬프트를 프로그래밍 방식으로 실행하려는 경우 프롬프트 코드를 보고 복사하거나 Python 라이브러리를 사용할 수 있습니다.
코드 보기
코드 보기 아이콘 ' 
'을 클릭하면 프롬프트 랩 외부에서 호출하여 선택한 모델에 현재 프롬프트 및 매개 변수를 제출하고 생성된 응답을 얻을 수 있는 cURL 명령이 표시됩니다.
이 명령에는 IBM Cloud IAM 토큰에 대한 플레이스홀더가 포함되어 있습니다. 액세스 토큰 생성에 대한 자세한 내용은 IBM Cloud IAM 토큰 생성을 참조하세요.
프롬프트 랩에 대한 프로그래밍 방식의 대안
Prompt Lab 그래픽 인터페이스는 프롬프트를 실험하고 반복하기에 좋은 위치입니다. 그러나 Python 라이브러리 또는 REST API를 사용하여 watsonx.ai 에서 프로그래밍 방식으로 기초 모델을 프롬프트할 수도 있습니다. 세부사항은 생성 AI 솔루션 코딩을 참조하십시오.
사용 가능한 프롬프트
측면 패널에서 샘플 프롬프트, 세션 히스토리 및 저장된 프롬프트에 액세스할 수 있습니다.
샘플
샘플 프롬프트 콜렉션은 프롬프트 랩에서 사용 가능합니다. 샘플은 분류, 추출, 컨텐츠 생성, 질문 응답 및 요약을 포함하여 다양한 태스크에 대한 효과적인 프롬프트 텍스트 및 모델 매개변수를 보여줍니다.
샘플을 클릭하면 프롬프트 텍스트가 편집기에 로드되고 적절한 모델이 선택되며 최적 매개변수가 자동으로 구성됩니다.
히스토리
다른 프롬프트 텍스트, 모델 선택사항 및 매개변수를 실험할 때 프롬프트를 제출할 때마다 세션 히스토리에서 세부사항이 캡처됩니다. 이전 프롬프트를 로드하려면 히스토리에서 항목을 클릭한 후 복원을 클릭하십시오.
저장됨
저장된 프롬프트 템플리트 메뉴에서 현재 프로젝트에 저장한 프롬프트를 프롬프트 템플리트 자산으로 로드할 수 있습니다.
watsonx.governance 가 프로비저닝될 때 프롬프트 템플리트에 하나 이상의 프롬프트 변수가 포함된 경우 모델 응답의 효율성을 평가할 수 있습니다. 자세한 정보는 프로젝트에서 프롬프트 템플리트 평가를 참조하십시오.
자세히 알아보기
다음 학습서를 사용해 보십시오.
다음과 같은 다른 프롬프트 랩 비디오를 보십시오.
상위 주제: 생성 AI 솔루션 개발