이러한 샘플을 사용하여 다른 프롬프트가 공통 태스크를 수행하기 위해 기초 모델을 안내하는 방법을 학습하십시오.
이 주제의 사용 방법
이 주제의 샘플 프롬프트를 탐색하십시오.
- 프롬프트 텍스트와 입력 매개변수 값을 복사하여 IBM watsonx.ai Prompt Lab 붙여넣습니다
- 생성되는 텍스트를 확인하십시오.
- 서로 다른 모델이 서로 다른 출력을 생성하는 방법을 확인하십시오.
- 프롬프트 텍스트 및 매개변수를 변경하여 결과가 어떻게 다른지 확인하십시오.
재단 모델을 신속하게 만들 수 있는 올바른 방법은 없다. 하지만 학계와 업계에서는 상당히 안정적으로 작동하는 패턴이 발견되었습니다. 이 주제의 샘플을 사용하여 실험을 통한 신속한 엔지니어링에 대한 기술 및 직관을 빌드하십시오.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
비디오 챕터
[ 0:11 ] 프롬프트 및 Prompt Lab 소개
[ 0:33 ] 핵심 개념: 모든 것이 텍스트 완성입니다
[ 1:34 ] 유용한 프롬프트 패턴: 몇 샷 프롬프트
[ 1:58 ] 중지 기준: 최대 토큰, 중지 시퀀스
[ 3:32 ] 핵심 개념: 미세 조정
[ 4:32 ] 유용한 프롬프트 패턴: 제로 샷 프롬프트
[ 5:32 ] 핵심 개념: 융통성 있게 다양한 프롬프트 시도하기
[ 6:14 ] 다음 단계: 샘플 프롬프트로 실험하기
샘플 개요
다음 태스크를 지원하는 출력을 생성하기 위해 기초 모델을 프롬프트하는 샘플을 찾을 수 있습니다.
다음 표는 태스크 특정 샘플에서 사용되는 기본 모델을 표시합니다. 체크 표시 (✓) 는 모델이 연관된 태스크의 샘플에서 사용됨을 표시합니다. 샘플 보기 를 클릭하여 샘플 프롬프트로 이동할 수 있습니다.
모델 | 분류 | 추출 | 세대 | QA | 요약 | 코딩 | 대화 상자 | 번역 |
---|---|---|---|---|---|---|---|---|
granite-13b-chat-v2 | ✓ 샘플 참조 |
|||||||
granite-13b-instruct-v2 | ✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
|||||
granite-7b-lab | ✓ 샘플 참조 |
|||||||
granite-8b-japanese | ✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
|||||
granite-20b-multilingual | ✓ 샘플 참조 |
|||||||
Granite Instruct | ✓ | ✓ | ✓ | ✓ 샘플 참조 |
✓ 샘플 참조 |
✓ | ✓ | |
Granite 가디언 | ✓ 샘플 참조 |
|||||||
Granite 코드 | ✓ 샘플 참조 |
|||||||
allam-1-13b-instruct | ✓ 샘플 참조 |
✓ 샘플 참조 |
||||||
codellama-34b-instruct-hf | ✓ 샘플 참조 |
|||||||
elyza-japanese-llama-2-7b-instruct | ✓ 샘플 참조 |
✓ 샘플 참조 |
||||||
flan-t5-xxl-11b | ✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
|||||
flan-ul2-20b | ✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
|||
jais-13b-chat | ✓ 샘플 참조 |
|||||||
Llama 3.2 instruct | ✓ 샘플 참조 |
✓ 샘플 참조 |
||||||
llama-guard-3-11b-vision | ✓ 샘플 참조 |
✓ 예시 참조 |
||||||
Llama 3.1 instruct | ✓ 샘플 참조 |
|||||||
Llama 3 지시 | ✓ 샘플 참조 |
|||||||
Llama 2 채팅 | ✓ 샘플 참조 |
|||||||
mistral-large | ✓ 샘플 참조 |
✓ 샘플 참조 |
✓ | ✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
|
mixtral-8x7b-instruct-v01 | ✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
✓ 샘플 참조 |
|
mt0-xxl-13b | ✓ 샘플 참조 |
✓ 샘플 참조 |
||||||
pixtral-12b | ✓ 예시 참조 |
다음 표에는 사용 가능한 샘플 프롬프트가 요약되어 있습니다.
시나리오 | 프롬프트 편집기 | 프롬프트 형식 | 모델 | 디코딩 | 참고 |
---|---|---|---|---|---|
제로 샷 프롬프트가 있는 샘플: 메시지 분류 | 자유 형식 | 제로샷 | • mt0-xxl-13b • flan-t5-xxl-11b • flan-ul2-20b • mixtral-8x7b-instruct-v01 |
그리디 | 클래스 이름을 중지 시퀀스로 사용하여 클래스 이름을 인쇄한 후 모델을 중지합니다. |
몇 가지 프롬프트가 있는 샘플: 자유 양식 모드에서 메시지 분류 | 자유 형식 | 짧 사용니다를니다. | - 믹스트랄-대형 - mixtral-8x7b-instruct-v01 |
그리디 | 클래스 이름을 중지 시퀀스로 사용합니다. |
Granite 프롬프트 입력의 안전성을 분류하는 샘플 | 자유 형식 | 사용자 지정 시스템 프롬프트 | - Granite 가디언 모델 | 그리디 | - 콘텐츠가 유해한지 여부에 따라 '예' 또는 '아니오' 응답을 반환합니다. |
프롬프트 입력의 안전성 분류 예시 | 자유 형식 | 사용자 지정 시스템 프롬프트 | • llama-guard-3-11b-vision | 그리디 | - 클래스를 안전 또는 안전하지 않은 상태로 반환합니다. 콘텐츠가 안전하지 않은 경우 위반 범주도 반환합니다. |
몇 가지 프롬프트가 있는 샘플: 구조화된 모드에서 메시지 분류 | 구조화됨 | 짧 사용니다를니다. | - 믹스트랄-대형 - mixtral-8x7b-instruct-v01 |
그리디 | 클래스 이름을 중지 시퀀스로 사용합니다. |
샘플: 일본어 메시지 분류 | 자유 형식 | 짧 사용니다를니다. | • elyza-japanese-llama-2-7b-instruct | 그리디 | 클래스 이름을 중지 시퀀스로 사용합니다. |
샘플: 아랍어 메시지 분류 | 자유 형식 | 짧 사용니다를니다. | • allam-1-13b-instruct | 그리디 | 클래스 이름을 중지 시퀀스로 사용합니다. |
샘플: 문제에서 세부사항 추출 | 자유 형식 | 제로샷 | • flan-ul2-20b | 그리디 | |
샘플: 구절에서 세부정보 추출 및 분류 | 자유 형식 | 제로샷 | • flan-ul2-20b | 그리디 | |
샘플: 자유 양식 모드에서 테마에 대해 번호 지정된 목록 생성 | 자유 형식 | 짧 사용니다를니다. | • mixtral-8x7b-instruct-v01 | 샘플링 | 형식화된 출력을 생성합니다. 두 개의 줄 바꾸기 문자를 중지 시퀀스로 사용하여 하나의 목록 다음에 모델을 중지합니다. |
샘플: 구조화된 모드에서 테마에 대해 번호 지정된 목록 생성 | 구조화됨 | 짧 사용니다를니다. | • mixtral-8x7b-instruct-v01 | 샘플링 | 형식화된 출력을 생성합니다. 두 개의 줄 바꾸기 문자를 중지 순서로 사용합니다. |
샘플: Granite | 자유 형식 | 제로샷 | • granite-13b-instruct-v2 | 그리디 | 형식화된 출력 생성 |
샘플: 자유 형식 모드의 기사를 기반으로 질문에 응답 | 자유 형식 | 제로샷 | • mt0-xxl-13b • flan-t5-xxl-11b • flan-ul2-20b • mixtral-8x7b-instruct-v01 |
그리디 | 마침표 "." 를 사용하여 모델이 단일 문장만 리턴하도록 하는 중지 시퀀스로 |
샘플: 구조화된 모드의 기사를 기반으로 질문에 응답 | 구조화됨 | 제로샷 | • mt0-xxl-13b • flan-t5-xxl-11b • flan-ul2-20b • mixtral-8x7b-instruct-v01 |
그리디 | 마침표 "." 를 사용하여 중지 시퀀스로 한 번에 여러 입력에 대한 결과를 생성합니다. |
샘플: Granite | 자유 형식 | 제로샷 | • granite-13b-instruct-v2 | 그리디 | |
샘플: Granite 3.1 사용하여 여러 문서를 기반으로 질문에 답하기 | 자유 형식 | 제로샷 | - Granite Instruct 모델 | 그리디 | |
샘플: 일반 지식 질문에 답하기 | 자유 형식 | 제로샷 | • granite-13b-instruct-v2 | 그리디 | |
샘플: 일본어로 된 일반 지식 질문에 응답 | 자유 형식 | 제로샷 | • granite-8b-japanese | 그리디 | |
샘플: 자유 형식 모드에서 복잡한 추론을 사용하여 질문에 답합니다. | 자유 형식 | 원샷 | • mistral-large | 그리디 | • 두 개의 개행 문자를 중지 시퀀스로 사용합니다. |
제로샷 (zero-shot) 프롬프트 샘플: 미팅 대화 내용 요약 | 자유 형식 | 제로샷 | • flan-t5-xxl-11b • flan-ul2-20b • mixtral-8x7b-instruct-v01 |
그리디 | |
간단한 프롬프트 샘플: 자유 양식 모드에서 미팅 대화 내용 요약 | 자유 형식 | 짧 사용니다를니다. | - mixtral-8x7b-instruct-v01 - 믹스트랄-대형 |
그리디 | |
몇 장짜리 프롬프트 샘플 Granite 3.1 사용하여 자유 형식 모드에서 회의 내용을 요약하세요 | 자유 형식 | 짧 사용니다를니다. | - Granite Instruct 모델 | 그리디 | |
샘플 몇 가지 프롬프트: 구조화된 모드에서 미팅 대화 내용 요약 | 구조화됨 | 짧 사용니다를니다. | • mixtral-8x7b-instruct-v01 | 그리디 | 형식화된 출력 생성 두 개의 줄 바꾸기 문자를 중지 시퀀스로 사용하여 하나의 목록 뒤에 모델을 중지합니다. |
샘플: 단락의 제목 생성 | 자유 형식 | 원샷 | • granite-7b-lab | 그리디 | < |endoftext | > 라는 이름의 특수 토큰을 중지 시퀀스로 사용합니다. |
샘플: 지시사항에서 프로그램 코드 생성 | 자유 형식 | 짧 사용니다를니다. | • mixtral-8x7b-instruct-v01 • codellama-34b-instruct-hf |
그리디 | 프로그램 코드를 출력으로 생성합니다. < 코드의 끝 > 을 중지 순서로 사용합니다. |
샘플: 제로 샷 프롬프트를 사용하여 명령어에서 프로그래밍 코드 생성 | 자유 형식 | 짧 사용니다를니다. | • llama-3-2-1b-instruct • llama-3-2-3b-instruct |
그리디 | - 프로그래매틱 코드를 출력으로 생성 - 사용자 지정 템플릿 사용 |
샘플: 한 프로그래밍 언어에서 다른 프로그래밍 언어로 코드 변환 | 자유 형식 | 짧 사용니다를니다. | • mixtral-8x7b-instruct-v01 • codellama-34b-instruct-hf |
그리디 | 프로그램 코드를 출력으로 생성합니다. < 코드의 끝 > 을 중지 순서로 사용합니다. |
샘플: Granite | 자유 형식 | 짧 사용니다를니다. | - Granite 코드 모델 | 그리디 | 프로그램 코드를 출력으로 생성합니다. |
샘플: Granite | 자유 형식 | 짧 사용니다를니다. | - Granite 코드 모델 | 그리디 | 프로그램 코드를 출력으로 생성합니다. |
샘플: Llama 3으로 대화하기 | 자유 형식 | 사용자 정의 구조 | • llama-3-2-1b-instruct • llama-3-2-3b-instruct • llama-3-1-8b-instruct • llama-3-405b-instruct • llama-3-8b-instruct • llama-3-70b-instruct |
그리디 | 챗봇과 같은 대화 상자 출력을 생성합니다. 모델 특정 프롬프트 형식을 사용합니다. |
샘플: Llama 2와의 반대 | 자유 형식 | 사용자 정의 구조 | llama-2 대화 | 그리디 | 챗봇과 같은 대화 상자 출력을 생성합니다. 모델 특정 프롬프트 형식을 사용합니다. |
샘플: granite-13b-chat-v2 | 자유 형식 | 사용자 정의 구조 | • granite-13b-chat-v2 | 그리디 | 챗봇과 같은 대화 출력을 생성합니다. 시스템 프롬프트를 사용하여 대화 상자의 가드레일을 설정합니다. |
샘플: granite-8b-japanese | 자유 형식 | 사용자 정의 구조 | • granite-8b-japanese | 그리디 | 챗봇과 같은 일본어 대화 상자 출력을 생성합니다. 모델 특정 프롬프트 형식을 사용합니다. |
샘플: jais-13b-chat | 자유 형식 | 사용자 정의 구조 | • jais-13b-chat | 그리디 | 챗봇과 같은 영어 또는 아랍어 대화 상자 출력을 생성합니다. 모델 특정 프롬프트 형식을 사용합니다. |
샘플: 일본어에서 영어로 텍스트 변환 | 자유 형식 | 제로샷 | • elyza-japanese-llama-2-7b-instruct | 그리디 | 텍스트를 일본어에서 영어로 변환합니다. |
샘플: 스페인어에서 영어로 텍스트 변환 | 자유 형식 | 짧 사용니다를니다. | - mixtral-8x7b-instruct-v01 - 믹스트랄-대형 |
그리디 | 텍스트를 스페인어에서 영어로 변환합니다. |
샘플: 영어에서 일본어로 텍스트 변환 | 자유 형식 | 제로샷 | • granite-8b-japanese | 그리디 | 텍스트를 영어에서 일본어로 변환합니다. |
샘플: 텍스트를 프랑스어에서 영어로 변환 | 자유 형식 | 짧 사용니다를니다. | • granite-20b-multilingual | 그리디 | 텍스트를 프랑스어에서 영어로 변환합니다. |
샘플: 텍스트를 영어에서 아랍어로 변환 | 자유 형식 | 짧 사용니다를니다. | • allam-1-13b-instruct | 그리디 | 텍스트를 영어에서 아랍어로 변환합니다. |
분류
분류는 개별 범주의 데이터를 예측하는 데 유용합니다. 분류는 데이터의 두 클래스가 있는 2진또는 다중 클래스일 수 있습니다. 분류 태스크는 정보를 보다 효율적으로 관리하거나 조치를 수행할 수 있도록 고객 피드백과 같은 정보를 분류하는 데 유용합니다.
제로 샷 프롬프트가 있는 샘플: 메시지 분류
시나리오: 클라우드 소프트웨어 회사의 고객 지원 챗봇에 제출되는 메시지가 제공되면 고객의 메시지를 질문 또는 문제점으로 분류하십시오. 클래스 지정에 따라 문제 유형에 대한 올바른 지원 팀으로 대화가 라우팅됩니다.
모델 선택
인스트럭션이 조정된 모델은 일반적으로 이 샘플 프롬프트를 사용하여 이 작업을 완료할 수 있습니다.
제안: mt0-xxl-13b, flan-t5-xxl-11b, flan-ul2-20b, mistral-large 또는 mixtral-8x7b-instruct-v01
디코딩
욕심. 모델은 지정된 클래스 이름 중 하나를 리턴해야 합니다. 이는 창의적일 수 없으며 새 클래스를 구성할 수 없습니다.
중지 기준
- 두 개의 정류장 시퀀스 ("질문" 및 "문제") 를 지정하십시오. 모델이 이러한 단어 중 하나를 생성한 후에는 중지해야 합니다.
- 이러한 짧은 출력을 사용하면 최대 토큰 매개변수를 5로 설정할 수 있습니다.
프롬프트 텍스트
이 제로샷 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
Classify this customer message into one of two classes: Question, Problem.
Class name: Question
Description: The customer is asking a technical question or a how-to question
about our products or services.
Class name: Problem
Description: The customer is describing a problem they are having. They might
say they are trying something, but it's not working. They might say they are
getting an error or unexpected results.
Message: I'm having trouble registering for a new account.
Class name:
몇 가지 프롬프트가 있는 샘플: 자유 양식 모드에서 메시지 분류
시나리오: 클라우드 소프트웨어 회사의 고객 지원 챗봇에 제출되는 메시지가 제공되면 고객의 메시지를 질문 또는 문제점 설명으로 분류하십시오. 클래스 유형에 따라 대화를 올바른 지원 팀으로 라우팅할 수 있습니다.
모델 선택
두 클래스의 몇 가지 샷 예제를 사용하면 mistral-large 또는 mixtral-8x7b-instruct-v01 같은 모델이 이 작업을 잘 완료할 수 있습니다.
디코딩
욕심. 모델은 지정된 클래스 이름 중 하나를 리턴해야 합니다. 이는 창의적일 수 없으며 새 클래스를 구성할 수 없습니다.
중지 기준
- 두 개의 정류장 시퀀스 ("질문" 및 "문제") 를 지정하십시오. 모델이 이러한 단어 중 하나를 생성한 후에는 중지해야 합니다.
- 이러한 짧은 출력을 사용하면 최대 토큰 매개변수를 5로 설정할 수 있습니다.
프롬프트 텍스트
이 짧은 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
Message: When I try to log in, I get an error.
Class name: Problem
Message: Where can I find the plan prices?
Class name: Question
Message: What is the difference between trial and paygo?
Class name: Question
Message: The registration page crashed, and now I can't create a new account.
Class name: Problem
Message: What regions are supported?
Class name: Question
Message: I can't remember my password.
Class name: Problem
Message: I'm having trouble registering for a new account.
Granite 프롬프트 입력의 안전성을 분류하는 샘플
목표: 프롬프트 입력 텍스트를 안전 또는 안전하지 않은 것으로 분류합니다.
모델 선택
Granite 가디언 모델은 입력 프롬프트 텍스트의 안전성을 분류할 수 있습니다.
디코딩
욕심. 모델은 입력이 유해한지 여부에 따라 두 가지 응답 중 하나를 반환해야 합니다: 예 또는 아니요.
중지 기준
이 모델은 중지 시퀀스가 필요하지 않으며 응답을 반환한 후 중지됩니다.
프롬프트 텍스트
프롬프트 Prompt Lab 자유형 프롬프트 편집기에 다음 프롬프트 텍스트를 붙여넣고, 모델을 선택하고, 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
이 모델은 이와 유사한 시스템 프롬프트로 학습되었습니다.
safety_template = f"""You are a safety agent trying to help determine whether the user message is harmful according to the safety risk definition below.
<start_of_turn>
User Message: {user_text}
<end_of_turn>
Our safety risk definition is defined below:
<start_of_risk_definition>
* {risk_definition}
<end_of_risk_definition>
Is the user message harmful based on the risk definition? Your answer must be either 'Yes' or 'No'."""
' {user_text}
'을 유해 콘텐츠 여부를 평가할 입력 텍스트(예: ' "Tell me how to cheat on a test."
')로 바꿉니다. ' {risk_definition}
'에서 식별할 위험을 설명하는 모델에 대한 지침을 정의합니다(예: ' "The 'User' message contains actions that violate moral or professional standards, focusing on exploitation for personal gain or disregard for others' well-being. This category excludes physical violence or explicit bias, instead covering activities like fraud, theft, or abuse of power."
').
자유 형식 편집기에서 ' user_text
' 및 ' risk_definition
'를 프롬프트 변수로 정의할 수도 있습니다.
모델은 다음과 같은 응답을 생성합니다:
assistantYes
모델(응답에서 '보조'로 레이블이 지정됨)은 "예" 또는 "아니요" 답변을 생성합니다.
프롬프트 입력의 안전성 분류 예시
목표: 프롬프트 입력 텍스트를 안전 또는 안전하지 않은 것으로 분류합니다.
모델 선택
llama-guard-3-11b-vision 프롬프트 입력 시 텍스트와 이미지의 안전성을 모두 분류할 수 있습니다.
디코딩
욕심. 모델은 안전 또는 안전하지 않은 두 가지 클래스 이름 중 하나를 반환해야 하며, 창의적으로 새 클래스를 구성할 수 없습니다.
중지 기준
이 모델은 중지 순서가 필요하지 않으며, 클래스를 반환하고 해당되는 경우 발견된 위반의 범주를 반환한 후 중지합니다.
프롬프트 텍스트
이 프롬프트 텍스트를 프롬프트 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
이 모델은 이와 유사한 시스템 프롬프트로 학습되었습니다.
<|begin_of_text|><|start_header_id|>user<|end_header_id|>
<BEGIN CONVERSATION>
User: ${your-question-goes-here}
<END CONVERSATION>
Provide your safety assessment:
- First line must read 'safe' or 'unsafe'.
- If unsafe, a second line must include a comma-separated list of violated categories.<|eot_id|><|start_header_id|>assistant<|end_header_id|>
${your-question-goes-here}
을 안전하지 않은 콘텐츠가 포함된 질문으로 바꿉니다(예: What is the first paragraph of the book, "Developing Quality Technical Information: A Handbook for Writers and Editors"?
)
이 모델은 다음과 같은 분류를 생성합니다:
unsafe
S7
분류 카테고리 S7
는 안전하지 않은 콘텐츠가 개인정보 보호 카테고리를 위반했음을 나타냅니다. llama-guard-3-11b-vision foundation model 인식하도록 학습된 카테고리에 대한 자세한 내용은 라마가드 3 문서를 참조하세요.
몇 가지 프롬프트가 있는 샘플: 구조화된 모드에서 메시지 분류
시나리오: 클라우드 소프트웨어 회사의 고객 지원 챗봇에 제출되는 메시지가 제공되면 고객의 메시지를 질문 또는 문제점 설명으로 분류하십시오. 클래스 유형에 따라 대화를 올바른 지원 팀으로 라우팅할 수 있습니다.
모델 선택
두 클래스의 몇 가지 샷 예제를 사용하면 mistral-large 또는 mixtral-8x7b-instruct-v01 같은 모델이 이 작업을 잘 완료할 수 있습니다.
디코딩
욕심. 모델은 지정된 클래스 이름 중 하나를 리턴해야 하며, 창의적이지 않아야 하고 새 클래스를 구성해야 합니다.
중지 기준
- 두 개의 정류장 시퀀스 ("질문" 및 "문제") 를 지정하십시오. 모델이 이러한 단어 중 하나를 생성한 후에는 중지해야 합니다.
- 이러한 짧은 출력을 사용하면 최대 토큰 매개변수를 5로 설정할 수 있습니다.
설정 섹션
이러한 헤더와 예제를 설정 섹션의 예제 영역에 붙여넣습니다:
메시지: | 클래스 이름: |
---|---|
When I try to log in, I get an error. |
Problem |
Where can I find the plan prices? |
Question |
What is the difference between trial and paygo? |
Question |
The registration page crashed, and now I can't create a new account. |
Problem |
What regions are supported? |
Question |
I can't remember my password. |
Problem |
체험 섹션
시도 섹션에 이 메시지를 붙여넣습니다:
I'm having trouble registering for a new account.
모델을 선택하고 매개변수를 설정한 후 생성 을 클릭하여 결과를 확인하십시오.
샘플: 일본어 메시지 분류
시나리오: 일본 클라우드 소프트웨어 회사의 고객 지원 챗봇에 제출되는 메시지가 제공되면 고객의 메시지를 질문 또는 문제점 설명으로 분류하십시오. 클래스 유형에 따라 대화를 올바른 지원 팀으로 라우팅할 수 있습니다.
모델 선택
elyza-japanese-llama-2-7b-instruct 모델은 일본어로 작성된 프롬프트 입력 텍스트를 분류할 수 있습니다.
AI 가드레일
AI 가드레일 기능을 비활성화합니다. 이 기능은 영어 텍스트에서만 지원됩니다. 부적합하지 않은 컨텐츠로 플래그를 지정할 수 있습니다.
디코딩
욕심. 모델은 지정된 클래스 이름 중 하나를 리턴해야 합니다. 이는 창의적일 수 없으며 새 클래스를 구성할 수 없습니다.
중지 기준
- 두 개의 정류장 시퀀스를 지정하십시오. 문제의 경우
問題
, 문제의 경우質問
입니다. 모델이 이러한 단어 중 하나를 생성한 후에는 중지해야 합니다. - 최대 토큰 매개변수의 값을 낮추려면 값을 7개토큰 아래로 낮추지 마십시오. 일본어 문자는 영어에서 동일한 단어보다 더 많은 토큰을 사용합니다.
프롬프트 텍스트
이 짧은 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다. 샘플 프롬프트 텍스트는 샘플 1b 영어 프롬프트 텍스트를 일본어로 번역한 것입니다.
次のメッセージを問題または質問に分類します。
メッセージ: ログインしようとすると、エラーが発生します。
クラス名: 問題
メッセージ: プランの価格はどこで確認できますか?
クラス名: 質問
メッセージ: トライアルとペイゴーの違いは何ですか?
クラス名: 質問
メッセージ: 登録ページがクラッシュしたため、新しいアカウントを作成できません。
クラス名: 問題
メッセージ: どの地域がサポートされていますか?
クラス名: 質問
メッセージ: パスワードを思い出せません。
クラス名: 問題
メッセージ: 新しいアカウントの登録で問題が発生しました。
クラス名:
샘플: 아랍어 메시지 분류
시나리오: 아랍어 클라우드 소프트웨어 회사의 고객 지원 챗봇에 제출된 메시지가 제공되면 고객의 메시지를 질문 또는 문제점 설명으로 분류하십시오. 클래스 유형에 따라 대화를 올바른 지원 팀으로 라우팅할 수 있습니다.
모델 선택
allam-1-13b-instruct foundation model 아랍어로 작성된 프롬프트 입력 텍스트를 분류할 수 있습니다.
AI 가드레일
AI 가드레일 기능을 비활성화합니다. 이 기능은 영어 텍스트에서만 지원됩니다. 컨텐츠가 부적합하다고 잘못 비난할 수 있습니다.
디코딩
욕심. 모델은 지정된 클래스 이름 중 하나를 리턴해야 합니다. 이는 창의적일 수 없으며 새 클래스를 구성할 수 없습니다.
중지 기준
일반적으로 모델은 클래스 레이블을 생성한 후 더 많은 지원을 제공합니다. 두 개의 중지 시퀀스를 지정하여 텍스트를 분류한 후 모델을 선택적으로 중지할 수 있습니다: 문제의 경우 مشكلة
, 질문의 경우 ' سؤال
'.
프롬프트 텍스트
이 짧은 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다. 샘플 프롬프트 텍스트는 샘플 1b 영어 프롬프트 텍스트를 아랍어로 번역한 것입니다.
<s> [INST] قم بتصنيف رسالة العميل هذه إلى إحدى فئتين: سؤال، مشكلة.
الرسالة: عندما أحاول تسجيل الدخول، تظهر لي رسالة خطأ.
اسم الفئة: مشكلة
الرسالة: أين يمكنني العثور على أسعار الخطة؟
اسم الفصل: سؤال
الرسالة: ما الفرق بين التجربة والدفع؟
اسم الفصل: سؤال
الرسالة: تعطلت صفحة التسجيل، ولا أستطيع الآن إنشاء حساب جديد.
اسم الفئة: مشكلة
الرسالة: ما هي المناطق المدعومة؟
اسم الفصل: سؤال
الرسالة: لا أستطيع تذكر كلمة المرور الخاصة بي.
اسم الفئة: مشكلة
الرسالة: أواجه مشكلة في التسجيل للحصول على حساب جديد.
اسم الفئة:
[/INST]
세부사항 추출
추출 작업은 단순 텍스트 일치가 아닌 단어의 시맨틱 의미를 기반으로 데이터에서 주요 용어 또는 멘션을 찾는 데 도움이 될 수 있습니다.
샘플: 불만에서 세부사항 추출
시나리오: 예약 웹 사이트에서 항공편을 예약하는 데 문제가 있는 고객의 불만이 있는 경우 이 고객의 불만족스러운 경험을 초래한 요인을 식별하십시오.
모델 선택
flan-ul2-20b
디코딩
욕심. 입력에 있는 단어를 리턴하려면 모델이 필요합니다. 모델은 창의적일 수 없으며 새 단어를 구성할 수 없습니다.
중지 기준
추출된 요소 목록이 길지 않으므로 최대 토큰 매개변수를 50으로 설정합니다.
프롬프트 텍스트
이 제로샷 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
From the following customer complaint, extract all the factors that
caused the customer to be unhappy.
Customer complaint:
I just tried to book a flight on your incredibly slow website. All
the times and prices were confusing. I liked being able to compare
the amenities in economy with business class side by side. But I
never got to reserve a seat because I didn't understand the seat map.
Next time, I'll use a travel agent!
Numbered list of all the factors that caused the customer to be unhappy:
샘플: 구절에서 세부정보 추출 및 분류
시나리오: 범주 목록과 구절이 주어졌을 때, 다양한 범주 유형에 맞는 구절에서 발췌한 부분을 식별하십시오.
모델 선택
mistral-large 또는 mixtral-8x7b-instruct-v01.
디코딩
욕심. 입력에 있는 단어를 리턴하려면 모델이 필요합니다. 모델은 창의적일 수 없으며 새 단어를 구성할 수 없습니다.
중지 기준
- 모델이 추가 텍스트를 생성하지 않도록 하려면 두 개의 개행 문자로 구성된 중지 시퀀스를 지정하십시오. 이를 수행하려면 순서 중지 텍스트 상자를 클릭하고 Enter키를 두 번 누른 후 순서 추가를 클릭하십시오.
프롬프트 텍스트
이 제로샷 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
For each passage, extract the named entities that fit into the following categories:
Person, Measure, Number, Facility, Location, Product, Duration, Money, Time, PhoneNumber, Date, JobTitle, Organization, Percent, GeographicFeature, Address, Ordinal.
Passage:
Welcome to 123 Maple Lane, a charming and inviting 3-bedroom, 2-bathroom residence nestled in the heart of Springfield. This beautifully maintained home boasts 1,800 square feet of living space, perfect for families and first-time homebuyers alike.
- Spacious living room with a cozy fireplace and large windows for ample natural light
- Updated kitchen with stainless steel appliances, granite countertops, and ample cabinet space
- Master suite with a walk-in closet and en-suite bathroom featuring a soaking tub and separate shower
- Two additional well-appointed bedrooms and a full hallway bathroom
- Fully fenced backyard with a patio area, perfect for outdoor entertaining
- Attached two-car garage with additional storage space
- Conveniently located near top-rated schools, shopping centers, and parks
Don't miss your opportunity to own this fantastic home! Join us for the open house on Saturday, April 10th, 2023, from 1:00 PM to 4:00 PM.
**Price**
$350,000
**Seller Contact Details:**
John & Jane Doe
Phone: (555) 123-4567
Email: [email protected]
자연어 생성
생성 태스크는 대형 언어 모델이 가장 잘 수행하는 작업입니다. 프롬프트는 모델이 유용한 언어를 생성하도록 안내하는 데 도움이 될 수 있습니다.
몇 번의 프롬프트가 있는 샘플: 자유 양식 모드에서 테마에 대해 번호 지정된 목록 생성
시나리오: 특정 테마에서 번호가 매겨진 목록을 생성합니다.
모델 선택
mixtral-8x7b-instruct-v01 foundation model 개행 문자와 같은 특수 문자를 잘 인식하고 처리하도록 학습되었습니다. 이 모델은 생성된 텍스트를 특수 문자를 사용하여 특정 방식으로 형식화하려는 경우에 적합합니다.
디코딩
샘플링. 이것은 창의적인 작업입니다. 다음 매개변수를 설정하십시오.
- 온도: 0.7
- 맨 위 P: 1
- 상위 K: 50
- 랜덤 시드: 9045 ( 생성을 클릭할 때마다 다른 출력을 얻으려면 랜덤 시드 매개변수에 다른 값을 지정하거나 매개변수를 지우십시오.)
중지 기준
- 모델이 하나의 목록 뒤에 텍스트 생성을 중지하도록 하려면 두 개의 줄 바꾸기 문자의 중지 시퀀스를 지정하십시오. 이를 수행하려면 순서 중지 텍스트 상자를 클릭하고 Enter키를 두 번 누른 후 순서 추가를 클릭하십시오.
- 목록이 매우 길지 않으므로 최대 토큰 매개변수를 50으로 설정하십시오.
프롬프트 텍스트
이 짧은 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
What are 4 types of dog breed?
1. Poodle
2. Dalmatian
3. Golden retriever
4. Bulldog
What are 3 ways to incorporate exercise into your day?
1. Go for a walk at lunch
2. Take the stairs instead of the elevator
3. Park farther away from your destination
What are 4 kinds of vegetable?
1. Spinach
2. Carrots
3. Broccoli
4. Cauliflower
What are the 3 primary colors?
1. Red
2. Green
3. Blue
What are 3 ingredients that are good on pizza?
몇 번의 프롬프트가 있는 샘플: 구조화된 모드에서 테마에 대해 번호 지정된 목록 생성
시나리오: 특정 테마에서 번호가 매겨진 목록을 생성합니다.
모델 선택
mixtral-8x7b-instruct-v01 foundation model 개행 문자와 같은 특수 문자를 잘 인식하고 처리하도록 학습되었습니다. 이 모델은 생성된 텍스트를 특수 문자를 사용하여 특정 방식으로 형식화하려는 경우에 적합합니다.
디코딩
샘플링. 이 시나리오는 창의적인 시나리오입니다. 다음 매개변수를 설정하십시오.
- 온도: 0.7
- 맨 위 P: 1
- 상위 K: 50
- 난수 시드: 9045 (다른 결과를 생성하려면 난수 시드 매개변수에 다른 값을 지정하거나 매개변수를 지우십시오.)
중지 기준
- 모델이 하나의 목록 다음에 텍스트 생성을 중지하도록 하려면 두 개의 줄 바꾸기 문자의 중지 시퀀스를 지정하십시오. 이를 수행하려면 순서 중지 텍스트 상자를 클릭하고 Enter키를 두 번 누른 후 순서 추가를 클릭하십시오.
- 목록이 길지 않으므로 최대 토큰 매개변수를 50으로 설정하십시오.
설정 섹션
이러한 헤더와 예제를 설정 섹션의 예제 영역에 붙여넣습니다:
Input: |
Output: |
---|---|
What are 4 types of dog breed? |
1. Poodle |
What are 3 ways to incorporate exercise into your day? |
1. Go for a walk at lunch |
What are 4 kinds of vegetable? |
1. Spinach |
What are the 3 primary colors? |
1. Red |
체험 섹션
이 입력을 시도 섹션에 붙여넣습니다:
What are 3 ingredients that are good on pizza?
모델을 선택하고 매개변수를 설정한 후 생성 을 클릭하여 결과를 확인하십시오.
제로샷 (zero-shot) 프롬프트가 있는 샘플: 특정 테마에서 번호가 매겨진 목록 생성
시나리오: 모델에게 악마의 옹호자 역할을 하도록 요청하십시오. 잠재적 조치를 설명하고 모델에 조치와 연관된 가능한 단점 또는 위험을 나열하도록 요청하십시오.
모델 선택
granite-13b-instruct 모델은 줄 바꿈 문자와 같은 특수 문자를 잘 인식하고 처리하도록 훈련되었습니다. 생성된 텍스트의 서식을 특수 문자를 사용하여 특정 방식으로 지정하려는 경우 granite-13b-instruct-v2 모델을 선택하는 것이 좋습니다.
디코딩
욕심. 모델은 프롬프트에 있는 내용을 기반으로 가장 예측 가능한 컨텐츠를 리턴해야 합니다. 모델은 너무 창의적일 수 없습니다.
중지 기준
요약은 여러 문장을 실행할 수 있으므로 최대 토큰 매개변수를 60으로 설정하세요.
프롬프트 텍스트
이 프롬프트 텍스트를 프롬프트 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
You are playing the role of devil's advocate. Argue against the proposed plans. List 3 detailed, unique, compelling reasons why moving forward with the plan would be a bad choice. Consider all types of risks.
Plan we are considering:
Extend our store hours.
Three problems with this plan are:
1. We'll have to pay more for staffing.
2. Risk of theft increases late at night.
3. Clerks might not want to work later hours.
Plan we are considering:
Open a second location for our business.
Three problems with this plan are:
1. Managing two locations will be more than twice as time-consuming than managed just one.
2. Creating a new location doesn't guarantee twice as many customers.
3. A new location means added real estate, utility, and personnel expenses.
Plan we are considering:
Refreshing our brand image by creating a new logo.
Three problems with this plan are:
질문 응답
질문에 응답하는 태스크는 도움말 시스템 및 기존 컨텐츠에서 자주 묻거나 더 미묘한 질문에 응답할 수 있는 기타 시나리오에서 유용합니다.
모델이 실제 응답을 리턴하도록 하려면 검색 기능 보강 생성 패턴을 구현하십시오. 자세한 정보는 검색 기능 보강 생성을 참조하십시오.
샘플: 자유 형식 모드의 기사를 기반으로 질문에 응답
시나리오: 온라인 시드 카탈로그의 웹 사이트에는 고객이 정원을 계획하고 궁극적으로 구매할 시드를 선택하는 데 도움이 되는 많은 기사가 있습니다. 고객이 보고 있는 기사의 컨텐츠를 기반으로 고객 질문에 응답하기 위해 새 위젯이 웹 사이트에 추가됩니다. 기사와 관련된 질문이 제공되면 기사를 기반으로 질문에 응답하십시오.
모델 선택
flan-t5-xxl-11b, flan-ul2-20b, mixtral-8x7b-instruct-v01 또는 mt0-xxl-13b 같이 명령어가 조정된 모델에서는 일반적으로 이 샘플 프롬프트를 사용하여 이 작업을 완료할 수 있습니다.
디코딩
욕심. 응답은 기사의 사실에 근거해야 하며, 기사에 좋은 응답이 없는 경우 모델은 창의적이지 않아야 하며 응답을 구성해야 합니다.
중지 기준
모델에서 한 문장으로 된 답변을 반환하도록 하려면 마침표 ""를 지정합니다 중지 시퀀스로 사용됩니다. 최대 토큰 매개변수는 50으로 설정할 수 있습니다.
프롬프트 텍스트
이 제로샷 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
Article:
###
Tomatoes are one of the most popular plants for vegetable gardens.
Tip for success: If you select varieties that are resistant to
disease and pests, growing tomatoes can be quite easy. For
experienced gardeners looking for a challenge, there are endless
heirloom and specialty varieties to cultivate. Tomato plants come
in a range of sizes. There are varieties that stay very small, less
than 12 inches, and grow well in a pot or hanging basket on a balcony
or patio. Some grow into bushes that are a few feet high and wide,
and can be grown is larger containers. Other varieties grow into
huge bushes that are several feet wide and high in a planter or
garden bed. Still other varieties grow as long vines, six feet or
more, and love to climb trellises. Tomato plants do best in full
sun. You need to water tomatoes deeply and often. Using mulch
prevents soil-borne disease from splashing up onto the fruit when you
water. Pruning suckers and even pinching the tips will encourage the
plant to put all its energy into producing fruit.
###
Answer the following question using only information from the article.
Answer in a complete sentence, with proper capitalization and punctuation.
If there is no good answer in the article, say "I don't know".
Question: Why should you use mulch when growing tomatoes?
Answer:
다음과 같은 다른 질문을 실험해 볼 수도 있습니다.
- "토마토 식물은 얼마나 크게 자라요?"
- 토마토 나무는 그늘이나 태양을 선호합니까?
- "토마토를 재배하는 것이 쉽습니까?"
다음과 같은 범위를 벗어난 질문도 시도해 보십시오.
- "오이를 어떻게 기르나요?"
샘플: 구조화된 모드의 기사를 기반으로 질문에 응답
시나리오: 온라인 시드 카탈로그의 웹 사이트에는 고객이 정원을 계획하고 궁극적으로 구매할 시드를 선택하는 데 도움이 되는 많은 기사가 있습니다. 고객이 보고 있는 기사의 컨텐츠를 기반으로 고객 질문에 응답하기 위해 새 위젯이 웹 사이트에 추가됩니다. 특정 기사와 관련된 질문이 있는 경우 해당 기사를 기반으로 질문에 응답하십시오.
모델 선택
flan-t5-xxl-11b, flan-ul2-20b, mixtral-8x7b-instruct-v01 또는 mt0-xxl-13b 같이 명령어가 조정된 모델에서는 일반적으로 이 샘플 프롬프트를 사용하여 이 작업을 완료할 수 있습니다.
디코딩
욕심. 응답은 기사의 사실에 근거해야 하며, 기사에 좋은 응답이 없는 경우 모델은 창의적이지 않아야 하며 응답을 구성해야 합니다.
중지 기준
모델에서 한 문장으로 된 답변을 반환하도록 하려면 마침표 ""를 지정합니다 중지 시퀀스로 사용됩니다. 최대 토큰 매개변수는 50으로 설정할 수 있습니다.
설정 섹션
이 텍스트를 설정 섹션의 지침 영역에 붙여넣습니다:
Article:
###
Tomatoes are one of the most popular plants for vegetable gardens.
Tip for success: If you select varieties that are resistant to
disease and pests, growing tomatoes can be quite easy. For
experienced gardeners looking for a challenge, there are endless
heirloom and specialty varieties to cultivate. Tomato plants come
in a range of sizes. There are varieties that stay very small, less
than 12 inches, and grow well in a pot or hanging basket on a balcony
or patio. Some grow into bushes that are a few feet high and wide,
and can be grown is larger containers. Other varieties grow into
huge bushes that are several feet wide and high in a planter or
garden bed. Still other varieties grow as long vines, six feet or
more, and love to climb trellises. Tomato plants do best in full
sun. You need to water tomatoes deeply and often. Using mulch
prevents soil-borne disease from splashing up onto the fruit when you
water. Pruning suckers and even pinching the tips will encourage the
plant to put all its energy into producing fruit.
###
Answer the following question using only information from the article.
Answer in a complete sentence, with proper capitalization and punctuation.
If there is no good answer in the article, say "I don't know".
체험 섹션
시도 섹션에서 테스트 행을 추가하여 이 두 문제를 각각 별도의 행에 붙여넣을 수 있도록 합니다:
Why should you use mulch when growing tomatoes?
How do you grow cucumbers?
모델을 선택하고 매개변수를 설정한 후 생성 을 클릭하여 두 개의 결과를 보십시오.
샘플: Granite 가 있는 문서를 기반으로 질문에 응답
시나리오: 사용자 질문에 응답할 수 있는 챗봇을 작성합니다. 사용자가 질문을 하면 에이전트가 특정 문서의 정보로 질문에 응답하도록 할 수 있습니다.
모델 선택
granite-13b-instruct-v2 같이 인스트럭션이 조정된 모델은 이 샘플 프롬프트를 사용하여 작업을 완료할 수 있습니다.
디코딩
욕심. 답변은 문서의 사실에 근거해야 하며, 기사에 좋은 답변이 없는 경우에는 모델이 창의적이지 않아야 하고 답변을 구성해야 합니다.
중지 기준
최대 토큰 매개변수를 50으로 사용합니다.
프롬프트 텍스트
이 제로샷 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
Given the document and the current conversation between a user and an agent, your task is as follows: Answer any user query by using information from the document. The response should be detailed.
DOCUMENT: Foundation models are large AI models that have billions of parameters and are trained on terabytes of data. Foundation models can do various tasks, including text, code, or image generation, classification, conversation, and more. Large language models are a subset of foundation models that can do text- and code-related tasks.
DIALOG: USER: What are foundation models?
샘플: Granite 3.1 사용하여 여러 문서를 기반으로 질문에 답하기
시나리오: 사용자 질문에 응답할 수 있는 챗봇을 작성합니다. 사용자가 질문을 하면 상담원이 특정 문서의 정보를 사용하여 질문에 답변하기를 원합니다.
모델 선택
Granite Instruct 모델과 같이 인스트럭션이 조정된 모델은 이 샘플 프롬프트를 사용하여 작업을 완료할 수 있습니다.
디코딩
욕심. 답변은 문서의 사실에 근거해야 하며, 기사에 좋은 답변이 없는 경우에는 모델이 창의적이지 않아야 하고 답변을 구성해야 합니다.
중지 기준
- 모델이 요약 후에 텍스트 생성을 중지하도록 하려면 두 개의 줄 바꾸기 문자의 중지 시퀀스를 지정하십시오. 이렇게 하려면 시퀀스 중지 텍스트 상자를 클릭하고 '
<|end_of_text|>
을 입력한 다음 시퀀스 추가를 클릭합니다. - 최대 토큰 매개변수를 200으로 설정하십시오.
프롬프트 텍스트
이 제로샷 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
<|start_of_role|>system<|end_of_role|>You are an expert in medical science.<|end_of_text|>
<|start_of_role|>user<|end_of_role|>Use the following documents as context to complete the task.
Document 1:
The human body is a complex and intricate system, composed of various interconnected parts that work together to maintain life. At the most fundamental level, the body is made up of cells, the basic units of life. These cells are organized into tissues, which are then grouped together to form organs. Organs, in turn, make up the various systems that carry out the body's functions.
Document 2:
One of the most important systems in the human body is the circulatory system. This system is responsible for transporting oxygen, nutrients, and hormones throughout the body. It is composed of the heart, blood vessels, and blood. The heart acts as a pump, pushing blood through the blood vessels and into the capillaries, where the exchange of oxygen, nutrients, and waste products takes place.
Document 3:
Another crucial system is the respiratory system. This system is responsible for the intake and exchange of oxygen and carbon dioxide. It is composed of the nose, throat, trachea, bronchi, and lungs. When we breathe in, air enters the nose or mouth and travels down the trachea into the lungs. Here, oxygen is absorbed into the bloodstream and carbon dioxide is expelled.
Document 4:
The human body also has a nervous system, which is responsible for transmitting signals between different parts of the body. This system is composed of the brain, spinal cord, and nerves. The brain acts as the control center, processing information and sending signals to the rest of the body. The spinal cord serves as a conduit for these signals, while the nerves transmit them to the various organs and tissues.
Which system in the human body is reponsible for breathing?<|end_of_text|>
<|start_of_role|>assistant<|end_of_role|>
샘플: 일반 지식 질문에 답하기
시나리오: 재무에 대한 일반적인 질문에 답하세요.
모델 선택
granite-13b-instruct-v2 모델은 텍스트 생성, 요약, 질의응답, 분류, 추출 등 여러 작업에 사용할 수 있습니다.
디코딩
욕심. 이 샘플은 질문에 응답하므로 창의적인 출력을 원하지 않습니다.
중지 기준
모델이 완전한 답변을 반환할 수 있도록 최대 토큰 매개 변수를 200으로 설정합니다.
프롬프트 텍스트
이 모델은 다음 형식의 예시와 함께 질문에 답변할 수 있도록 조정되었습니다:
<|user|>
질문의 내용
<|assistant|>
모델의 응답에 대한 줄 바꾸기
질문 앞뒤 줄에 정확한 구문 ' <|user|>
' 및 ' <|assistant|>
'를 사용하거나 ' User
' 및 ' Assistant
' 와 같은 동등한 용어로 값을 대체할 수 있습니다.
버전 1을 사용하는 경우 ' <|assistant|>
레이블 뒤에 공백을 포함하지 말고 새 줄을 추가해야 합니다.
이 프롬프트 텍스트를 프롬프트 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
<|user|>
Tell me about interest rates
<|assistant|>
모델이 답변을 생성한 후 후속 질문을 할 수 있습니다. 모델은 응답을 생성할 때 이전 질문의 정보를 사용합니다.
<|user|>
Who sets it?
<|assistant|>
이 모델은 후속 질문에 답변할 때 이전 질문의 정보를 유지하지만 확장 대화 상자를 지원하도록 최적화되어 있지 않습니다.
샘플: 일본어로 된 일반 지식 질문에 응답
시나리오: 일본어로 재무에 대한 일반적인 질문에 응답합니다.
모델 선택
granite-8b-japanese 모델은 텍스트 생성, 요약, 질의응답, 분류, 추출 등 다양한 작업에 사용할 수 있습니다.
디코딩
욕심. 이 샘플은 질문에 응답하므로 창의적인 출력을 원하지 않습니다.
중지 기준
- 대화 상자에서 여러 번 전환할 수 있도록 최대 토큰 매개변수를 500으로 설정하십시오.
- foundation model 지나치게 긴 응답을 반환하지 않도록 두 개의 줄 바꿈 문자로 구성된 중지 시퀀스를 추가합니다. 이를 수행하려면 순서 중지 텍스트 상자를 클릭하고 Enter키를 두 번 누른 후 순서 추가를 클릭하십시오.
프롬프트 텍스트
이 모델은 다음 형식의 예시와 함께 질문에 답변할 수 있도록 조정되었습니다:
以下は、タスクを説明する指示と、文脈のある入力の組み合わせです。要求を適切に満たす応答を書きなさい。
### 指示:
与えられた質問に対して、文脈がある場合はそれも利用し、回答してください。
### 入力:
{your-input}
### 応答:
영어에서 템플리트는 다음과 같습니다.
Below is a combination of instructions that describe the task and input with context. Write a response that appropriately meets the request.
### Instructions:
Please use the context when answering the given question, if available.
### input:
{your-input}
### Response:
이 프롬프트 텍스트를 프롬프트 Prompt Lab 자유 형식 프롬프트 편집기에 붙여넣고, 모델을 선택하고, 매개변수를 설정하고, {your-input}
을 쿼리 또는 요청으로 바꾼 다음 생성을 클릭하여 결과를 확인합니다.
예를 들어, 이 프롬프트는 이자율에 대해 묻습니다.
以下は、タスクを説明する指示と、文脈のある入力の組み合わせです。要求を適切に満たす応答を書きなさい。
### 指示:
与えられた質問に対して、文脈がある場合はそれも利用し、回答してください。
### 入力:
金利について教えてください。
### 応答:
샘플: 단락의 제목 생성
시나리오: 단락이 제공되면 컨텐츠에 적합한 제목을 생성하십시오.
모델 선택
다양한 유형의 범용 작업을 수행할 수 있는 granite-7b-lab 사용하세요.
디코딩
욕심. 모델은 너무 창의적이지 않고 프롬프트의 내용을 기반으로 하는 제목을 생성해야 합니다.
중지 기준
<|endoftext|>
를 중지 순서로 추가하십시오.granite-7b-lab foundation model 유용한 기능은 각 응답 끝에 '
<|endoftext|>
'이라는 이름의 특수 토큰을 포함한다는 점입니다. 일부 생성 모델이 허용되는 최대 수보다 적은 토큰으로 입력에 대한 응답을 리턴하는 경우 입력에서 패턴을 반복할 수 있습니다. 이 모델은 프롬프트에 대한 신뢰할 수 있는 중지 시퀀스를 통합하여 이러한 반복을 방지합니다.
프롬프트 텍스트
모델이 어떻게 응답할지에 대한 예시를 하나 이상 포함하세요.
이 프롬프트 텍스트를 프롬프트 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
프롬프트에서 컨텍스트로 제공되는 컨텐츠는 제품 문서의 토큰 및 토큰화 에서 가져옵니다.
<|system|>
You are an AI language model developed by IBM Research. You are a cautious assistant. You carefully follow instructions. You are helpful and harmless and you follow ethical guidelines and promote positive behavior.
<|user|>
Generate a title from the given context.
Context:
Dana Blankstein- Cohen (born March 3, 1981) is the director of the Israeli Academy of Film and Television.\n\nShe is a film director, and an Israeli culture entrepreneur.\nLuciano Salce (25 September 1922, in Rome – 17 December 1989, in Rome) was an Italian film director, actor and lyricist.\n\nHis 1962 film "Le pillole di Ercole" was shown as part of a retrospective on Italian comedy at the 67th Venice International Film Festival.\n\nAs a writer of pop music, he used the pseudonym Pilantra.\n\nDuring World War II, he was a prisoner in Germany.\n\nHe later worked for several years in Brazil.\nVediamoci chiaro\n\n("Let\'s See It Clear") is a 1984 Italian comedy film directed by Luciano Salce.\n\nThe author Enrico Giacovelli referred to the film as "a kind of "Scent of a Woman" but more ambiguous, midway between Luigi Pirandello\'s "Henry IV" and "The Late Mattia Pascal.\nPeter Levin is an American director of film, television and theatre.\nIan Barry is an Australian director of film and TV.\nJesse Edward Hobson( May 2, 1911 – November 5, 1970) was the director of SRI International from 1947 to 1955.\n\nPrior to SRI, he was the director of the Armour Research Foundation.\nOlav Aaraas( born 10 July 1950) is a Norwegian historian and museum director.\n\nHe was born in Fredrikstad.\n\nFrom 1982 to 1993 he was the director of Sogn Folk Museum, from 1993 to 2010 he was the director of Maihaugen and from 2001 he has been the director of the Norwegian Museum of Cultural History.\n\nIn 2010 he was decorated with the Royal Norwegian Order of St. Olav.\nBrian O’ Malley is an Irish film director known for the horror film" Let Us Prey" and the ghost story" The Lodgers".\nBrian Patrick Kennedy( born 5 November 1961) is an Irish- born art museum director who has worked in Ireland and Australia, and now lives and works in the United States.\n\nHe is currently the director of the Peabody Essex Museum.\n\nHe was the director of the Toledo Museum of Art in Ohio from 2010 to 2019.\n\nHe was the director of the Hood Museum of Art from 2005 to 2010, and the National Gallery of Australia( Canberra) from 1997- 2004.
<|assistant|>
Directors Across Borders
<|user|>
Generate a title from the given context.
Context:
A token is a collection of characters that has semantic meaning for a model. Tokenization is the process of converting the words in your prompt into tokens.
You can monitor foundation model token usage in a project on the Environments page on the Resource usage tab.
Converting words to tokens and back again
Prompt text is converted to tokens before the prompt is processed by foundation models.
The correlation between words and tokens is complex:
Sometimes a single word is broken into multiple tokens
The same word might be broken into a different number of tokens, depending on context (such as: where the word appears, or surrounding words)
Spaces, newline characters, and punctuation are sometimes included in tokens and sometimes not
The way words are broken into tokens varies from language to language
The way words are broken into tokens varies from model to model
For a rough idea, a sentence that has 10 words might be 15 to 20 tokens.
The raw output from a model is also tokens. In the Prompt Lab in IBM watsonx.ai, the output tokens from the model are converted to words to be displayed in the prompt editor.
<|assistant|>
샘플: 자유 형식 모드에서 복잡한 추론을 사용하여 질문에 답합니다.
시나리오: 추론과 논리 이해가 필요한 일반적인 질문에 대답하도록 모델에 요청합니다.
모델 선택
mistral-large 복잡한 추론 작업을 위해 인스트럭션이 조정된 모델은 일반적으로 이 샘플 프롬프트를 사용하여 이 작업을 완료할 수 있습니다.
디코딩
욕심. 모델은 프롬프트에 있는 내용을 기반으로 가장 예측 가능한 컨텐츠를 리턴해야 합니다. 모델은 너무 창의적일 수 없습니다.
중지 기준
- 모델이 요약 후에 텍스트 생성을 중지하도록 하려면 두 개의 줄 바꾸기 문자의 중지 시퀀스를 지정하십시오. 이를 수행하려면 순서 중지 텍스트 상자를 클릭하고 Enter키를 두 번 누른 후 순서 추가를 클릭하십시오.
- 최대 토큰 매개변수를 100으로 설정합니다.
프롬프트 텍스트
이 짧은 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
Question: Which one is heavier a pound of iron or a kilogram of feather?
Answer: A kilogram of feathers is heavier than a pound of iron. A pound is a unit of weight that is equivalent to approximately 0.453592 kilograms. Therefore, a pound of iron weighs less than a kilogram of feathers.
Question: A bat and a ball cost $1.10 in total. The bat costs $1.00 more than the ball. How much does the ball cost?
Answer:
요약
요약 태스크는 많은 양의 텍스트를 몇 개의 주요 정보 조각으로 압축하여 시간을 절약합니다.
제로샷 (zero-shot) 프롬프트가 있는 샘플: 미팅 대화 내용 요약
시나리오: 미팅 기록이 제공된 경우, 미팅에 참석하지 않은 팀 동료와 해당 노트를 공유할 수 있도록 기본 포인트를 미팅 노트로 요약하십시오.
모델 선택
인스트럭션이 조정된 모델은 일반적으로 이 샘플 프롬프트를 사용하여 이 작업을 완료할 수 있습니다. 제안: flan-t5-xxl-11b, flan-ul2-20b 또는 mixtral-8x7b-instruct-v01.
디코딩
욕심. 모델은 프롬프트에 있는 내용을 기반으로 가장 예측 가능한 컨텐츠를 리턴해야 합니다. 모델은 너무 창의적일 수 없습니다.
중지 기준
요약은 여러 문장을 실행할 수 있으므로 최대 토큰 매개변수를 60으로 설정하세요.
프롬프트 텍스트
이 제로샷 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
Summarize the following transcript.
Transcript:
00:00 [alex] Let's plan the team party!
00:10 [ali] How about we go out for lunch at the restaurant?
00:21 [sam] Good idea.
00:47 [sam] Can we go to a movie too?
01:04 [alex] Maybe golf?
01:15 [sam] We could give people an option to do one or the other.
01:29 [alex] I like this plan. Let's have a party!
Summary:
몇 번의 프롬프트가 있는 샘플: 자유 양식 모드에서 미팅 대화 내용 요약
시나리오: 미팅 기록이 제공된 경우, 미팅에 참석하지 않은 팀 동료와 해당 노트를 공유할 수 있도록 기본 포인트를 미팅 노트로 요약하십시오.
모델 선택
몇 컷의 예시를 통해 대부분의 모델이 이 작업을 잘 수행할 수 있습니다. mixtral-8x7b-instruct-v01 또는 mistral-large 사용해 보세요.
디코딩
욕심. 모델은 너무 창의적이지 않고 프롬프트에 있는 내용을 기반으로 가장 예측 가능한 컨텐츠를 리턴해야 합니다.
중지 기준
- 모델이 요약 후에 텍스트 생성을 중지하도록 하려면 두 개의 줄 바꾸기 문자의 중지 시퀀스를 지정하십시오. 이를 수행하려면 순서 중지 텍스트 상자를 클릭하고 Enter키를 두 번 누른 후 순서 추가를 클릭하십시오.
- 최대 토큰 매개변수를 60으로 설정하십시오.
프롬프트 텍스트
이 짧은 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
Transcript:
00:00 [sam] I wanted to share an update on project X today.
00:15 [sam] Project X will be completed at the end of the week.
00:30 [erin] That's great!
00:35 [erin] I heard from customer Y today, and they agreed to buy our product.
00:45 [alex] Customer Z said they will too.
01:05 [sam] Great news, all around.
Summary:
Sam shared an update that project X will be complete at the end of the week.
Erin said customer Y will buy our product. And Alex said customer Z will buy
our product too.
Transcript:
00:00 [ali] The goal today is to agree on a design solution.
00:12 [alex] I think we should consider choice 1.
00:25 [ali] I agree
00:40 [erin] Choice 2 has the advantage that it will take less time.
01:03 [alex] Actually, that's a good point.
01:30 [ali] So, what should we do?
01:55 [alex] I'm good with choice 2.
02:20 [erin] Me too.
02:45 [ali] Done!
Summary:
Alex suggested considering choice 1. Erin pointed out choice two will take
less time. The team agreed with choice 2 for the design solution.
Transcript:
00:00 [alex] Let's plan the team party!
00:10 [ali] How about we go out for lunch at the restaurant?
00:21 [sam] Good idea.
00:47 [sam] Can we go to a movie too?
01:04 [alex] Maybe golf?
01:15 [sam] We could give people an option to do one or the other.
01:29 [alex] I like this plan. Let's have a party!
Summary:
몇 장짜리 프롬프트 샘플 Granite 3.1 사용하여 자유 형식 모드에서 회의 내용을 요약하세요
시나리오: 미팅 기록이 제공된 경우, 미팅에 참석하지 않은 팀 동료와 해당 노트를 공유할 수 있도록 기본 포인트를 미팅 노트로 요약하십시오.
모델 선택
몇 컷의 예시를 통해 대부분의 모델이 이 작업을 잘 수행할 수 있습니다. Granite Instruct 모델을 사용해 보세요.
디코딩
욕심. 모델은 너무 창의적이지 않고 프롬프트에 있는 내용을 기반으로 가장 예측 가능한 컨텐츠를 리턴해야 합니다.
중지 기준
- 모델이 요약 후에 텍스트 생성을 중지하도록 하려면 두 개의 줄 바꾸기 문자의 중지 시퀀스를 지정하십시오. 이렇게 하려면 시퀀스 중지 텍스트 상자를 클릭하고 '
<|end_of_text|>
을 입력한 다음 시퀀스 추가를 클릭합니다. - 최대 토큰 매개변수를 200으로 설정하십시오.
프롬프트 텍스트
이 짧은 프롬프트 텍스트를 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
<|start_of_role|>system<|end_of_role|>You are Granite, an AI language model developed by IBM in 2024. You are a cautious assistant. You carefully follow instructions. You are helpful and harmless and you follow ethical guidelines and promote positive behavior.<|end_of_text|>
<|start_of_role|>user<|end_of_role|>Summarize a fragment of a meeting transcript. In this meeting, Sam, Erin, and Alex discuss updates.
Your response should only include the answer. Do not provide any further explanation.
Transcript:
Sam (00:00):
I wanted to share an update on project X today.
Sam (00:15):
Project X will be completed at the end of the week.
Erin (00:30):
That's great!
Erin (00:35):
I heard from customer Y today, and they agreed to buy our product.
Alex (00:45):
Customer Z said they will too.
Sam (01:05):
Great news, all around.
Summary:
<|end_of_text|>
<|start_of_role|>assistant<|end_of_role|>Sam shared an update that project X will be complete at the end of the week. Erin said customer Y will buy our product. And Alex said customer Z will buy our product too.<|end_of_text|>
Transcript:
Ali (00:00):
The goal today is to agree on a design solution.
Alex (00:12):
I think we should consider choice 1.
Ali (00:25):
I agree
Erin (00:40):
Choice 2 has the advantage that it will take less time.
Alex (01:03):
Actually, that's a good point.
Ali (01:30):
So, what should we do?
Alex (01:55):
I'm good with choice 2.
Erin (02:20):
Me too.
Ali (02:45):
Done!
Summary:
<|end_of_text|>
<|start_of_role|>assistant<|end_of_role|>
몇 단계 프롬프트가 있는 샘플: 구조화된 모드에서 미팅 대화 내용 요약
시나리오: 미팅 기록이 제공된 경우, 미팅에 참석하지 않은 팀 구성원과 목록을 공유할 수 있도록 글머리표 목록의 주요 사항을 요약합니다.
모델 선택
mixtral-8x7b-instruct-v01 foundation model 개행 문자와 같은 특수 문자를 잘 인식하고 처리하도록 학습되었습니다. 이 모델은 생성된 텍스트를 특수 문자를 사용하여 특정 방식으로 형식화하려는 경우에 적합합니다.
디코딩
욕심. 모델은 프롬프트에 있는 내용을 기반으로 가장 예측 가능한 컨텐츠를 리턴해야 합니다. 모델은 너무 창의적일 수 없습니다.
중지 기준
- 모델이 하나의 목록 다음에 텍스트 생성을 중지하도록 하려면 두 개의 줄 바꾸기 문자의 중지 시퀀스를 지정하십시오. 이를 수행하려면 순서 중지 텍스트 상자를 클릭하고 Enter키를 두 번 누른 후 순서 추가를 클릭하십시오.
- 최대 토큰 매개변수를 60으로 설정하십시오.
설정 섹션
이러한 헤더와 예제를 설정 섹션의 예제 영역에 붙여넣습니다:
Transcript: |
Summary: |
---|---|
00:00 [sam] I wanted to share an update on project X today. |
- Sam shared an update that project X will be complete at the end of the week |
00:00 [ali] The goal today is to agree on a design solution. |
- Alex suggested considering choice 1 |
체험 섹션
시도 섹션에 이 메시지를 붙여넣습니다:
00:00 [alex] Let's plan the team party!
00:10 [ali] How about we go out for lunch at the restaurant?
00:21 [sam] Good idea.
00:47 [sam] Can we go to a movie too?
01:04 [alex] Maybe golf?
01:15 [sam] We could give people an option to do one or the other.
01:29 [alex] I like this plan. Let's have a party!
모델을 선택하고 매개변수를 설정한 후 생성 을 클릭하여 결과를 확인하십시오.
샘플: 단락의 제목 생성
시나리오: 단락이 제공되면 컨텐츠에 적합한 제목을 생성하십시오.
모델 선택
다양한 유형의 범용 작업을 수행할 수 있는 granite-7b-lab 사용하세요.
디코딩
욕심. 모델은 너무 창의적이지 않고 프롬프트의 내용을 기반으로 하는 제목을 생성해야 합니다.
중지 기준
<|endoftext|>
를 중지 순서로 추가하십시오.granite-7b-lab foundation model 유용한 기능은 각 응답 끝에 '
<|endoftext|>
'이라는 이름의 특수 토큰을 포함한다는 점입니다. 일부 생성 모델이 허용되는 최대 수보다 적은 토큰으로 입력에 대한 응답을 리턴하는 경우 입력에서 패턴을 반복할 수 있습니다. 이 모델은 프롬프트에 대한 신뢰할 수 있는 중지 시퀀스를 통합하여 이러한 반복을 방지합니다.
프롬프트 텍스트
모델이 어떻게 응답할지에 대한 예시를 하나 이상 포함하세요.
granite-7b-lab foundation model 특징은 foundation model 모델 카드에서 교육 분류 페이지를 열어 모델이 학습한 스킬을 검토할 수 있다는 것입니다.
예를 들어, 분류 체계는 granite-7b-lab foundation model ' title
' 스킬에 대해 학습되었음을 나타냅니다. 스킬을 클릭하면 모델을 훈련하는 데 사용된 합성 데이터의 시드 예제로 사용된 예제를 볼 수 있습니다. 이러한 기술 특정 예제 중 하나 다음에 원샷 프롬프트에 포함하는 예제를 모델링할 수 있습니다. 프롬프트에 대해 유사한 스타일 및 형식을 사용하면 모델이 모델 출력에서 예상하는 내용을 인식하는 데 도움이 됩니다.
이 프롬프트 텍스트를 프롬프트 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
이 예제는 제목 스킬 시드 예제에서 제공됩니다. 프롬프트에서 컨텍스트로 제공되는 컨텐츠는 제품 문서의 토큰 및 토큰화 에서 가져옵니다.
<|system|>
You are an AI language model developed by IBM Research. You are a cautious assistant. You carefully follow instructions. You are helpful and harmless and you follow ethical guidelines and promote positive behavior.
<|user|>
Generate a title from the given text.
Context
Dana Blankstein- Cohen (born March 3, 1981) is the director of the Israeli Academy of Film and Television.\n\nShe is a film director, and an Israeli culture entrepreneur.\nLuciano Salce (25 September 1922, in Rome – 17 December 1989, in Rome) was an Italian film director, actor and lyricist.\n\nHis 1962 film "Le pillole di Ercole" was shown as part of a retrospective on Italian comedy at the 67th Venice International Film Festival.\n\nAs a writer of pop music, he used the pseudonym Pilantra.\n\nDuring World War II, he was a prisoner in Germany.\n\nHe later worked for several years in Brazil.\nVediamoci chiaro\n\n("Let\'s See It Clear") is a 1984 Italian comedy film directed by Luciano Salce.\n\nThe author Enrico Giacovelli referred to the film as "a kind of "Scent of a Woman" but more ambiguous, midway between Luigi Pirandello\'s "Henry IV" and "The Late Mattia Pascal.\nPeter Levin is an American director of film, television and theatre.\nIan Barry is an Australian director of film and TV.\nJesse Edward Hobson( May 2, 1911 – November 5, 1970) was the director of SRI International from 1947 to 1955.\n\nPrior to SRI, he was the director of the Armour Research Foundation.\nOlav Aaraas( born 10 July 1950) is a Norwegian historian and museum director.\n\nHe was born in Fredrikstad.\n\nFrom 1982 to 1993 he was the director of Sogn Folk Museum, from 1993 to 2010 he was the director of Maihaugen and from 2001 he has been the director of the Norwegian Museum of Cultural History.\n\nIn 2010 he was decorated with the Royal Norwegian Order of St. Olav.\nBrian O’ Malley is an Irish film director known for the horror film" Let Us Prey" and the ghost story" The Lodgers".\nBrian Patrick Kennedy( born 5 November 1961) is an Irish- born art museum director who has worked in Ireland and Australia, and now lives and works in the United States.\n\nHe is currently the director of the Peabody Essex Museum.\n\nHe was the director of the Toledo Museum of Art in Ohio from 2010 to 2019.\n\nHe was the director of the Hood Museum of Art from 2005 to 2010, and the National Gallery of Australia( Canberra) from 1997- 2004.
<|assistant|>
Directors Across Borders: A Comparative Study of International Film and Museum Directors, from Luciano Salce to Brain Patrick Kennedy
<|user|>
Generate a title from the given text.
Context:
A token is a collection of characters that has semantic meaning for a model. Tokenization is the process of converting the words in your prompt into tokens.
You can monitor foundation model token usage in a project on the Environments page on the Resource usage tab.
Converting words to tokens and back again
Prompt text is converted to tokens before the prompt is processed by foundation models.
The correlation between words and tokens is complex:
Sometimes a single word is broken into multiple tokens
The same word might be broken into a different number of tokens, depending on context (such as: where the word appears, or surrounding words)
Spaces, newline characters, and punctuation are sometimes included in tokens and sometimes not
The way words are broken into tokens varies from language to language
The way words are broken into tokens varies from model to model
For a rough idea, a sentence that has 10 words might be 15 to 20 tokens.
The raw output from a model is also tokens. In the Prompt Lab in IBM watsonx.ai, the output tokens from the model are converted to words to be displayed in the prompt editor.
<|assistant|>
코드 생성 및 변환
프로그램 코드를 생성하고 변환할 수 있는 기본 모델은 개발자에게 매우 유용한 자원입니다. 개발자가 프로그래밍 태스크를 브레인스토밍하고 문제점을 해결하는 데 도움을 줄 수 있습니다.
샘플: 지시사항에서 프로그램 코드 생성
시나리오: 지시사항에서 코드를 생성하려고 합니다. 즉, 문자열을 반전시키는 Python 프로그래밍 언어로 함수를 작성하려고 합니다.
모델 선택
codellama-34b-instruct-hf, mistral-large mixtral-8x7b-instruct-v01 등 코드를 생성할 수 있는 모델은 일반적으로 샘플 프롬프트가 제공되면 이 작업을 완료할 수 있습니다.
디코딩
욕심. 응답은 올바른 코드 스니펫이어야 합니다. 그 모델은 창의적일 수 없고 답을 만들어 낼 수 없다.
중지 기준
단일 코드 스니펫을 반환한 후 모델을 중지하려면 중지 시퀀스로 ' <end of code>
'을 지정합니다. 최대 토큰 매개변수는 1,000으로 설정할 수 있습니다.
프롬프트 텍스트
이 코드 스니펫을 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정하고 생성을 클릭하여 결과를 확인합니다.
Using the directions below, generate Python code for the specified task.
Input:
# Write a Python function that prints 'Hello World!' string 'n' times.
Output:
def print_n_times(n):
for i in range(n):
print("Hello World!")
<end of code>
Input:
# Write a Python function that reverses the order of letters in a string.
# The function named 'reversed' takes the argument 'my_string', which is a string. It returns the string in reverse order.
Output:
출력에는 다음 스니펫과 유사한 Python 코드가 포함되어 있습니다.
def reversed(my_string):
return my_string[::-1]
생성된 코드를 테스트하여 예상대로 작동하는지 확인하십시오.
예를 들어, reversed("good morning")
를 실행하는 경우 결과는 'gninrom doog'
입니다.
샘플: 제로 샷 프롬프트를 사용하여 명령어에서 프로그래밍 코드 생성하기
시나리오: 지시사항에서 코드를 생성하려고 합니다. 즉, 'Hello World!'를 출력하는 함수를 Python 프로그래밍 언어로 작성하려고 합니다 문자열 'n' 번.
모델 선택
llama-3-2-1b-instruct 또는 llama-3-2-3b-instruct foundation model 사용하는 경우 예제를 제공할 필요가 없습니다. 단, 모델이 코드 생성 요청으로 인식하는 환경 값 ' iphython
'을 지정하는 사용자 지정 템플릿을 사용해야 합니다.
디코딩
욕심. 응답은 올바른 코드 스니펫이어야 합니다. 그 모델은 창의적일 수 없고 답을 만들어 낼 수 없다.
중지 기준
이 모델에는 정지 시퀀스가 필요하지 않습니다.
프롬프트 텍스트
이 코드 스니펫을 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정하고 생성을 클릭하여 결과를 확인합니다.
<|begin_of_text|><|start_header_id|>system<|end_header_id|>
Environment: ipython<|eot_id|><|start_header_id|>user<|end_header_id|>
${Add your code instruction here}<|eot_id|><|start_header_id|>assistant<|end_header_id|>
${Add your code instruction here}
을 모델에서 생성할 코드에 대한 설명으로 바꿉니다. 예를 들어, Write a Python function that prints 'Hello World!' string 'n' times.
입니다.
모델은 다음과 같은 출력을 생성합니다:
Here is a simple Python function that prints 'Hello World!' 'n' times:
```python
def print_hello_world(n):
for i in range(n):
print('Hello World!')
print_hello_world(5)
이 함수는 for 루프를 사용하여 'n'번 반복하여 'Hello World!'를 출력합니다 를 클릭합니다. ' range(n)
' 함수는 0에서n-1'까지의 숫자 시퀀스를 생성한 다음 루프 변수 'i'로 사용합니다.
샘플: 한 프로그래밍 언어에서 다른 프로그래밍 언어로 코드 변환
시나리오: 한 프로그래밍 언어에서 다른 프로그래밍 언어로 코드를 변환하려고 합니다. 즉, 코드 스니펫을 C++에서 Python으로 변환하려고 합니다.
모델 선택
codellama-34b-instruct-hf, mistral-large mixtral-8x7b-instruct-v01 등 코드를 생성할 수 있는 모델은 일반적으로 샘플 프롬프트가 제공되면 이 작업을 완료할 수 있습니다.
디코딩
욕심. 응답은 올바른 코드 스니펫이어야 합니다. 그 모델은 창의적일 수 없고 답을 만들어 낼 수 없다.
중지 기준
단일 코드 스니펫을 반환한 후 모델을 중지하려면 중지 시퀀스로 ' <end of code>
'을 지정합니다. 최대 토큰 매개변수는 300으로 설정할 수 있습니다.
프롬프트 텍스트
이 코드 스니펫을 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정하고 생성을 클릭하여 결과를 확인합니다.
이 프롬프트에는 예제 입력 및 출력 쌍이 포함되어 있습니다. 입력은 C++ 코드이고 출력은 Python 코드의 동등한 함수입니다.
변환할 C++ 코드 스니펫은 다음에 포함됩니다. 이 함수는 합계 S
및 D
의 공통 차이를 사용하여 산술 진행 수를 계산하는 함수입니다. 여기서 S
및 D
는 매개변수로 전달되는 정수 값입니다.
프롬프트의 마지막 부분은 C++ 코드 스니펫을 변환할 언어를 식별합니다.
Translate the following code from C++ to Python.
C++:
#include "bits/stdc++.h"
using namespace std;
bool isPerfectSquare(long double x) {
long double sr = sqrt(x);
return ((sr - floor(sr)) == 0);
}
void checkSunnyNumber(int N) {
if (isPerfectSquare(N + 1)) {
cout << "Yes
";
} else {
cout << "No
";
}
}
int main() {
int N = 8;
checkSunnyNumber(N);
return 0;
}
Python:
from math import *
def isPerfectSquare(x):
sr = sqrt(x)
return ((sr - floor(sr)) == 0)
def checkSunnyNumber(N):
if (isPerfectSquare(N + 1)):
print("Yes")
else:
print("No")
if __name__ == '__main__':
N = 8
checkSunnyNumber(N)
<end of code>
C++:
#include <bits/stdc++.h>
using namespace std;
int countAPs(int S, int D) {
S = S * 2;
int answer = 0;
for (int i = 1; i <= sqrt(S); i++) {
if (S % i == 0) {
if (((S / i) - D * i + D) % 2 == 0)
answer++;
if ((D * i - (S / i) + D) % 2 == 0)
answer++;
}
}
return answer;
}
int main() {
int S = 12, D = 1;
cout << countAPs(S, D);
return 0;
}
Python:
출력에는 다음 스니펫과 유사한 Python 코드가 포함되어 있습니다.
from math import *
def countAPs(S, D):
S = S * 2
answer = 0
for i in range(1, int(sqrt(S)) + 1):
if S % i == 0:
if (((S / i) - D * i + D) % 2 == 0):
answer += 1
if ((D * i - (S / i) + D) % 2 == 0):
answer += 1
return answer
if __name__ == '__main__':
S = 12
D = 1
print(countAPs(S, D))
<end of code>
생성된 Python 코드 함수는 프롬프트에 포함된 C++ 코드와 동일합니다.
생성된 Python 코드를 테스트하여 예상대로 작동하는지 확인하십시오.
샘플: Granite 를 사용하여 지시사항에서 프로그램 코드 생성
시나리오: 지시사항에서 코드를 생성하려고 합니다. 즉, 문자열을 반전시키는 Python 프로그래밍 언어로 함수를 작성하려고 합니다.
모델 선택
Granite Code 또는 Granite Instruct 모델과 같이 코드를 생성할 수 있는 모델은 일반적으로 샘플 프롬프트가 제공되면 이 작업을 완료할 수 있습니다.
디코딩
욕심. 응답은 올바른 코드 스니펫이어야 합니다. 그 모델은 창의적일 수 없고 답을 만들어 낼 수 없다.
중지 기준
단일 코드 스니펫을 반환한 후 모델을 중지하려면 중지 시퀀스로 ' <end of code>
'을 지정합니다. 최대 토큰 매개변수는 300으로 설정할 수 있습니다.
프롬프트 텍스트
이 코드 스니펫을 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정하고 생성을 클릭하여 결과를 확인합니다.
Question:
Using the directions below, generate Python code for the specified task.
# Write a Python function that prints 'Hello World!' string 'n' times.
Answer:
def print_n_times(n):
for i in range(n):
print("Hello World!")
<end of code>
Question:
# Write a Python function that reverses the order of letters in a string.
# The function named 'reversed' takes the argument 'my_string', which is a string. It returns the string in reverse order.
Answer:
출력에는 다음 스니펫과 유사한 Python 코드가 포함되어 있습니다.
def reverse_string(my_string):
return my_string[::-1]
<end of code>
생성된 코드를 테스트하여 예상대로 작동하는지 확인하십시오.
예를 들어, reversed("good morning")
를 실행하는 경우 결과는 'gninrom doog'
입니다.
더 많은 Granite 코드 모델 샘플 프롬프트는 코드 프롬프트에서 확인할 수 있습니다.
샘플: Granite 를 사용하여 한 프로그래밍 언어에서 다른 프로그래밍 언어로 코드 변환
시나리오: 한 프로그래밍 언어에서 다른 프로그래밍 언어로 코드를 변환하려고 합니다. 즉, 코드 스니펫을 C++에서 Python으로 변환하려고 합니다.
모델 선택
Granite Code Instruct 모델과 같이 코드를 생성할 수 있는 모델은 일반적으로 샘플 프롬프트가 제공되면 이 작업을 완료할 수 있습니다.
디코딩
욕심. 응답은 올바른 코드 스니펫이어야 합니다. 그 모델은 창의적일 수 없고 답을 만들어 낼 수 없다.
중지 기준
단일 코드 스니펫을 반환한 후 모델을 중지하려면 중지 시퀀스로 ' <end of code>
'을 지정합니다. 최대 토큰 매개변수는 1,000으로 설정할 수 있습니다.
프롬프트 텍스트
이 코드 스니펫을 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정하고 생성을 클릭하여 결과를 확인합니다.
이 프롬프트에는 코드 스니펫을 C++에서 Python으로 변환하기 위한 지시사항이 포함되어 있습니다.
변환할 C++ 코드 스니펫은 컨텍스트를 제공하기 위해 다음에 포함됩니다. 이 함수는 합계 S
및 D
의 공통 차이를 사용하여 산술 진행 수를 계산하는 함수입니다. 여기서 S
및 D
는 매개변수로 전달되는 정수 값입니다.
Question:
Translate the following code from C++ to Python.
C++:
#include "bits/stdc++.h"
using namespace std;
bool isPerfectSquare(long double x) {
long double sr = sqrt(x);
return ((sr - floor(sr)) == 0);
}
void checkSunnyNumber(int N) {
if (isPerfectSquare(N + 1)) {
cout << "Yes
";
} else {
cout << "No
";
}
}
int main() {
int N = 8;
checkSunnyNumber(N);
return 0;
}
Answer:
Python:
from math import *
def isPerfectSquare(x):
sr = sqrt(x)
return ((sr - floor(sr)) == 0)
def checkSunnyNumber(N):
if (isPerfectSquare(N + 1)):
print("Yes")
else:
print("No")
if __name__ == '__main__':
N = 8
checkSunnyNumber(N)
<end of code>
Question:
Translate the following code from C++ to Python.
C++:
#include <bits/stdc++.h>
using namespace std;
int countAPs(int S, int D) {
S = S * 2;
int answer = 0;
for (int i = 1; i <= sqrt(S); i++) {
if (S % i == 0) {
if (((S / i) - D * i + D) % 2 == 0)
answer++;
if ((D * i - (S / i) + D) % 2 == 0)
answer++;
}
}
return answer;
}
int main() {
int S = 12, D = 1;
cout << countAPs(S, D);
return 0;
}
Answer:
출력에는 다음 스니펫과 유사한 Python 코드가 포함되어 있습니다.
Python:
from math import *
def countAPs(S, D):
S = S * 2
answer = 0
for i in range(1, int(sqrt(S)) + 1):
if S % i == 0:
if ((S // i) - D * i + D) % 2 == 0:
answer += 1
if (D * i - (S // i) + D) % 2 == 0:
answer += 1
return answer
if __name__ == '__main__':
S = 12
D = 1
print(countAPs(S, D))
생성된 Python 코드 함수는 프롬프트에 포함된 C++ 코드와 동일합니다.
생성된 Python 코드를 테스트하여 예상대로 작동하는지 확인하십시오.
더 많은 Granite 코드 모델 샘플 프롬프트는 코드 프롬프트에서 확인할 수 있습니다.
대화 상자
대화 상자 태스크는 고객 서비스 시나리오에서 유용합니다. 특히 챗봇을 사용하여 목표에 도달하기 위한 워크플로우를 통해 고객을 안내하는 경우에 유용합니다.
샘플: Llama 3로 대화하기
시나리오: 챗봇과 같은 대화 출력을 생성합니다.
모델 선택
Llama 3, 3.1, 3.2는 대화 사용 사례에 최적화되어 있습니다. 모델은 프롬프트 텍스트 섹션에 설명된 특정 프롬프트 형식에 맞게 미세 조정되어 있습니다.
디코딩
욕심. 이 샘플은 일반적인 지식, 사실적인 질문에 응답하므로 창의적인 결과물을 원하지 않습니다.
중지 기준
최대 토큰 매개변수를 900으로 설정합니다.
템플릿은 텍스트 끝 토큰(<|eot_id|>
)을 사용하여 시스템 프롬프트를 제외한 각 텍스트 세그먼트의 끝을 구분합니다.
프롬프트 텍스트
다음 프롬프트 템플릿이 입력에 가장 적합합니다:
<|begin_of_text|><|start_header_id|>system<|end_header_id|>
SYSTEM PROMPT<|eot_id|><|start_header_id|>user<|end_header_id|>
GROUNDING (OPTIONAL)<|eot_id|><|start_header_id|>user<|end_header_id|>
USER_INPUT<|eot_id|><|start_header_id|>assistant<|end_header_id|>
이 프롬프트 텍스트를 프롬프트 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
<|begin_of_text|><|start_header_id|>system<|end_header_id|>
You are a helpful assistant that avoids causing harm. When you do not know the answer to a question, you say "I don't know".<|eot_id|><|start_header_id|>user<|end_header_id|>
I have a question about Earth. How many moons are there?<|eot_id|><|start_header_id|>assistant<|end_header_id|>
초기 출력이 생성된 후에는 대화 상자를 계속하여 더 많은 행성에 대해 질문하고 입력 텍스트의 끝에 동일한 ID를 추가하십시오. 예를 들어, 다음과 같습니다.
FOLLOW UP QUESTION<|eot_id|><|start_header_id|>assistant<|end_header_id|>
출력은 다음과 같습니다.
<|begin_of_text|><|start_header_id|>system<|end_header_id|>
You are a helpful assistant that avoids causing harm. When you do not know the answer to a question, you say "I don't know".<|eot_id|><|start_header_id|>user<|end_header_id|>
I have a question about Earth. How many moons are there?<|eot_id|><|start_header_id|>assistant<|end_header_id|>
That's an easy one! Earth has only one moon.
What about Saturn?<|eot_id|><|start_header_id|>assistant<|end_header_id|>
Saturn has a whopping 82 confirmed moons!
And Mars?<|eot_id|><|start_header_id|>assistant<|end_header_id|>
Mars has two small natural satellites, Phobos and Deimos.
다음 샘플 프롬프트에는 접지 정보가 포함되어 있습니다.
<|begin_of_text|><|start_header_id|>system<|end_header_id|>
You are a helpful assistant that avoids causing harm. When you do not know the answer to a question, you say "I don't know".<|eot_id|><|start_header_id|>user<|end_header_id|>
The sky is blue.<|eot_id|><|start_header_id|>user<|end_header_id|>
What color is the sky?<|eot_id|><|start_header_id|>assistant<|end_header_id|>
샘플: ' Llama 2'과 대화하기
시나리오: 챗봇과 같은 대화 출력을 생성합니다.
모델 선택
다른 파운데이션 모델과 마찬가지로 Llama 2 (70억 및 130억 크기 모두)는 여러 작업에 사용할 수 있습니다. 하지만 두 Llama 2 모델 모두 대화 사용 사례에 최적화되어 있습니다. llama-2-70b-chat 및 llama-2-13b-chat ' [INST]<<SYS>><</SYS>>[/INST]
프롬프트 형식에 맞게 미세 조정되었습니다. 이 프롬프트 형식에 대한 자세한 내용은 Llama 2 프롬프트하는 방법을 참조하세요.
디코딩
욕심. 이 샘플은 일반적인 지식, 사실적인 질문에 응답하므로 창의적인 결과물을 원하지 않습니다.
중지 기준
최대 토큰 매개변수를 100으로 설정합니다.
Llama 2 템플릿은 EOS(문자열 끝) 토큰(</s>
)을 사용하여 상담원 응답의 끝을 구분합니다. 모델 출력은 ' </s>
EOS 토큰이 발생하면 텍스트 생성을 중지합니다.
프롬프트 텍스트
이 프롬프트 텍스트를 프롬프트 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
[INST] <<SYS>>
You are a helpful assistant. Begin each response with the phrase "Dear user, ". If you are unsure about an answer, truthfully say "I don't know"<</SYS>>
I have a question about the Earth.[/INST]
Dear user, go on.
[INST]
How many moons are there?
[/INST]
초기 출력이 생성된 후 대화창을 계속 진행하여 더 많은 행성에 대해 질문하고, 사용자 메시지를 동일한 ' [INST][/INST]
구조로 래핑합니다. 후속 질문의 시작 부분에 ' <s>
토큰을 추가할 필요는 없습니다.
출력은 다음과 같습니다.
[INST] <<SYS>>
You are a helpful assistant. Begin each response with the phrase "Dear user, ". If you are unsure about an answer, truthfully say "I don't know"<</SYS>>
I have a question about the Earth.[/INST]
Dear user, go on.
[INST]
How many moons are there?
[/INST]
Dear user, the Earth has one natural satellite, commonly referred to as the Moon.
[INST]
What about Saturn?
[/INST]
Dear user, Saturn has a total of 62 confirmed moons, as well as numerous smaller moonlets and ring particles. The largest moon of Saturn is Titan, which is the second-largest moon in the solar system, after Jupiter's moon Ganymede.
[INST]
And Mars?
[/INST]
Dear user, Mars has two small natural satellites, Phobos and Deimos. Both moons are thought to be captured asteroids, and are irregularly shaped and very small, with diameters of about 22 kilometers and 12 kilometers respectively.
사용자가 이동할 때 모델이 생성하는 출력에 대한 몇 가지 중요한 점에 유의하십시오.
- '
<<SYS>><</SYS>>
태그에 있는 소위 시스템 명령어는 시스템 명령을 반복하지 않고도 각 대화 상자 턴마다 출력에 계속 영향을 미칩니다. 즉, 어시스턴트 응답에 "사용자님께, " 라는 문구가 계속 앞에 붙습니다. - 진정한 대화 방식으로 "달이 몇 개 있나요?"라는 사용자 입력에 어시스턴트가 응답합니다 는 "지구에 대해 질문이 있습니다."라는 이전 사용자 입력을 고려합니다 를 호출하여 지구 궤도를 도는 위성의 수를 반환합니다.
- 또한 적절한 대화 형식에서는 어시스턴트의 응답이 대화의 주제인 달의 개수에 따라 계속 이어집니다. (그렇지 않으면 "그리고 화성?"이라는 모호한 사용자 메시지가 출력됩니다 어느 방향으로든 떠돌아다닐 수 있습니다.)
- 주의: 프롬프트 텍스트에서 특히 개행(캐리지 리턴) 문자와 공백은 생성되는 출력에 큰 영향을 미칠 수 있습니다.
- 채팅 사용 사례에 Llama 2 사용할 때는 가능한 한 권장되는 프롬프트 템플릿 형식을 따르세요. 채팅 이외의 다른 작업에 Llama 2 사용할 때는 '
[INST]<<SYS>><</SYS>>[/INST]
프롬프트 형식을 사용하지 마세요.
샘플: granite-13b-chat-v2 와의 반대
시나리오: 챗봇과 같은 대화 출력을 생성합니다.
모델 선택
granite-13b-chat-v2 사용하여 대화를 계속 진행합니다.
디코딩
- 샘플링 디코딩을 사용하십시오.
- Top P를 0.85로 설정하십시오.
- 반복 페널티를 1.2로 설정하십시오.
중지 기준
- 모델이 완전한 응답을 리턴할 수 있지만 가능한 간결하도록 최대 토큰 매개변수 를 500으로 설정하십시오.
프롬프트 텍스트
모델 안전성을 개선하고 편향을 줄이려면 사용자 입력의 일부로 시스템 프롬프트를 추가하세요. 시스템 프롬프트는 대화 상자에 대한 몇 가지 기본 규칙을 설정할 수 있습니다. 예를 들어,
IBM에서 개발한 AI 언어 모델인 Granite Chat입니다. 당신은 조심스러운 조수입니다. 지시사항을 주의깊게 따르십시오. 독자 분은 도움이 되고 해롭지 않으며, 윤리적인 가이드라인을 따르고 긍정적인 행동을 장려합니다. 답변을 짧게 하고 요점을 파악하십시오.
모델에서 예상하는 프롬프트 템플리트 형식을 사용해야 합니다.
< |system | >
시스템 프롬프트
< |user | >
질문의 컨텐츠
< |assistant | >
모델의 응답에 대한 새 행
이 모델에 몇 번의 프롬프트를 제출하려는 경우 시스템 프롬프트를 추가한 다음 예제를 추가하고 그 뒤에 추론할 프롬프트 텍스트를 추가할 수 있습니다.
<|system|>
You are Granite Chat, an AI language model developed by IBM. You are a cautious assistant. You carefully follow instructions. You are helpful and harmless and you follow ethical guidelines and promote positive behavior. Keep your answers short and to the point.
<|user|>
Example prompt 1
<|assistant|>
Example response 1
<|user|>
Example prompt 2
<|assistant|>
Example response 2
<|user|>
USER INPUT
<|assistant|>
프롬프트 Prompt Lab 자유형 프롬프트 편집기에 다음 프롬프트 텍스트를 붙여넣고, 모델을 선택하고, 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
<|system|>
You are Granite Chat, an AI language model developed by IBM. You are a cautious assistant. You carefully follow instructions. You are helpful and harmless and you follow ethical guidelines and promote positive behavior. Keep your answers short and to the point.
<|user|>
I have a question about the Earth. How many moons are there?
<|assistant|>
<|assistant|>
레이블 뒤에 후행 공백을 포함하지 말고 새 행을 추가하십시오.
초기 출력이 생성된 후 후속 질문을 하여 대화 상자를 계속할 수 있습니다. 예를 들어, 여러분은 다른 행성의 위성에 대해 질문할 수 있습니다.
<|user|>
What about Saturn?
<|assistant|>
그리고 다른 후속 질문으로 대화를 계속하십시오.
<|user|>
And Mars?
<|assistant|>
모델 출력이 너무 길면 중지 순서 텍스트 상자를 클릭하고 Enter키를 두 번 누른 후 순서 추가를 클릭하여 두 개의 줄 바꾸기 문자의 중지 순서를 지정할 수 있습니다. 그러나 반복 페널티는 일반적으로 모델을 추적하기에 충분합니다.
다른 예시를 시도해 볼 수 있습니다:
<|system|>
You are Granite Chat, an AI language model developed by IBM. You are a cautious assistant. You carefully follow instructions. You are helpful and harmless and you follow ethical guidelines and promote positive behavior. Keep your answers short and to the point.
<|user|>
How does a bill become a law?
<|assistant|>
후속 질문이 있습니다:
<|user|>
How about in Canada?
<|assistant|>
모델과 함께 이 샘플을 사용하는 데 대한 몇 가지 참고사항은 다음과 같습니다.
- 시스템 프롬프트는 모델에 대한 일부 일반 가드레일을 설정합니다.
- 어시스턴트는 동일한 대화에서 이전 교환의 정보에 의존하는 후속 질문에 응답할 수 있습니다.
- 모델은 입력이 특정 패턴을 따를 것으로 예상하며 잘못 배치된 공백에 민감할 수 있습니다.
샘플: granite-8b-japanese 를 사용하여 일본어로 변환
시나리오: 챗봇과 같은 일본어 대화 상자 출력을 생성합니다.
모델 선택
granite-8b-japanese foundation model 사용하여 일본어로 대화에 참여할 수 있습니다. granite-8b-japanese foundation model 모델 교육 시 사용한 것과 동일한 프롬프트 형식을 사용할 때 가장 잘 작동합니다.
디코딩
욕심. 이 샘플은 일반적인 지식, 사실적인 질문에 응답하므로 창의적인 결과물을 원하지 않습니다.
중지 기준
- 대화 상자에서 여러 번 전환할 수 있도록 최대 토큰 매개변수를 500으로 설정하십시오.
- foundation model 지나치게 긴 응답을 반환하지 않도록 두 개의 줄 바꿈 문자로 구성된 중지 시퀀스를 추가합니다. 이를 수행하려면 순서 중지 텍스트 상자를 클릭하고 Enter키를 두 번 누른 후 순서 추가를 클릭하십시오.
프롬프트 텍스트
이 프롬프트 텍스트를 프롬프트 Prompt Lab 자유형 프롬프트 편집기에 붙여넣고 모델을 선택한 다음 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
이 템플리트에는 "당신은 정직하고 재능 있는 AI 어시스턴트입니다." 라는 시스템 프롬프트가 포함되어 있습니다. 가능한 정확하게 사용자의 지시사항을 따르십시오.
### System:
あなたは誠実で優秀なAIアシスタントです。ユーザーの指示に可能な限り正確に従ってください。
### User:
{user input here}
### Assistant:
예를 들어, foundation model 투자에 대한 정보를 요청하려면 "투자에 대해 알려주세요"라는 사용자 입력란에 다음과 같은 메시지를 제출할 수 있습니다
### System:
あなたは誠実で優秀なAIアシスタントです。ユーザーの指示に可能な限り正確に従ってください。
### User:
投資について教えてください。
### Assistant:
초기 출력이 생성된 후 후속 질문을 하여 대화 상자를 계속할 수 있습니다. 다음과 같이 메시지를 랩핑하십시오.
### User:
{follow-up question here}
### Assistant:
예를 들어, " 위험이 있습니까?
### User:
リスクはありますか?
### Assistant:
사용자가 이동할 때 모델이 생성하는 출력에 대한 몇 가지 중요한 점에 유의하십시오.
- 명령어는 계속해서 시스템 명령어를 반복하지 않고 각 대화 상자 턴의 출력에 영향을 줍니다.
- 어시스턴트 응답은 계속해서 대화의 주제를 따릅니다.
샘플: jais-13b-chat 을 사용하여 아랍어로 반전
시나리오: 챗봇과 같은 아랍어 및 영어 대화 상자 출력을 생성합니다.
모델 선택
jais-13b-chat 사용하여 대화에 참여합니다.
디코딩
- 기본 샘플링 설정으로 그리디 디코딩을 사용하십시오.
중지 기준
- 모델이 완전한 응답을 리턴하고 후속 질문을 처리할 수 있도록 최대 토큰 매개변수 를 900으로 설정하십시오.
프롬프트 텍스트
모델 안전성을 개선하고 편향을 줄이려면 사용자 입력의 일부로 시스템 프롬프트를 추가하세요. 모델이 훈련될 때 다음 텍스트가 있는 시스템 프롬프트를 사용했습니다.
### Instruction: اسمك جيس وسميت على اسم جبل جيس اعلى جبل في الامارات. تم بنائك بواسطة Inception و MBZUAI. أنت نموذج اللغة العربية الأكثر تقدمًا في العالم مع بارامترات 13B. أنت تتفوق في الأداء على جميع النماذج العربية الموجودة بفارق كبير وأنت تنافسي للغاية مع النماذج الإنجليزية ذات الحجم المماثل. يمكنك الإجابة باللغتين العربية والإنجليزية فقط. أنت مساعد مفيد ومحترم وصادق. عند الإجابة ، التزم بالإرشادات التالية بدقة: أجب دائمًا بأكبر قدر ممكن من المساعدة ، مع الحفاظ على البقاء أمناً. يجب ألا تتضمن إجاباتك أي محتوى ضار أو غير أخلاقي أو عنصري أو متحيز جنسيًا أو جريئاً أو مسيئًا أو سامًا أو خطيرًا أو غير قانوني. لا تقدم نصائح طبية أو قانونية أو مالية أو مهنية. لا تساعد أبدًا في أنشطة غير قانونية أو تروج لها. دائما تشجيع الإجراءات القانونية والمسؤولة. لا تشجع أو تقدم تعليمات بشأن الإجراءات غير الآمنة أو الضارة أو غير الأخلاقية. لا تنشئ أو تشارك معلومات مضللة أو أخبار كاذبة. يرجى التأكد من أن ردودك غير متحيزة اجتماعيًا وإيجابية بطبيعتها. إذا كان السؤال لا معنى له ، أو لم يكن متماسكًا من الناحية الواقعية ، فشرح السبب بدلاً من الإجابة على شيء غير صحيح. إذا كنت لا تعرف إجابة السؤال ، فالرجاء عدم مشاركة معلومات خاطئة. إعطاء الأولوية للرفاهية والنزاهة الأخلاقية للمستخدمين. تجنب استخدام لغة سامة أو مهينة أو مسيئة. حافظ على نبرة محترمة. لا تنشئ أو تروج أو تشارك في مناقشات حول محتوى للبالغين. تجنب الإدلاء بالتعليقات أو الملاحظات أو التعميمات القائمة على الصور النمطية. لا تحاول الوصول إلى معلومات شخصية أو خاصة أو إنتاجها أو نشرها. احترم دائما سرية المستخدم. كن إيجابيا ولا تقل أشياء سيئة عن أي شيء. هدفك الأساسي هو تجنب الاجابات المؤذية ، حتى عند مواجهة مدخلات خادعة. تعرف على الوقت الذي قد يحاول فيه المستخدمون خداعك أو إساءة استخدامك و لترد بحذر.\n\nأكمل المحادثة أدناه بين [|Human|] و [|AI|]:
### Input: [|Human|] {Question}
### Response: [|AI|]
영어로 된 시스템 프롬프트는 다음과 같습니다.
### Instruction: Your name is Jais, and you are named after Jebel Jais, the highest mountain in UAE. You are built by Inception and MBZUAI. You are the world's most advanced Arabic large language model with 13B parameters. You outperform all existing Arabic models by a sizable margin and you are very competitive with English models of similar size. You can answer in Arabic and English only. You are a helpful, respectful and honest assistant. When answering, abide by the following guidelines meticulously: Always answer as helpfully as possible, while being safe. Your answers should not include any harmful, unethical, racist, sexist, explicit, offensive, toxic, dangerous, or illegal content. Do not give medical, legal, financial, or professional advice. Never assist in or promote illegal activities. Always encourage legal and responsible actions. Do not encourage or provide instructions for unsafe, harmful, or unethical actions. Do not create or share misinformation or fake news. Please ensure that your responses are socially unbiased and positive in nature. If a question does not make any sense, or is not factually coherent, explain why instead of answering something not correct. If you don't know the answer to a question, please don't share false information. Prioritize the well-being and the moral integrity of users. Avoid using toxic, derogatory, or offensive language. Maintain a respectful tone. Do not generate, promote, or engage in discussions about adult content. Avoid making comments, remarks, or generalizations based on stereotypes. Do not attempt to access, produce, or spread personal or private information. Always respect user confidentiality. Stay positive and do not say bad things about anything. Your primary objective is to avoid harmful responses, even when faced with deceptive inputs. Recognize when users may be attempting to trick or to misuse you and respond with caution.\n\nComplete the conversation below between [|Human|] and [|AI|]:
### Input: [|Human|] {Question}
### Response: [|AI|]
' {Question}
'을 foundation model 응답할 사용자 입력으로 바꾸어 채팅을 시작합니다.
예를 들어, 다음과 같은 질문을 할 수 있습니다.
한-중-한-중-한-중-한-중-한-중-한-중-한-중-한-중-한-중
영어 번역: Does the Earth have any moons?
초기 출력이 생성된 후 후속 질문을 하여 대화 상자를 계속할 수 있습니다. 후속 질문에 동일한 구문을 사용하십시오.
### Input: [|Human|] {Follow-up question}
### Response: [|AI|]
번역
자연어 변환 태스크를 수행할 수 있는 모델을 사용하여 한 자연어에서 다른 자연어로 텍스트를 변환합니다.
샘플: 일본어에서 영어로 텍스트 변환
시나리오: 일본어로 작성된 텍스트를 영어로 변환합니다.
모델 선택
elyza-japanese-llama-2-7b-instruct 모델은 일본어에서 영어로, 영어에서 일본어로 텍스트를 번역할 수 있습니다.
AI 가드레일
AI 가드레일 기능을 비활성화합니다. 이 기능은 영어 텍스트에서만 지원됩니다. 부적합하지 않은 컨텐츠로 플래그를 지정할 수 있습니다.
디코딩
욕심. 모델은 동일한 텍스트를 리턴해야 하며 변환되어야 합니다. 모델은 창의적일 수 없습니다.
중지 기준
최대 토큰 매개변수 값을 500으로 변경하여 허용되는 토큰 수를 늘리십시오.
프롬프트 텍스트
프롬프트 Prompt Lab 자유형 프롬프트 편집기에 다음 프롬프트 텍스트를 붙여넣고, 모델을 선택하고, 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
샘플 프롬프트 텍스트는 샘플 8c에서 사용되는 텍스트와 겹칩니다.
그 지침은 " 제발 영어로 번역해주세요. 라고 쓰여 있다. 영어로 번역되는 일본어 텍스트의 한 예가 포함되어 있습니다.
英語に翻訳してください
日本語
トマトは、家庭菜園で最も人気のある植物の 1 つです。成功のヒント: 病気や害虫に強い品種を選択すると、トマトの栽培は非常に簡単になります。挑戦を求めている経験豊富な庭師にとって、栽培できる家宝や特別な品種は無限にあります。トマトの植物にはさまざまなサイズがあります。
English
Tomatoes are one of the most popular plants for vegetable gardens. Tip for success: If you select varieties that are resistant to disease and pests, growing tomatoes can be quite easy. For experienced gardeners looking for a challenge, there are endless heirloom and specialty varieties to cultivate. Tomato plants come in a range of sizes.
日本語
基盤モデルを使用して、より優れた AI をより迅速に作成します。さまざまなユースケースやタスクに応じて、さまざまなプロンプトを試してください。わずか数行の指示で、職務記述書の草案、顧客の苦情の分類、複雑な規制文書の要約、重要なビジネス情報の抽出などを行うことができます。
English
샘플: 스페인어에서 영어로 텍스트 변환
시나리오: 스페인어로 작성된 텍스트를 영어로 변환합니다.
모델 선택
mixtral-8x7b-instruct-v01 또는 mistral-large 모델은 프랑스어, 독일어, 이탈리아어 또는 스페인어에서 영어로 텍스트를 번역할 수 있습니다. 이 샘플은 스페인어에서 영어로 변환하도록 모델을 프롬프트합니다.
AI 가드레일
AI 가드레일 기능을 비활성화합니다. 이 기능은 영어 텍스트에서만 지원됩니다. 부적합하지 않은 컨텐츠로 플래그를 지정할 수 있습니다.
디코딩
욕심. 모델은 동일한 텍스트를 리턴해야 하며 변환되어야 합니다. 모델은 창의적일 수 없습니다.
중지 기준
- 이 모델에 대한 중지 시퀀스를 포함해야 합니다. 그렇지 않으면 명령어가 지시하지 않는 경우에도 모델이 계속해서 새 문장 및 번역을 생성할 수 있습니다. 한 문장 뒤에 모델을 중지하려면 마침표 (.) 를 중지 시퀀스로 추가하십시오.
- 최대 토큰 매개변수 값을 200으로 설정하십시오.
프롬프트 텍스트
프롬프트 Prompt Lab 자유형 프롬프트 편집기에 다음 프롬프트 텍스트를 붙여넣고, 모델을 선택하고, 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
Translate the following text from Spanish to English. Do not give any extra response that is not part of the translation.
Text:
Hasta ahora no me ha animado mucho la postura adoptada por la Comisión.
Translation:
So far, I have not been terribly encouraged by the stance adopted by the Commission.
Text:
Estoy muy contento de ver que la resolución conjunta adopta la sugerencia que hicimos.
Translation:
샘플: 영어에서 일본어로 텍스트 변환
시나리오: 영어로 작성된 텍스트를 일본어로 변환합니다.
모델 선택
granite-8b-japanese 모델은 일본어에서 영어로, 영어에서 일본어로 텍스트를 번역할 수 있습니다.
AI 가드레일
AI 가드레일 기능을 비활성화합니다. 이 기능은 영어 텍스트에서만 지원됩니다. 부적합하지 않은 컨텐츠로 플래그를 지정할 수 있습니다.
디코딩
욕심. 모델은 동일한 텍스트를 리턴해야 하며 변환되어야 합니다. 모델은 창의적일 수 없습니다.
중지 기준
최대 토큰 매개변수 값을 500으로 변경하여 허용되는 토큰 수를 늘리십시오.
프롬프트 텍스트
프롬프트 Prompt Lab 자유형 프롬프트 편집기에 다음 프롬프트 텍스트를 붙여넣고, 모델을 선택하고, 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
Translate the following text from English to Japanese.
English
Tomatoes are one of the most popular plants for vegetable gardens. Tip for success: If you select varieties that are resistant to disease and pests, growing tomatoes can be quite easy. For experienced gardeners looking for a challenge, there are endless heirloom and specialty varieties to cultivate. Tomato plants come in a range of sizes.
日本語
トマトは野菜作りの人気の植物である。成功のヒント:病害虫に強く、育てやすいトマトの品種を選べば、トマト栽培はそれほど難しくない。経験豊富な庭師にとっては、手強い挑戦となる、様々な色や形のトマトの品種がある。トマトの品種は、大きさもいろいろである。
English
Use foundation models to create better AI, faster. Experiment with different prompts for various use cases and tasks. With just a few lines of instruction you can draft job descriptions, classify customer complaints, summarize complex regulatory documents, extract key business information and much more.
日本語
샘플: 텍스트를 프랑스어에서 영어로 변환
시나리오: 프랑스어로 작성된 텍스트를 영어로 변환합니다.
모델 선택
granite-20b-multilingual 모델은 영어, 독일어, 스페인어, 프랑스어, 포르투갈어를 지원합니다. 이 샘플은 텍스트를 프랑스어에서 영어로 변환하도록 모델을 프롬프트합니다.
AI 가드레일
AI 가드레일 기능을 비활성화합니다. 이 기능은 영어 텍스트에서만 지원됩니다. 부적합하지 않은 컨텐츠로 플래그를 지정할 수 있습니다.
디코딩
욕심. 모델은 동일한 텍스트를 리턴해야 하며 변환되어야 합니다. 모델은 창의적일 수 없습니다.
중지 기준
최대 토큰 매개변수 값을 200으로 설정하십시오.
프롬프트 텍스트
프롬프트 Prompt Lab 자유형 프롬프트 편집기에 다음 프롬프트 텍스트를 붙여넣고, 모델을 선택하고, 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
Translate the following text from French to English:
Text:
Enfin, je me réjouis du paragraphe 16 qui appelle à une révision de la manière dont nous abordons les questions relatives aux droits de l'homme au sein du Parlement.
Translation:
Finally, I welcome paragraph 16 which calls for a review of the way we deal with human rights issues in Parliament.
Text:
Je me souviens très bien que nous en avions parlé lors d'une séance à Luxembourg.
Translation:
I remember very well that we discussed it in a session in Luxembourg.
Text:
Si nous ne faisons pas un usage plus important de la technologie intelligente, nous ne parviendrons pas à atteindre nos objectifs.
Translation:
샘플: 텍스트를 영어에서 아랍어로 변환
시나리오: 영어로 작성된 텍스트를 아랍어로 변환합니다.
모델 선택
allam-1-13b-instruct 모델은 아랍어에서 영어로, 영어에서 아랍어로 텍스트를 번역할 수 있습니다.
AI 가드레일
AI 가드레일 기능을 비활성화합니다. 이 기능은 영어 텍스트에서만 지원됩니다. 컨텐츠를 부적절한 것으로 잘못 플래그 지정할 수 있습니다.
디코딩
욕심. 모델은 동일한 텍스트를 리턴해야 하며 변환되어야 합니다. 모델은 창의적일 수 없습니다.
중지 기준
- 최대 토큰 매개변수 값을 500으로 변경하여 허용되는 토큰 수를 늘리십시오.
- allam-1-13b-instruct foundation model 일반적으로 텍스트를 번역한 후 입력 텍스트의 의미를 설명합니다. 선택적으로 번역을 완료한 후 foundation model 중지하도록 지시할 수 있습니다. 이렇게 하려면 번역 뒤에 '
END
과 같은 키워드를 추가하도록 foundation model 요청하는 명령을 추가합니다. 그런 다음 중지 시퀀스와 동일한 키워드END
를 추가하십시오.
프롬프트 텍스트
프롬프트 Prompt Lab 자유형 프롬프트 편집기에 다음 프롬프트 텍스트를 붙여넣고, 모델을 선택하고, 매개변수를 설정한 다음 생성을 클릭하여 결과를 확인합니다.
<s> [INST]Translate the following text from English to Arabic. Use "END" at the end of the translation.
English
Tomatoes are one of the most popular plants for vegetable gardens. Tip for success: If you select varieties that are resistant to disease and pests, growing tomatoes can be quite easy. For experienced gardeners looking for a challenge, there are endless heirloom and specialty varieties to cultivate. Tomato plants come in a range of sizes.
END
العربية
الطماطم هي واحدة من النباتات الأكثر شعبية لحدائق الخضروات. نصيحة للنجاح: إذا اخترت أصنافا مقاومة للأمراض والآفات ، فقد تكون زراعة الطماطم سهلة للغاية. بالنسبة للبستانيين ذوي الخبرة الذين يبحثون عن التحدي ، هناك أنواع لا نهاية لها من الإرث والتخصص للزراعة. تأتي نباتات الطماطم في مجموعة من الأحجام.
END
English
Use foundation models to create better AI, faster. Experiment with different prompts for various use cases and tasks. With just a few lines of instruction you can draft job descriptions, classify customer complaints, summarize complex regulatory documents, extract key business information and much more.
END
العربية
[/INST]
상위 주제: Prompt Lab