이 튜토리얼을 통해 watsonx.ai 에서 Prompt Lab 를 사용하는 방법을 배워 보세요. 성공적인 결과를 위해 기초 모델을 유도하는 방법은 여러 가지가 있습니다. Prompt Lab 에서 다양한 기초 모델의 프롬프트를 실험해 보고, 샘플 프롬프트를 살펴볼 수 있을 뿐 아니라, 가장 좋은 프롬프트를 저장하고 공유할 수 있습니다. 대부분의 텍스트 생성 기초 모델을 성공적으로 프롬프트하는 데 도움이 되는 ' 프롬프트 팁 '을 참조하세요.
필수 서비스
watsonx.ai Studio
watsonx.ai Runtime
기본 워크플로우에는 다음 태스크가 포함됩니다.
프로젝트를 여십시오. 프로젝트는 데이터 작업을 위해 다른 사용자와 협업하는 위치입니다.
Prompt Lab 를 엽니다. Prompt Lab 를 사용하면 다양한 기초 모델에 대한 프롬프트를 실험해 보고, 샘플 프롬프트를 살펴보고, 가장 좋은 프롬프트를 저장하고 공유할 수 있습니다.
프롬프트 편집기에 프롬프트를 입력하십시오. 자유 양식 및 구조화된 모드 중 하나로 프롬프트를 입력할 수 있습니다.
사용할 모델을 선택하십시오. watsonx.ai에서 사용 가능한 모델 중 하나에 프롬프트를 제출할 수 있습니다.
작업을 프로제트 자산으로 저장하십시오. 작업을 프로젝트 자산으로 저장하면 현재 프로젝트의 협업자가 작업을 사용할 수 있습니다.
기초 모델 프롬프트에 대해 읽어보기
Copy link to section
기초 모델은 매우 큰 AI 모델입니다. 이들은 수십억 개의 매개변수를 가지고 있으며 테라바이트 단위의 데이터에 대해 훈련되어 있습니다. 기초 모델은 텍스트, 코드 또는 이미지 생성, 분류, 대화 등을 포함하여 다양한 태스크를 수행할 수 있습니다. 대형 언어 모델은 텍스트 및 코드 관련 태스크에 사용되는 기초 모델의 서브세트입니다. IBM watsonx.ai에는 프롬프트를 사용하여 실험하기 위한 도구뿐만 아니라 사용할 수 있는 배치된 대형 언어 모델의 콜렉션이 있습니다.
이 학습을 완료하기 위한 팁 다음은 이 학습서를 성공적으로 완료하기 위한 몇 가지 팁입니다.
비디오 사진 사용
Copy link to section
팁: 비디오를 시작한 후 학습을 통해 화면이동하면 비디오가 그림 모드로 이동합니다. 사진에서 가장 좋은 경험을 얻으려면 비디오 목차를 닫으십시오. 그림 모드를 사용하여 이 학습서의 태스크를 완료하면서 비디오를 따라갈 수 있습니다. 각 태스크에 대한 시간소인을 클릭하여 수행하십시오.
다음 애니메이션 이미지는 비디오 픽처 인 픽처 및 목차 기능을 사용하는 방법을 보여줍니다.
이 튜토리얼을 완료하는 최적의 경험을 위해 한 브라우저 창에서 Cloud Pak for Data 를 열고 두 애플리케이션 간에 쉽게 전환할 수 있도록 다른 브라우저 창에서 이 튜토리얼 페이지를 열어 두십시오. 따라하기 쉽도록 두 개의 브라우저 창을 나란히 배열하는 것을 고려하십시오.
팁: 사용자 인터페이스에서 이 학습서를 완료하는 동안 안내서 둘러보기가 표시되면 나중에를 클릭하십시오.
태스크 1: 프로젝트 열기
Prompt Lab 의 자산을 저장할 프로젝트가 필요합니다.
샌드박스 프로젝트를 작성하고 서비스를 연관시키는 방법을 보려면 비디오를 보십시오. 그런 다음 단계에 따라 기존 프로젝트가 있는지 확인하거나 샌드박스 프로젝트를 작성하십시오.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
watsonx 홈 화면에서 프로젝트 섹션으로 스크롤하십시오. 나열된 프로젝트가 있으면 태스크 2로 건너뛰십시오. 프로젝트가 표시되지 않으면 다음 단계에 따라 프로젝트를 작성하십시오.
샌드박스 프로젝트 작성을 클릭하십시오. 프로젝트가 작성되면 프로젝트 섹션에 샌드박스 프로젝트가 표시됩니다.
다음 이미지는 프로젝트 섹션에 샌드박스가 나열된 홈 화면을 표시합니다. 이제 {{ site.data.keyword.fm_prompt }} 를 열 준비가 되었습니다.
작업 2: 자유형 모드에서 작업 관리자( {{ site.data.keyword.fm_prompt }} ) 사용하기
이 작업을 미리 보려면 00:03부터 시작하는 동영상을 시청하세요.
자유 양식의 일반 텍스트 편집기에 프롬프트 텍스트를 입력한 후 생성 을 클릭하여 프롬프트를 모델로 보낼 수 있습니다. Prompt Lab 를 자유형 모드로 사용하려면 다음 단계를 따르십시오
홈 화면에서, Prompt Lab 로 열기 타일을 클릭합니다.
각 선택란을 선택하여 수신확인을 승인한 후 둘러보기 건너뛰기를 클릭하십시오.
자유형식 탭을 클릭하면 자유형식 모드 에서 기초 모델을 불러올 수 있습니다.
모드 전환을 클릭하십시오.
텍스트 필드에 다음 텍스트를 복사하여 붙여넣은 후 생성 을 클릭하여 클래스 이름: 문제점의 출력을 확인하십시오.
Classify this customer message into one of two classes: question, problem.
Class name: Question
Description: The customer is asking a technical question or a how-to question about our products or services.
Class name: Problem
Description: The customer is describing a problem they are having. They might say they are trying something, but it's not working. They might say they are getting an error or unexpected results.
Message: I'm having trouble registering for a new account.
Class name:
Copy to clipboard클립보드에 복사됨
진행 상황 확인
Copy link to section
다음 이미지는 자유 형식 모드에서 프롬프트에 대해 생성된 출력을 표시합니다. 이제 구조화 모드에서 기초 모델을 프롬프트할 준비가 되었습니다.
작업 3: 구조화된 모드에서 작업 관리자( {{ site.data.keyword.fm_prompt }} ) 사용하기
이 작업을 미리 보려면 00:19부터 시작하는 동영상을 시청하세요.
구조화된 형식으로 프롬프트를 입력할 수 있습니다. 구조화된 형식은 프롬프트에 여러 예제가 있는 경우 몇 번의 프롬프트에 유용합니다. Prompt Lab 를 구조화 모드로 사용하려면 다음 단계를 따르십시오
구조화 탭을 클릭하십시오.
모드 전환을 클릭하십시오.
지시사항 필드에서 다음 텍스트를 복사하여 붙여넣으십시오. Given a message submitted to a customer-support chatbot for a cloud software company, classify the customer's message as either a question or a problem description so the chat can be routed to the correct support team.클립보드에 복사됨
설정 필드에서 각 열에 다음 텍스트를 복사하여 붙여넣으십시오.
설정 필드의 값
입력
출력
로그인하려고 하면 오류가 발생합니다.
문제점
플랜 가격은 어디서 찾을 수 있나요?
질문
평가판과 paygo의 차이점은 무엇입니까?
질문
등록 페이지가 손상되어 새 계정을 작성할 수 없습니다.
문제점
지원되는 지역은 무엇입니까?
질문
비밀번호가 기억나지 않습니다.
문제점
시도 필드에서 다음 텍스트를 복사하여 붙여넣으십시오. I'm having trouble registering for a new account.클립보드에 복사됨
생성 을 클릭하여 출력 문제점을 확인하십시오.
진행 상황 확인
Copy link to section
다음 이미지는 구조화된 모드에서 프롬프트에 대해 생성된 출력을 표시합니다. 이제 샘플 프롬프트를 시도할 준비가 되었습니다.
태스크 4: 샘플 프롬프트 사용
이 태스크를 미리 보려면 00:33에서 시작하는 비디오를 시청하십시오. 시작 방법을 잘 모르는 경우 샘플 프롬프트를 시작할 수 있습니다. 샘플 프롬프트를 사용하려면 다음 단계를 수행하십시오.
샘플 프롬프트 아이콘 ' '을 열어 목록을 표시합니다.
목록을 스크롤하여 마케팅 이메일 생성 샘플 프롬프트를 클릭하십시오.
선택한 모델을 봅니다. 샘플 프롬프트를 로드할 때 적절한 모델이 선택됩니다.
모델 파라미터 패널 ' 을 엽니다. 적절한 디코딩 및 중지 기준 매개변수도 자동으로 설정됩니다.
생성 을 클릭하여 샘플 프롬프트를 모델에 제출하고 샘플 이메일 출력을 확인하십시오.
진행 상황 확인
Copy link to section
다음 이미지는 샘플 프롬프트에서 생성된 출력을 표시합니다. 이제 다른 모델 및 매개변수를 선택하여 샘플 프롬프트 출력을 사용자 정의할 준비가 되었습니다.
과제 5: 기초 모델 선택하기
이 작업을 미리 보려면 01:04부터 시작하는 동영상을 시청하세요. 동일한 프롬프트를 다른 모델에 제출할 수 있습니다. 구조화된 특정 출력 (예: JSON, HTML 또는 XML) 에서 출력을 생성해야 하는 경우 구조화된 출력을 생성하기 위해 미세 조정된 모델을 선택하거나 프롬프트에서 몇 가지 예제를 사용하거나 모델을 튜닝하여 이를 수행할 수 있습니다. 다른 재단 모델을 선택하려면 다음 단계를 따르십시오
모델 > 모든 기본 모델 보기를 클릭하십시오.
모델에 대해 자세히 학습하고 모델 아키텍처, 사전 훈련 데이터, 세부 조정 정보 및 벤치마크에 대한 성능과 같은 세부사항을 보려면 모델을 클릭하십시오.
모델 목록으로 돌아가려면 뒤로 를 클릭하십시오.
둘 중 하나를 선택하십시오 flan-t5-xxl-11b 또는 mt0-xxl-13b 기초 모델, 그리고 모델 선택을 클릭합니다.
모델 출력 열 위로 마우스를 이동하고 X 아이콘을 클릭하여 이전 출력을 삭제하십시오.
목록에서 동일한 샘플 프롬프트인 마케팅 이메일 생성을 클릭하십시오.
새 모델을 사용하여 출력을 생성하려면 생성 을 클릭하십시오.
진행 상황 확인
Copy link to section
다음 이미지는 다른 모델을 사용하여 생성된 출력을 표시합니다. 이제 모델 매개변수를 조정할 준비가 되었습니다.
태스크 6: 모델 매개변수 조정
이 작업을 미리 보려면 01:28부터 시작하는 동영상을 시청하세요.
디코딩 또는 중지 기준 매개변수 변경을 실험할 수 있습니다. 모델 매개변수를 조정하려면 다음 단계를 수행하십시오.
참고: 모델 매개변수는 현재 선택된 모델에 따라 다릅니다.
다음 표는 flan-t5-xxl-11b 기초 모델.
모델 모수
모델 모수
의미
디코딩
항상 확률이 가장 높은 단어를 선택하려면 디코딩을 Greedy 로 설정하십시오. 단어 선택의 가변성을 사용자 정의하려면 디코딩을 샘플링 으로 설정하십시오.
온도
생성된 텍스트의 창의성을 제어합니다. 값이 높을수록 임의로 생성된 출력이 더 많아집니다.
상위 P(핵심 샘플링)
top_p 이상까지 추가되는 확률이 있는 가장 가능성이 높은 토큰의 가장 작은 세트만 사용하려면 < 1.0 로 설정하십시오.
상위 K
top-k-filtering을 위해 유지할 가장 높은 확률의 어휘 토큰 수를 설정합니다. 값이 낮을수록 모델이 주제에서 벗어날 가능성이 줄어듭니다.
난수 시드
샘플링이 사용 가능할 때 생성된 토큰의 무작위 샘플링을 제어합니다. 무작위 보기를 각 세대에 대해 동일한 숫자로 설정하면 실험적 반복성이 보장됩니다.
반복 페널티
프롬프트 텍스트 축약어를 반복하거나 루프에 고정되는 모델의 경향에 대응하도록 반복 페널티를 설정하십시오. 1.00 은 페널티가 없음을 표시합니다.
중지 시퀀스
출력의 일부로 생성되는 경우 또는 생성될 때 텍스트 생성이 중지되도록 중지 시퀀스를 하나 이상의 문자열로 설정하십시오.
최소 토큰
생성할 토큰의 최소 수를 정의하십시오. 생성되는 최소 토큰 수 이전에 발생한 중지 시퀀스는 무시됩니다.
최대 토큰
생성할 토큰의 최대 수를 정의하십시오.
Top K 매개변수를 10 로 변경하여 모델이 주제에서 벗어나지 않도록 하십시오.
이전 모델 출력을 삭제하려면 X 를 클릭하십시오.
목록에서 동일한 샘플 프롬프트를 클릭하십시오.
새 모델 매개변수를 사용하여 출력을 생성하려면 생성 을 클릭하십시오.
세션 기록을 보려면 여러 번 메시지를 제출한 후 세션 기록 아이콘 ' '을 클릭합니다.
항목을 클릭하여 이전 프롬프트, 모델 스펙 및 매개변수 설정에 대해 작업한 후 복원을 클릭하십시오.
프롬프트를 편집하거나 모델을 변경하거나 디코딩 및 중지 기준 매개변수를 조정하십시오.
업데이트된 정보를 사용하여 출력을 생성하려면 생성 을 클릭하십시오.
진행 상황 확인
Copy link to section
다음 이미지는 다른 모델 매개변수를 사용하여 생성된 출력을 표시합니다. 이제 작업을 저장할 준비가 되었습니다.
태스크 7: 작업 저장
이 작업을 미리 보려면 02:15부터 시작하는 동영상을 시청하세요.
다음과 같은 세 가지 형식으로 작업을 저장할 수 있습니다.
자산 유형
자산 유형
설명
프롬프트 템플리트
히스토리가 없는 현재 프롬프트만 저장합니다.
프롬프트 세션
현재 세션의 히스토리 및 데이터를 저장합니다.
노트북
현재 프롬프트를 노트북으로 저장합니다.
작업을 저장하려면 다음 단계를 수행하십시오.
작업 저장 > 다른 이름으로 저장을 클릭하십시오.
프롬프트 템플리트를 선택하십시오.
이름에 Sample prompts클립보드에 복사됨을(를) 입력하십시오.
저장 후 프로젝트에서 보기 옵션을 선택하십시오.
저장 을 클릭하십시오.
프로젝트의 자산 탭 에서 샘플 프롬프트 자산을 클릭하여 프롬프트를 작업 목록( Prompt Lab )에 로드하고 바로 작업으로 돌아갑니다.
저장된 프롬프트 ' '을 클릭하면 샌드박스 프로젝트에서 저장된 프롬프트를 볼 수 있습니다.
본 사이트의 쿠키 정보웹 사이트가 제대로 작동하려면 일부 쿠키가 필요합니다(필수사항). 또한 다른 쿠키는 사이트 사용을 분석하고 사용자 경험을 개선하며 광고를 목적으로 귀하의 동의에 따라 사용될 수 있습니다.자세한 정보는 쿠키 환경 설정 옵션을 확인해 주시기 바랍니다. IBM 웹사이트를 방문함으로써 귀하는 IBM의개인정보처리방침에 따라 당사가 정보를 처리하는 것에 동의합니다.원활한 탐색을 제공하기 위해 귀하의 쿠키 환경 설정은 여기에 나열된 IBM 웹 도메인 전체에서 공유됩니다.