이 튜토리얼을 사용하여 watsonx.ai에서 Prompt Lab을 사용하는 방법을 학습하십시오. 일반적으로 성공적인 결과를 위해 foundation model 유도하는 방법에는 여러 가지가 있습니다. 프롬프트 랩에서 다른 기초 모델을 프롬프트하는 실험을 수행하고, 샘플 프롬프트를 탐색하며, 최상의 프롬프트를 저장하고 공유할 수 있습니다. 대부분의 텍스트 생성 기초 모델을 성공적으로 프롬프트하는 데 도움이 되는 ' 프롬프트 팁 '을 참조하세요.
- 필수 서비스
- watsonx.ai 스튜디오
- watsonx.ai 런타임
기본 워크플로우에는 다음 태스크가 포함됩니다.
- 프로젝트를 여십시오. 프로젝트는 데이터 작업을 위해 다른 사용자와 협업하는 위치입니다.
- 프롬프트 랩을 여십시오. 프롬프트 랩을 사용하면 다른 기본 모델을 프롬프트하는 실험을 수행하고, 샘플 프롬프트를 탐색하며, 최상의 프롬프트를 저장하고 공유할 수 있습니다.
- 프롬프트 편집기에 프롬프트를 입력하십시오. 자유 양식 및 구조화된 모드 중 하나로 프롬프트를 입력할 수 있습니다.
- 사용할 모델을 선택하십시오. watsonx.ai에서 사용 가능한 모델 중 하나에 프롬프트를 제출할 수 있습니다.
- 작업을 프로제트 자산으로 저장하십시오. 작업을 프로젝트 자산으로 저장하면 현재 프로젝트의 협업자가 작업을 사용할 수 있습니다.
foundation model 프롬프트에 대해 읽어보세요
기초 모델은 매우 큰 AI 모델입니다. 이들은 수십억 개의 매개변수를 가지고 있으며 테라바이트 단위의 데이터에 대해 훈련되어 있습니다. 기초 모델은 텍스트, 코드 또는 이미지 생성, 분류, 대화 등을 포함하여 다양한 태스크를 수행할 수 있습니다. 대형 언어 모델은 텍스트 및 코드 관련 태스크에 사용되는 기초 모델의 서브세트입니다. IBM watsonx.ai에는 프롬프트를 사용하여 실험하기 위한 도구뿐만 아니라 사용할 수 있는 배치된 대형 언어 모델의 콜렉션이 있습니다.
foundation model 프롬프트에 대한 동영상 보기
비디오를 시청하면 이 학습서의 단계를 미리 볼 수 있습니다. 비디오에 표시된 사용자 인터페이스에 약간의 차이가 있을 수 있습니다. 이 비디오는 작성된 학습서와 함께 사용하기 위한 것입니다.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
foundation model 묻는 튜토리얼을 사용해 보세요
이 학습서에서는 다음 태스크를 완료합니다.
- 태스크 1: 프로젝트 열기
- 태스크 2: 자유 양식 모드에서 프롬프트 랩 사용
- 태스크 3: 구조화된 모드에서 프롬프트 랩 사용
- 태스크 4: 샘플 프롬프트 사용
- 작업 5: foundation model 선택
- 태스크 6: 모델 매개변수 조정
- 태스크 7: 작업 저장
이 학습을 완료하기 위한 팁
다음은 이 학습서를 성공적으로 완료하기 위한 몇 가지 팁입니다.
비디오 사진 사용
다음 애니메이션 이미지는 비디오 픽처 인 픽처 및 목차 기능을 사용하는 방법을 보여줍니다.
커뮤니티에서 도움 받기
이 튜토리얼에 도움이 필요하면 watsonx 커뮤니티 토론 포럼에서 질문하거나 답변을 찾을 수 있습니다.
브라우저 창 설정
이 튜토리얼을 완료하는 최적의 경험을 위해 한 브라우저 창에서 Cloud Pak for Data 를 열고 두 애플리케이션 간에 쉽게 전환할 수 있도록 다른 브라우저 창에서 이 튜토리얼 페이지를 열어 두십시오. 따라하기 쉽도록 두 개의 브라우저 창을 나란히 배열하는 것을 고려하십시오.
태스크 1: 프로젝트 열기
Prompt Lab 자산을 저장하려면 프로젝트가 필요합니다.
샌드박스 프로젝트를 작성하고 서비스를 연관시키는 방법을 보려면 비디오를 보십시오. 그런 다음 단계에 따라 기존 프로젝트가 있는지 확인하거나 샌드박스 프로젝트를 작성하십시오.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
watsonx 홈 화면에서 프로젝트 섹션으로 스크롤하십시오. 나열된 프로젝트가 있으면 태스크 2로 건너뛰십시오. 프로젝트가 표시되지 않으면 다음 단계에 따라 프로젝트를 작성하십시오.
샌드박스 프로젝트 작성을 클릭하십시오. 프로젝트가 작성되면 프로젝트 섹션에 샌드박스 프로젝트가 표시됩니다.
추가 정보나 동영상을 보려면 프로젝트 작성을 참조하십시오.
진행 상황 확인
다음 이미지는 프로젝트 섹션에 샌드박스가 나열된 홈 화면을 표시합니다. 이제 프롬프트 랩을 열 준비가 되었습니다.
태스크 2: 자유 형식 모드에서 프롬프트 랩 사용
이 작업을 미리 보려면 00:03부터 시작하는 동영상을 시청하세요.
자유 양식의 일반 텍스트 편집기에 프롬프트 텍스트를 입력한 후 생성 을 클릭하여 프롬프트를 모델로 보낼 수 있습니다. 다음 단계에 따라 자유 형식 모드에서 Prompt Lab을 사용하십시오.
홈 화면에서 프롬프트 랩에서 열기 타일을 클릭하십시오.
각 선택란을 선택하여 수신확인을 승인한 후 둘러보기 건너뛰기를 클릭하십시오.
자유형 탭을 클릭하여 자유형 모드에서 foundation model 입력하라는 메시지를 표시합니다.
모드 전환을 클릭하십시오.
텍스트 필드에 다음 텍스트를 복사하여 붙여넣은 후 생성 을 클릭하여 클래스 이름: 문제점의 출력을 확인하십시오.
Classify this customer message into one of two classes: question, problem.
Class name: Question
Description: The customer is asking a technical question or a how-to question about our products or services.
Class name: Problem
Description: The customer is describing a problem they are having. They might say they are trying something, but it's not working. They might say they are getting an error or unexpected results.
Message: I'm having trouble registering for a new account.
Class name:
진행 상황 확인
다음 이미지는 자유 형식 모드에서 프롬프트에 대해 생성된 출력을 표시합니다. 이제 구조화 모드에서 foundation model 프롬프트할 준비가 되었습니다.
'
태스크 3: 구조화된 모드에서 프롬프트 랩 사용
이 작업을 미리 보려면 00:19부터 시작하는 동영상을 시청하세요.
구조화된 형식으로 프롬프트를 입력할 수 있습니다. 구조화된 형식은 프롬프트에 여러 예제가 있는 경우 몇 번의 프롬프트에 유용합니다. 구조화된 모드에서 프롬프트 랩을 사용하려면 다음 단계를 수행하십시오.
구조화 탭을 클릭하십시오.
모드 전환을 클릭하십시오.
지시사항 필드에서 다음 텍스트를 복사하여 붙여넣으십시오.
Given a message submitted to a customer-support chatbot for a cloud software company, classify the customer's message as either a question or a problem description so the chat can be routed to the correct support team.
설정 필드에서 각 열에 다음 텍스트를 복사하여 붙여넣으십시오.
설정 필드의 값 입력 출력 로그인하려고 하면 오류가 발생합니다. 문제점 플랜 가격은 어디서 찾을 수 있나요? 질문 평가판과 paygo의 차이점은 무엇입니까? 질문 등록 페이지가 손상되어 새 계정을 작성할 수 없습니다. 문제점 지원되는 지역은 무엇입니까? 질문 비밀번호가 기억나지 않습니다. 문제점 시도 필드에서 다음 텍스트를 복사하여 붙여넣으십시오.
I'm having trouble registering for a new account.
생성 을 클릭하여 출력 문제점을 확인하십시오.
진행 상황 확인
다음 이미지는 구조화된 모드에서 프롬프트에 대해 생성된 출력을 표시합니다. 이제 샘플 프롬프트를 시도할 준비가 되었습니다.
태스크 4: 샘플 프롬프트 사용
이 태스크를 미리 보려면 00:33에서 시작하는 비디오를 시청하십시오. 시작 방법을 잘 모르는 경우 샘플 프롬프트를 시작할 수 있습니다. 샘플 프롬프트를 사용하려면 다음 단계를 수행하십시오.
- 샘플 프롬프트 아이콘 ' '을 열어 목록을 표시합니다.
- 목록을 스크롤하여 마케팅 이메일 생성 샘플 프롬프트를 클릭하십시오.
- 선택한 모델을 봅니다. 샘플 프롬프트를 로드할 때 적절한 모델이 선택됩니다.
- 모델 파라미터 패널 ' 을 엽니다. 적절한 디코딩 및 중지 기준 매개변수도 자동으로 설정됩니다.
- 생성 을 클릭하여 샘플 프롬프트를 모델에 제출하고 샘플 이메일 출력을 확인하십시오.
진행 상황 확인
다음 이미지는 샘플 프롬프트에서 생성된 출력을 표시합니다. 이제 다른 모델 및 매개변수를 선택하여 샘플 프롬프트 출력을 사용자 정의할 준비가 되었습니다.
작업 5: foundation model 선택
이 작업을 미리 보려면 01:04부터 시작하는 동영상을 시청하세요. 동일한 프롬프트를 다른 모델에 제출할 수 있습니다. 구조화된 특정 출력 (예: JSON, HTML 또는 XML) 에서 출력을 생성해야 하는 경우 구조화된 출력을 생성하기 위해 미세 조정된 모델을 선택하거나 프롬프트에서 몇 가지 예제를 사용하거나 모델을 튜닝하여 이를 수행할 수 있습니다. 다른 foundation model 선택하려면 다음 단계를 따르세요:
- 모델 > 모든 기본 모델 보기를 클릭하십시오.
- 모델에 대해 자세히 학습하고 모델 아키텍처, 사전 훈련 데이터, 세부 조정 정보 및 벤치마크에 대한 성능과 같은 세부사항을 보려면 모델을 클릭하십시오.
- 모델 목록으로 돌아가려면 뒤로 를 클릭하십시오.
- flan-t5-xxl-11b 또는 mt0-xxl-13b foundation model 중 하나를 선택하고 모델 선택을 클릭합니다.
- 모델 출력 열 위로 마우스를 이동하고 X 아이콘을 클릭하여 이전 출력을 삭제하십시오.
- 목록에서 동일한 샘플 프롬프트인 마케팅 이메일 생성을 클릭하십시오.
- 새 모델을 사용하여 출력을 생성하려면 생성 을 클릭하십시오.
진행 상황 확인
다음 이미지는 다른 모델을 사용하여 생성된 출력을 표시합니다. 이제 모델 매개변수를 조정할 준비가 되었습니다.
태스크 6: 모델 매개변수 조정
이 작업을 미리 보려면 01:28부터 시작하는 동영상을 시청하세요.
디코딩 또는 중지 기준 매개변수 변경을 실험할 수 있습니다. 모델 매개변수를 조정하려면 다음 단계를 수행하십시오.
다음 표는 flan-t5-xxl-11b foundation model 사용할 수 있는 모델 매개 변수를 정의합니다.
모델 모수 | 의미 |
---|---|
디코딩 | 항상 확률이 가장 높은 단어를 선택하려면 디코딩을 Greedy 로 설정하십시오. 단어 선택의 가변성을 사용자 정의하려면 디코딩을 샘플링 으로 설정하십시오. |
온도 | 생성된 텍스트의 창의성을 제어합니다. 값이 높을수록 임의로 생성된 출력이 더 많아집니다. |
상위 P(핵심 샘플링) | top_p 이상까지 추가되는 확률이 있는 가장 가능성이 높은 토큰의 가장 작은 세트만 사용하려면 < 1.0 로 설정하십시오. |
상위 K | top-k-filtering을 위해 유지할 가장 높은 확률의 어휘 토큰 수를 설정합니다. 값이 낮을수록 모델이 주제에서 벗어날 가능성이 줄어듭니다. |
난수 시드 | 샘플링이 사용 가능할 때 생성된 토큰의 무작위 샘플링을 제어합니다. 무작위 보기를 각 세대에 대해 동일한 숫자로 설정하면 실험적 반복성이 보장됩니다. |
반복 페널티 | 프롬프트 텍스트 축약어를 반복하거나 루프에 고정되는 모델의 경향에 대응하도록 반복 페널티를 설정하십시오. 1.00 은 페널티가 없음을 표시합니다. |
중지 시퀀스 | 출력의 일부로 생성되는 경우 또는 생성될 때 텍스트 생성이 중지되도록 중지 시퀀스를 하나 이상의 문자열로 설정하십시오. |
최소 토큰 | 생성할 토큰의 최소 수를 정의하십시오. 생성되는 최소 토큰 수 이전에 발생한 중지 시퀀스는 무시됩니다. |
최대 토큰 | 생성할 토큰의 최대 수를 정의하십시오. |
- Top K 매개변수를
10
로 변경하여 모델이 주제에서 벗어나지 않도록 하십시오. - 이전 모델 출력을 삭제하려면 X 를 클릭하십시오.
- 목록에서 동일한 샘플 프롬프트를 클릭하십시오.
- 새 모델 매개변수를 사용하여 출력을 생성하려면 생성 을 클릭하십시오.
- 세션 기록을 보려면 여러 번 메시지를 제출한 후 세션 기록 아이콘 ' '을 클릭합니다.
- 항목을 클릭하여 이전 프롬프트, 모델 스펙 및 매개변수 설정에 대해 작업한 후 복원을 클릭하십시오.
- 프롬프트를 편집하거나 모델을 변경하거나 디코딩 및 중지 기준 매개변수를 조정하십시오.
- 업데이트된 정보를 사용하여 출력을 생성하려면 생성 을 클릭하십시오.
진행 상황 확인
다음 이미지는 다른 모델 매개변수를 사용하여 생성된 출력을 표시합니다. 이제 작업을 저장할 준비가 되었습니다.
태스크 7: 작업 저장
이 작업을 미리 보려면 02:15부터 시작하는 동영상을 시청하세요.
다음과 같은 세 가지 형식으로 작업을 저장할 수 있습니다.
자산 유형 | 설명 |
---|---|
프롬프트 템플리트 | 히스토리가 없는 현재 프롬프트만 저장합니다. |
프롬프트 세션 | 현재 세션의 히스토리 및 데이터를 저장합니다. |
노트북 | 현재 프롬프트를 노트북으로 저장합니다. |
작업을 저장하려면 다음 단계를 수행하십시오.
- 작업 저장 > 다른 이름으로 저장을 클릭하십시오.
- 프롬프트 템플리트를 선택하십시오.
- 이름에
Sample prompts
을(를) 입력하십시오. - 저장 후 프로젝트에서 보기 옵션을 선택하십시오.
- 저장 을 클릭하십시오.
- 프로젝트의 자산 탭에서 샘플 프롬프트 자산을 클릭하여 프롬프트 랩에서 해당 프롬프트를 로드하고 바로 다시 작업하십시오.
- 저장된 프롬프트 ' '을 클릭하면 샌드박스 프로젝트에서 저장된 프롬프트를 볼 수 있습니다.
진행 상황 확인
다음 이미지는 프롬프트 템플리트 자산이 있는 프로젝트의 자산 탭을 표시합니다.
다음 이미지는 프롬프트 랩에 저장된 프롬프트를 보여줍니다:
다음 단계
프롬프트 랩에서 대화 모드를 표시하는 이 비디오를 보십시오.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
이제 다음을 수행할 준비가 되었습니다.
- 프롬프트 랩 을 사용하여 기초 모델 을 프롬프트하고 작업을 프로젝트에 저장하십시오.
- 검색 증강 생성 패턴 자습서를 사용하여 foundation model 프롬프트해 보세요
- 다른 watsonx.ai 유스 케이스 튜토리얼을 시도하십시오.
추가 자원
비디오를 더 보십시오.
자원 허브에서 샘플 데이터 세트, 프로젝트, 모델, 프롬프트 및 노트북을 찾아 실제 경험을 얻을 수 있습니다.
프로젝트에 추가하여 데이터 분석과 모델 구축을 시작할 수 있는 노트북입니다.
노트북, 데이터 세트, 프롬프트 및 기타 에셋을 포함해 가져올 수 있는 프로젝트입니다.
프로젝트에 추가하여 모델을 구체화, 분석 및 구축할 수 있는 데이터 세트입니다.
프롬프트 랩에서 foundation model 프롬프트하는 데 사용할 수 있는 프롬프트입니다.
프롬프트 랩에서 사용할 수 있는 파운데이션 모델입니다.
상위 주제: 빠른 시작 학습서