빠른 시작: foundation model 조정

이 작업을 미리 보려면 00:04부터 시작하는 동영상을 시청하세요.

튜닝 실험을 저장할 프로젝트가 필요합니다. 샌드박스 프로젝트를 작성하고 서비스를 연관시키는 방법을 보려면 비디오를 보십시오. 그런 다음 단계에 따라 기존 프로젝트가 있는지 확인하거나 프로젝트를 작성하십시오.

이 작업을 미리 보려면 00:19부터 시작하는 동영상을 시청하세요.

조정된 모델을 Prompt Lab 에서 테스트할 수 있습니다. 조정된 모델을 테스트하려면 다음 단계를 수행하십시오.

1. watsonx 홈 화면으로 돌아가십시오.

2. 샌드박스 프로젝트가 선택되었는지 확인하십시오.

   

3. Prompt Lab 일을 클릭합니다.

4. 조정된 모델을 선택하십시오.

   1. 모델 드롭 다운 목록을 클릭하고 모든 기초 모델 보기를 선택하십시오.
   2. granite-13b-instruct-v2 모델을 선택합니다.
   3. 모델 선택을 클릭하십시오.

5. 구조화 탭을 클릭합니다.

6. 인스트럭션에 입력합니다:

   Summarize customer complaints
   Copy to clipboard클립보드에 복사됨

7. 예제 및 테스트 입력을 제공하십시오.

   입력 및 출력 예제

   출력 예	예제 출력
   처음에 제가 캐피털 원을 사용하고 있었던 날짜를 잊었습니다. 이 부채는 그들의 손에 있었고 결코 갚지 않았습니다.	부채 콜렉션, 하위 제품: 신용카드 부채, 발행: 부정적 또는 법적 조치 하위 발행을 취하거나 이를 취할 것이라고 위협함
   저는 신분 도용의 희생자이며 이 빚은 저의 것이 아닙니다. 신원 도용 보고서와 법적인 진술서를 참조하십시오.	채권 추심, 하위 제품, 모르겠습니다. 빚을 지지 않은 부채를 회수하기 위한 시도 하위 발행 부채는 ID 도용의 결과입니다.

   
   

8. 시도 텍스트 필드에서 다음 프롬프트를 복사하여 붙여넣으십시오.

   After I reviewed my credit report, I am still seeing information that is reporting on my credit file that is not mine. please help me in getting these items removed from my credit file.
   Copy to clipboard클립보드에 복사됨

9. 생성을 클릭하고 결과를 검토하십시오. 이 출력을 튜닝된 모델의 출력과 비교할 수 있도록 기본 모델의 출력에 주목하세요.

10. 작업 저장 > 다른 이름으로 저장을 클릭하십시오.

11. 프롬프트 템플리트를 선택하십시오.

12. 이름에 Base model prompt클립보드에 복사됨을(를) 입력하십시오.

13. 작업에서 요약을 선택합니다.

14. 저장 후 프로젝트에서 보기를 선택하십시오.

15. 저장 을 클릭하십시오.

이 작업을 미리 보려면 01:12부터 시작하는 동영상을 시청하세요.

프로젝트에 훈련 데이터를 추가해야 합니다. 자원 허브 페이지에서 고객 불만 데이터 세트를 찾을 수 있습니다. 이 데이터 세트에는 신용 보고서와 관련된 일반적인 고객 불만에 대한 가상 데이터가 포함됩니다. 자원 허브에서 프로젝트로 데이터 세트를 추가하려면 다음 단계를 수행하십시오.

1. 리소스 허브 페이지에서 고객 불만 데이터 집합에 액세스합니다.
2. 프로젝트에 추가를 클릭하십시오.
3. 샌드박스 프로젝트를 선택하십시오.
4. 추가 를 클릭하십시오.
5. 프로젝트 보기 를 클릭하여 프로젝트의 자산을 확인하십시오.

이 작업을 미리 보려면 01:32부터 시작하는 동영상을 시청하세요.

이제 방금 프로젝트에 추가한 데이터 세트를 사용하는 샌드박스 프로젝트에서 튜닝 실험을 작성할 준비가 되었습니다. 튜닝 실험을 작성하려면 다음 단계를 수행하십시오.

1. watsonx 홈 화면으로 돌아가십시오.

2. 샌드박스 프로젝트가 선택되었는지 확인하십시오.

   

3. 레이블이 지정된 데이터로 foundation model 조정을 클릭합니다.

4. 이름으로 다음을 입력하십시오.

   Summarize customer complaints tuned model
   Copy to clipboard클립보드에 복사됨

5. 설명에 대해 다음을 입력하십시오.

   Tuning Studio experiment to tune a foundation model to handle customer complaints.
   Copy to clipboard클립보드에 복사됨

6. 작성을 클릭하십시오. Tuning Studio 가 표시됩니다.

이 작업을 미리 보려면 01:47부터 시작하는 동영상을 시청하세요.

Tuning Studio에서 튜닝 실험을 구성할 수 있습니다. 조정할 foundation model 완성되었습니다. 튜닝 실험을 구성하려면 다음 단계를 수행하십시오.

1. 조정할 foundation model 선택하려면 foundation model 선택을 클릭합니다.

   1. granite-13b-instruct-v2 선택합니다.

   2. 선택을 클릭하십시오.

2. 프롬프트를 초기화할 메소드에 대해 텍스트 를 선택하십시오. 다음 두 가지 옵션이 있습니다.

   • 텍스트: 지정한 텍스트를 사용합니다.
   • 무작위: 튜닝 실험의 일부로 생성된 값을 사용합니다.

3. 텍스트 필드에 다음을 입력하십시오.

   Summarize the complaint provided into one sentence.
   Copy to clipboard클립보드에 복사됨

   다음 표는 각 태스크 유형에 대한 예제 텍스트를 표시합니다.

   제목

   태스크 유형	예
   분류	각 주석의 감성이 긍정적인지 부정적인지 여부를 분류합니다.
   세대	직원들이 집에서 일주일에 며칠 근무할 수 있도록 허용하는 것에 대한 사례를 작성하십시오.
   요약	미팅 기록의 주요 사항 요약

   
   

4. 모델이 수행할 작업과 가장 근접하게 일치하는 태스크 유형에 대해 요약 을 선택하십시오. 다음과 같은 세 가지 태스크 유형이 있습니다.

   • 요약 은 텍스트 본문으로 표시되는 기본 아이디어를 설명하는 텍스트를 생성합니다.
   • 생성 은 프로모션 이메일과 같은 텍스트를 생성합니다.
   • 분류 는 지형에서 범주형 레이블을 예측합니다. 예를 들어, 고객 설명 세트가 제공되면 각 명령문에 질문 또는 문제점으로 레이블을 지정할 수 있습니다. 분류 태스크를 사용할 때 모델에서 사용할 클래스 레이블을 나열해야 합니다. 튜닝 훈련 데이터에서 사용되는 것과 동일한 레이블을 지정하십시오.

5. 프로젝트에서 훈련 데이터를 선택하십시오.

   1. 프로젝트에서 선택을 클릭하십시오.
   2. 데이터 자산을 클릭하십시오.
   3. 고객 불만 교육 data.json 파일을 선택하십시오.
   4. 자산 선택을 클릭하십시오.
   5. 튜닝 시작을 클릭하십시오.

이 작업을 미리 보려면 03:17부터 시작하는 동영상을 시청하세요.

실험 실행이 완료되면 튜닝된 모델 및 손실 함수 차트가 표시됩니다. 손실 함수는 각 훈련 실행에서 예측 결과와 실제 결과 사이의 차이를 측정합니다. 손실 함수 차트 및 조정된 모델을 보려면 다음 단계를 수행하십시오.

1. 손실 함수 차트를 검토하십시오. 하향 기울기 곡선은 모델이 예상 출력을 생성하는 데 있어 향상되고 있음을 의미합니다.

   

2. 차트 아래에서 고객 불만 요약 조정 모델을 클릭하십시오.

3. 모델 세부사항을 스크롤하십시오.

4. 배치를 클릭하십시오.

5. 이름을 입력합니다: Summarize customer complaints tuned model클립보드에 복사됨

6. 디플로이 컨테이너에서 디플로이 공간를 선택합니다.

7. 대상 배치 영역에 대해 기존 배치 영역을 선택하십시오. 기존 배치 영역이 없는 경우 다음 단계를 수행하십시오.

   1. 대상 배치 영역에 대해 새 배치 영역 작성을 선택하십시오.
   2. 배포 공간 이름에 다음을 입력합니다: Foundation models deployment space클립보드에 복사됨
   3. 목록에서 스토리지 서비스를 선택하십시오.
   4. 목록에서 프로비저닝된 기계 학습 서비스를 선택하십시오.
   5. 작성을 클릭하십시오.
   6. 닫기를 클릭하십시오.
   7. 대상 배치 영역에 대해 Foundation models deployment space 가 선택되어 있는지 확인하십시오.

8. 작성 후 배치 영역에서 배치 보기 옵션을 선택하십시오.

9. 작성을 클릭하십시오.

10. 배치 페이지에서 고객 불만 튜닝된 모델 요약 배치를 클릭하여 세부사항을 보십시오.

이 작업을 미리 보려면 04:04부터 시작하는 동영상을 시청하세요.

조정된 모델을 Prompt Lab 에서 테스트할 수 있습니다. 조정된 모델을 테스트하려면 다음 단계를 수행하십시오.

1. 모델 배치 페이지에서 프롬프트 랩에서 열기를 클릭한 후 샌드박스 프로젝트를 선택하십시오. Prompt Lab 표시됩니다.

2. 조정된 모델을 선택하십시오.

   1. 모델 드롭 다운 목록을 클릭하고 모든 기초 모델 보기를 선택하십시오.
   2. 고객 불만 조정 모델 요약 모델을 선택하십시오.
   3. 모델 선택을 클릭하십시오.

3. 구조화 모드 페이지에서 Instruction을 입력하십시오. Summarize customer complaints클립보드에 복사됨

4. 구조화된 모드 페이지에서 예제 및 테스트 입력을 제공하십시오.

   입력 및 출력 예제

   출력 예	예제 출력
   처음에 제가 캐피털 원을 사용하고 있었던 날짜를 잊었습니다. 이 부채는 그들의 손에 있었고 결코 갚지 않았습니다.	부채 콜렉션, 하위 제품: 신용카드 부채, 발행: 부정적 또는 법적 조치 하위 발행을 취하거나 이를 취할 것이라고 위협함
   저는 신분 도용의 희생자이며 이 빚은 저의 것이 아닙니다. 신원 도용 보고서와 법적인 진술서를 참조하십시오.	채권 추심, 하위 제품, 모르겠습니다. 빚을 지지 않은 부채를 회수하기 위한 시도 하위 발행 부채는 ID 도용의 결과입니다.

   
   

5. 시도 텍스트 필드에서 다음 프롬프트를 복사하여 붙여넣으십시오.

   After I reviewed my credit report, I am still seeing information that is reporting on my credit file that is not mine. please help me in getting these items removed from my credit file.
   Copy to clipboard클립보드에 복사됨

6. 생성을 클릭하고 결과를 검토하십시오. 기본 모델의 출력과 튜닝된 모델의 이 출력을 비교합니다.