빠른 시작: 기초 모델 조정
기초 모델을 조정해야 하는 몇 가지 이유가 있습니다. 레이블이 지정된 많은 예제에서 모델을 튜닝하여 프롬프트 엔지니어링과 비교하여 모델 성능을 향상시킬 수 있습니다. 동일한 모델 제품군에서 더 큰 모델과 유사하게 수행하도록 기본 모델을 튜닝하면 더 작은 모델을 배치하여 비용을 줄일 수 있습니다.
- 필수 서비스
- Watson Studio
- Watson Machine Learning
기본 워크플로우에는 다음 태스크가 포함됩니다.
- 프로젝트를 여십시오. 프로젝트는 데이터 작업을 위해 다른 사용자와 협업하는 위치입니다.
- 프로젝트에 데이터를 추가합니다. 데이터 파일을 업로드하거나 연결을 통해 원격 데이터 소스에서 데이터를 추가할 수 있습니다.
- 프로젝트에서 튜닝 실험을 작성하십시오. 튜닝 실험은 Tuning Studio 실험 빌더를 사용합니다.
- 실험 결과 및 조정된 모델을 검토하십시오. 결과에는 손실 함수 차트 및 튜닝된 모델의 세부사항이 포함됩니다.
- 튜닝된 모델을 배치하고 테스트하십시오. 프롬프트 랩에서 모델을 테스트하십시오.
기본 모델 튜닝에 대한 정보 읽기
프롬프트 튜닝은 모델에 전달되는 프롬프트의 컨텐츠를 조정합니다. 기본 기초 모델 및 해당 매개변수는 편집되지 않습니다. 프롬프트 입력만 변경됩니다. 원하는 출력을 리턴하도록 AI 기반 모델을 안내하기 위해 Tuning Studio 를 사용하여 모델을 튜닝합니다.
이 비디오를 보고 기초 모델을 조정해야 하는 시기와 이유를 확인하십시오.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
기초 모델 튜닝에 대한 비디오 보기
비디오를 시청하면 이 학습서의 단계를 미리 볼 수 있습니다. 비디오에 표시된 사용자 인터페이스에 약간의 차이가 있을 수 있습니다. 이 비디오는 작성된 학습서와 함께 사용하기 위한 것입니다.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
기본 모델을 튜닝하기 위한 학습서를 시도해 보십시오.
이 학습서에서는 다음 태스크를 완료합니다.
- 태스크 1: 프로젝트 열기
- 타스크 2: 기본 모델 테스트
- 태스크 3: 프로젝트에 데이터 추가
- 태스크 4: 프로젝트에서 튜닝 실험 작성
- 태스크 5: 튜닝 실험 구성
- 태스크 6: 튜닝된 모델을 배치 영역에 배치
- 타스크 7: 조정된 모델 테스트
이 학습을 완료하기 위한 팁
다음은 이 학습서를 성공적으로 완료하기 위한 몇 가지 팁입니다.
비디오 사진 사용
다음 애니메이션 이미지는 비디오 픽처 인 픽처 및 목차 기능을 사용하는 방법을 보여줍니다.
커뮤니티에서 도움 받기
이 학습서에 대한 도움이 필요한 경우 watsonx 커뮤니티 토론 포럼에서 질문하거나 응답을 찾을 수 있습니다.
브라우저 창 설정
이 튜토리얼을 완료하는 최적의 경험을 위해 한 브라우저 창에서 Cloud Pak for Data 를 열고 두 애플리케이션 간에 쉽게 전환할 수 있도록 다른 브라우저 창에서 이 튜토리얼 페이지를 열어 두십시오. 따라하기 쉽도록 두 개의 브라우저 창을 나란히 배열하는 것을 고려하십시오.
태스크 1: 프로젝트 열기
이 태스크를 미리 보려면 00:04에서 시작하는 비디오를 보십시오.
튜닝 실험을 저장할 프로젝트가 필요합니다. 샌드박스 프로젝트를 작성하고 서비스를 연관시키는 방법을 보려면 비디오를 보십시오. 그런 다음 단계에 따라 기존 프로젝트가 있는지 확인하거나 프로젝트를 작성하십시오.
기존 프로젝트 확인 또는 새 프로젝트 작성
watsonx 홈 화면에서 프로젝트 섹션으로 스크롤하십시오. 나열된 프로젝트가 있으면 Watson Machine Learning 서비스 연관으로 건너뛰십시오.
프로젝트가 표시되지 않으면 이 비디오를 본 후 단계에 따라 프로젝트를 작성할 수 있습니다.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
샌드박스 프로젝트 작성을 클릭하십시오. 프로젝트가 작성되면 프로젝트 섹션에 샌드박스가 표시됩니다.
기존 프로젝트 또는 새 샌드박스 프로젝트를 여십시오.
Watson Machine Learning 서비스를 프로젝트와 연관시키십시오.
Watson Machine Learning 을 사용하여 기본 모델을 튜닝하므로 다음 단계에 따라 Watson Machine Learning 서비스 인스턴스를 프로젝트와 연관시키십시오.
프로젝트에서 관리 탭을 클릭하십시오.
서비스 및 통합 페이지를 클릭하십시오.
이 프로젝트에 연관된 Watson Machine Learning 서비스가 있는지 확인하십시오. 연관된 서비스가 없는 경우 다음 단계를 수행하십시오.
서비스 연관을 클릭하십시오.
Watson Machine Learning 서비스 인스턴스 옆에 있는 상자를 선택하십시오.
연관을 클릭하십시오.
필요한 경우 취소 를 클릭하여 서비스 및 통합 페이지로 돌아가십시오.
자세한 정보를 보거나 비디오를 보려면 프로젝트 작성 및 프로젝트에 연관된 서비스 추가를 참조하십시오.
진행 상태 확인
다음 이미지는 연관된 서비스가 있는 관리 탭을 표시합니다. 이제 프로젝트에 샘플 노트북을 추가할 준비가 되었습니다.
태스크 2: 기본 모델 테스트
이 태스크를 미리보려면 00:19에서 시작하는 비디오를 보십시오.
프롬프트 랩에서 조정된 모델을 테스트할 수 있습니다. 조정된 모델을 테스트하려면 다음 단계를 수행하십시오.
조정된 모델을 선택하십시오.
- 모델 드롭 다운 목록을 클릭하고 모든 기초 모델 보기를 선택하십시오.
- flan-t5-xl-3b 모델을 선택하십시오.
- 모델 선택을 클릭하십시오.
구조화 모드 페이지에서 Instruction을 입력하십시오.
Summarize customer complaints
예제 및 테스트 입력을 제공하십시오.
입력 및 출력 예제 출력 예 예제 출력 처음에 제가 캐피털 원을 사용하고 있었던 날짜를 잊었습니다. 이 부채는 그들의 손에 있었고 결코 갚지 않았습니다. 부채 콜렉션, 하위 제품: 신용카드 부채, 발행: 부정적 또는 법적 조치 하위 발행을 취하거나 이를 취할 것이라고 위협함 저는 신분 도용의 희생자이며 이 빚은 저의 것이 아닙니다. 신원 도용 보고서와 법적인 진술서를 참조하십시오. 빚을 추심하고, 제품을 생산하고, 잘 모르겠습니다. 빚을 지지 않은 부채를 회수하기 위한 시도 하위 발행 부채는 ID 도용의 결과입니다. 시도 텍스트 필드에서 다음 프롬프트를 복사하여 붙여넣으십시오.
After I reviewed my credit report, I am still seeing information that is reporting on my credit file that is not mine. please help me in getting these items removed from my credit file.
생성을 클릭하고 결과를 검토하십시오.
작업 저장 > 다른 이름으로 저장을 클릭하십시오.
프롬프트 템플리트를 선택하십시오.
이름에
Base model prompt
을(를) 입력하십시오.저장 후 프로젝트에서 보기를 선택하십시오.
저장 을 클릭하십시오.
진행 상태 확인
다음 이미지는 프롬프트 랩의 결과를 표시합니다.
태스크 3: 프로젝트에 데이터 추가
이 태스크를 미리 보려면 01:12에서 시작하는 비디오를 보십시오.
프로젝트에 훈련 데이터를 추가해야 합니다. 자원 허브 페이지에서 고객 불만 데이터 세트를 찾을 수 있습니다. 이 데이터 세트에는 신용 보고서와 관련된 일반적인 고객 불만에 대한 가상 데이터가 포함됩니다. 자원 허브에서 프로젝트로 데이터 세트를 추가하려면 다음 단계를 수행하십시오.
- 자원 허브 페이지에서 고객 불만 데이터 세트 에 액세스하십시오.
- 프로젝트에 추가를 클릭하십시오.
- 샌드박스 프로젝트를 선택하십시오.
- 추가 를 클릭하십시오.
- 프로젝트 보기 를 클릭하여 프로젝트의 자산을 확인하십시오.
진행 상태 확인
다음 이미지는 프로젝트에 추가된 데이터 자산을 표시합니다. 다음 단계는 튜닝 실험을 작성하는 것입니다.
태스크 4: 프로젝트에서 튜닝 실험 작성
이 태스크를 미리 보려면 01:32에서 시작하는 비디오를 보십시오.
이제 방금 프로젝트에 추가한 데이터 세트를 사용하는 샌드박스 프로젝트에서 튜닝 실험을 작성할 준비가 되었습니다. 튜닝 실험을 작성하려면 다음 단계를 수행하십시오.
watsonx 홈 화면으로 돌아가십시오.
샌드박스 프로젝트가 선택되었는지 확인하십시오.
레이블 지정된 데이터로 기초 모델 조정을 클릭하십시오.
이름으로 다음을 입력하십시오.
Summarize customer complaints tuned model
설명에 대해 다음을 입력하십시오.
Tuning Studio experiment to tune a foundation model to handle customer complaints.
작성을 클릭하십시오. Tuning Studio 가 표시됩니다.
진행 상태 확인
다음 이미지는 Tuning Studio에 열려 있는 튜닝 실험을 표시합니다. 이제 튜닝 실험을 구성할 준비가 되었습니다.
태스크 5: 튜닝 실험 구성
이 태스크를 미리 보려면 01:47에서 시작하는 비디오를 보십시오.
Tuning Studio에서 튜닝 실험을 구성할 수 있습니다. 조정할 기본 모델이 완료되었습니다. 튜닝 실험을 구성하려면 다음 단계를 수행하십시오.
조정할 기초 모델에 대해 flan-t5-xl-3b를 선택하십시오.
프롬프트를 초기화할 메소드에 대해 텍스트 를 선택하십시오. 다음 두 가지 옵션이 있습니다.
- 텍스트: 지정한 텍스트를 사용합니다.
- 무작위: 튜닝 실험의 일부로 생성된 값을 사용합니다.
텍스트 필드에 다음을 입력하십시오.
Summarize the complaint provided into one sentence.
다음 표는 각 태스크 유형에 대한 예제 텍스트를 표시합니다.
제목 태스크 유형 예 분류 각 주석의 감성이 긍정적인지 부정적인지 여부를 분류합니다. 세대 직원들이 집에서 일주일에 며칠 근무할 수 있도록 허용하는 것에 대한 사례를 작성하십시오. 요약 미팅 기록의 주요 사항 요약 모델이 수행할 작업과 가장 근접하게 일치하는 태스크 유형에 대해 요약 을 선택하십시오. 다음과 같은 세 가지 태스크 유형이 있습니다.
- 요약 은 텍스트 본문으로 표시되는 기본 아이디어를 설명하는 텍스트를 생성합니다.
- 생성 은 프로모션 이메일과 같은 텍스트를 생성합니다.
- 분류 는 지형에서 범주형 레이블을 예측합니다. 예를 들어, 고객 설명 세트가 제공되면 각 명령문에 질문 또는 문제점으로 레이블을 지정할 수 있습니다. 분류 태스크를 사용할 때 모델에서 사용할 클래스 레이블을 나열해야 합니다. 튜닝 훈련 데이터에서 사용되는 것과 동일한 레이블을 지정하십시오.
프로젝트에서 훈련 데이터를 선택하십시오.
- 프로젝트에서 선택을 클릭하십시오.
- 데이터 자산을 클릭하십시오.
- 고객 불만 교육 data.json 파일을 선택하십시오.
- 자산 선택을 클릭하십시오.
- 튜닝 시작을 클릭하십시오.
진행 상태 확인
다음 이미지는 구성된 튜닝 실험을 표시합니다. 다음으로 결과를 검토하고 튜닝된 모델을 배치합니다.
태스크 6: 튜닝된 모델을 배치 영역에 배치
이 태스크를 미리 보려면 03:17에서 시작하는 비디오를 보십시오.
실험 실행이 완료되면 튜닝된 모델 및 손실 함수 차트가 표시됩니다. 손실 함수는 각 훈련 실행에서 예측 결과와 실제 결과 사이의 차이를 측정합니다. 손실 함수 차트 및 조정된 모델을 보려면 다음 단계를 수행하십시오.
손실 함수 차트를 검토하십시오. 하향 기울기 곡선은 모델이 예상 출력을 생성하는 데 있어 향상되고 있음을 의미합니다.
차트 아래에서 고객 불만 요약 조정 모델을 클릭하십시오.
모델 세부사항을 스크롤하십시오.
배치를 클릭하십시오.
이름을 입력합니다:
Summarize customer complaints tuned model
디플로이 컨테이너에서 디플로이 공간를 선택합니다.
대상 배치 영역에 대해 기존 배치 영역을 선택하십시오. 기존 배치 영역이 없는 경우 다음 단계를 수행하십시오.
- 대상 배치 영역에 대해 새 배치 영역 작성을 선택하십시오.
- 배포 공간 이름에 다음을 입력합니다:
Foundation models deployment space
- 목록에서 스토리지 서비스를 선택하십시오.
- 목록에서 프로비저닝된 기계 학습 서비스를 선택하십시오.
- 작성을 클릭하십시오.
- 닫기를 클릭하십시오.
- 대상 배치 영역에 대해 Foundation models deployment space 가 선택되어 있는지 확인하십시오.
작성 후 배치 영역에서 배치 보기 옵션을 선택하십시오.
작성을 클릭하십시오.
배치 페이지에서 고객 불만 튜닝된 모델 요약 배치를 클릭하여 세부사항을 보십시오.
진행 상황 확인
다음 이미지는 배치 영역의 배치를 표시합니다. 이제 배치된 모델을 테스트할 준비가 되었습니다.
태스크 7: 튜닝된 모델 테스트
이 작업을 미리 보려면 04:04부터 시작하는 동영상을 시청하세요.
프롬프트 랩에서 조정된 모델을 테스트할 수 있습니다. 조정된 모델을 테스트하려면 다음 단계를 수행하십시오.
모델 배치 페이지에서 프롬프트 랩에서 열기를 클릭한 후 샌드박스 프로젝트를 선택하십시오. 프롬프트 랩이 표시됩니다.
조정된 모델을 선택하십시오.
- 모델 드롭 다운 목록을 클릭하고 모든 기초 모델 보기를 선택하십시오.
- 고객 불만 조정 모델 요약 모델을 선택하십시오.
- 모델 선택을 클릭하십시오.
구조화 모드 페이지에서 Instruction을 입력하십시오.
Summarize customer complaints
구조화된 모드 페이지에서 예제 및 테스트 입력을 제공하십시오.
입력 및 출력 예제 출력 예 예제 출력 처음에 제가 캐피털 원을 사용하고 있었던 날짜를 잊었습니다. 이 부채는 그들의 손에 있었고 결코 갚지 않았습니다. 부채 콜렉션, 하위 제품: 신용카드 부채, 발행: 부정적 또는 법적 조치 하위 발행을 취하거나 이를 취할 것이라고 위협함 저는 신분 도용의 희생자이며 이 빚은 저의 것이 아닙니다. 신원 도용 보고서와 법적인 진술서를 참조하십시오. 빚을 추심하고, 제품을 생산하고, 잘 모르겠습니다. 빚을 지지 않은 부채를 회수하기 위한 시도 하위 발행 부채는 ID 도용의 결과입니다. 시도 텍스트 필드에서 다음 프롬프트를 복사하여 붙여넣으십시오.
After I reviewed my credit report, I am still seeing information that is reporting on my credit file that is not mine. please help me in getting these items removed from my credit file.
생성을 클릭하고 결과를 검토하십시오.
진행 상황 확인
다음 이미지는 프롬프트 랩의 결과를 표시합니다.
다음 단계
다음 기타 학습서를 사용해 보십시오.
추가 자원
비디오를 더 보십시오.
자원 허브에서 샘플 데이터 세트, 프로젝트, 모델, 프롬프트 및 노트북을 찾아 실제 경험을 얻을 수 있습니다.
프로젝트에 추가하여 데이터 분석 및 모델 구축을 시작할 수 있는
노트북입니다.
노트북, 데이터 세트, 프롬프트 및 기타 에셋을 포함하여 가져올 수 있는
프로젝트입니다.
데이터 세트는 프로젝트에 추가하여 모델을 구체화, 분석 및 구축할 수 있는 데이터 세트입니다.
프롬프트 랩에서 파운데이션 모델에 프롬프트를 표시하는 데 사용할 수 있는
프롬프트입니다.
상위 주제: 빠른 시작 학습서