' foundation model '을 ' Tuning Studio '로 조정하여 AI ' foundation model '이 유용한 출력을 반환하도록 안내합니다.
- 필수 권한
튜닝 실험을 실행하려면 프로젝트에서 Admin 또는 Editor 역할이 있어야 합니다.
Tuning Studio 는 모든 플랜 또는 모든 데이터 센터에서 사용할 수 없습니다. ' watsonx.ai 런타임 계획 ' 및 ' 서비스 및 기능의 지역별 가용성'를 참조하세요.
- 필수 자격 증명
- 데이터 형식
표 형식: JSON, JSONL
- 데이터 크기
- 50-10 ,000개 입력 및 출력 예제 쌍. 최대 파일 크기는 200MB입니다.
Tuning Studio 사용하여 기존 foundation model 튜닝된 버전을 만들 수 있습니다.
foundation model 조정해야 하는 시기와 이유를 설명하는 동영상을 시청하세요.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
기반 모델은 인터넷 및 기타 공용 자원에서 테라바이트 단위의 데이터에 대해 사전 훈련된 AI 모델입니다. 그들은 다음 최고의 단어를 예측하고 언어를 만들어 내는 능력에서 독보적인 존재입니다. 언어 생성은 브레인스토밍 및 창의성을 자극하는 데 유용할 수 있지만, 기초 모델은 일반적으로 구체적인 태스크를 달성하기 위해 안내되어야 합니다. 모델 튜닝 및 기타 기술 (예: 검색 기능 보강 생성) 을 사용하면 비즈니스에 의미 있는 방식으로 기초 모델을 사용할 수 있습니다.
Tuning Studio 사용하면 분류, 요약, 생성과 같은 자연어 처리 작업에서 더 작은 foundation model 튜닝하여 성능을 향상시킬 수 있습니다. 튜닝을 통해 작은 foundation model 같은 모델군의 대형 모델과 비슷한 결과를 얻을 수 있습니다. 더 작은 모델을 튜닝하고 배치하여 장기 추론 비용을 줄일 수 있습니다.
프롬프트 엔지니어링과 마찬가지로 foundation model 조정하면 foundation model 출력의 콘텐츠와 형식에 영향을 줄 수 있습니다. foundation model 추론하는 단계를 비즈니스 워크플로에 연결하려면 기초 foundation model 무엇을 기대할 수 있는지 아는 것이 필수적입니다.
다음 다이어그램은 foundation model 조정하여 모델이 유용한 출력을 생성하도록 안내하는 방법을 보여줍니다. foundation model 알려지지 않은 독점 정보를 포함할 수 있고 모델이 반환할 출력의 형식과 유형을 설명하는 레이블이 지정된 데이터를 제공합니다. 예제를 통해 foundation model 향후 결과물에 적용할 수 있는 패턴을 제공합니다.
텍스트 번역이나 텍스트 또는 답변 생성과 같은 기존 작업에서 일반화하는 대신 foundation model 조정하면 필요에 따라 더욱 맞춤화된 결과물을 얻을 수 있습니다.
- 생성된 텍스트 또는 응답은 특정 스타일을 따를 수 있습니다.
- 조정된 모델은 원하는 방식으로 정보를 요약하거나 추출할 수 있습니다.
- 훨씬 더 작은 프롬프트를 사용하여 조정된 모델이 텍스트를 효과적으로 분류할 수 있습니다.
모델을 조정하는 것이 올바른 접근 방식인 경우에 대해 자세히 알아보려면 foundation model 조정해야 하는 경우를 참조하세요.
워크플로우
foundation model 조정하는 작업에는 다음 작업이 포함됩니다:
엔지니어는 사용하려는 모델과 잘 작동하는 프롬프트를 표시합니다.
튜닝을 한다고 해서 프롬프트 엔지니어링을 완전히 건너뛸 수 있는 것은 아닙니다. 사용 사례에 적합한 foundation model 찾으려면 실험이 필요합니다. 모델에서 좋은 결과를 얻을 가능성이 가장 높은 프롬프트 형식을 이해할 때까지 실험하십시오. Prompt Lab 사용하여 테스트 프롬프트를 제출할 수 있습니다. 도움이 필요하면 Prompt Lab 참조하세요.
작업에 가장 적합한 가장 큰 foundation model 찾아보세요.
모델 튜닝에 사용할 훈련 데이터를 작성하십시오.
튜닝 실험을 작성하여 모델을 튜닝하십시오.
튜닝된 모델을 평가하십시오.
필요한 경우 훈련 데이터 또는 실험 매개변수를 변경하고 결과에 만족할 때까지 추가 실험을 실행하십시오.
튜닝된 모델을 배치하십시오.
조정된 모델에 추론 요청을 제출하십시오.
기본 모델 튜닝 비용
foundation model 튜닝 비용은 튜닝 실험의 컴퓨팅 리소스 소비량을 측정하는 용량 단위 시간으로 측정됩니다. 자세한 정보는 용량 단위 시간 측정을 참조하십시오.
튜닝된 모델을 추론하는 비용은 자원 단위로 측정됩니다. 비율은 모델의 청구 클래스에 따라 다릅니다. 즉시 조정되는 foundation model 조정되는 foundation model 청구 등급이 동일합니다. 자세한 정보는 자원 단위 미터링을 참조하십시오.
자세히 알아보기
시작하기
- 빠른 시작: foundation model 조정
- 샘플 노트북: watsonx 에서 CFPB 문서를 분류하기 위한 모델 조정
- 샘플 노트북: watsonx 사용한 다중 클래스 분류를 위한 신속한 튜닝
상위 주제: 생성 AI 솔루션 개발