기초 모델 조정
기초 모델을 사용자 정의하여 비즈니스의 고유한 요구에 맞는 작업을 더 잘 수행할 수 있도록 하십시오.
기초 모델은 인터넷과 기타 공개 자료에서 가져온 테라바이트 단위의 데이터로 사전 훈련된 AI 모델입니다. 그들은 다음에 나올 단어를 예측하고 언어를 생성하는 능력에서 타의 추종을 불허합니다. 언어 생성은 브레인스토밍과 창의력 자극에 유용할 수 있지만, 기초 모델은 구체적인 작업을 수행하기 위해 일반적으로 안내가 필요합니다. 모델 튜닝, 그리고 검색 증강 생성 등의 다른 기법들은 여러분이 비즈니스에 기초 모델을 의미 있는 방식으로 사용할 수 있도록 도와줍니다.
Tuning Studio 를 사용하면 분류, 요약, 생성 등의 자연어 처리 작업에서 성능을 향상시키기 위해 더 작은 기초 모델을 조정할 수 있습니다. 튜닝은 작은 재단 모델이 같은 모델 계열의 큰 모델과 비슷한 결과를 달성하는 데 도움이 될 수 있습니다. 더 작은 모델을 조정하고 배포함으로써 장기적인 추론 비용을 줄일 수 있습니다.
프롬프트 엔지니어링과 마찬가지로, 기초 모델 튜닝은 기초 모델 출력의 내용과 형식에 영향을 미칠 수 있도록 도와줍니다. 기초 모델에서 무엇을 기대할 수 있는지 아는 것은 기초 모델을 비즈니스 워크플로에 적용하는 단계를 밟고 싶다면 필수적입니다.
다음 도표는 기초 모델을 조정하는 것이 어떻게 유용한 결과물을 생성하도록 모델을 유도하는 데 도움이 되는지 보여줍니다. 재단 모델에 알려지지 않은 독점 정보를 포함할 수 있는 라벨이 붙은 데이터를 제공하며, 이 데이터는 모델이 반환해야 하는 결과물의 형식과 유형을 설명합니다. 여러분의 예시는 기초 모델에 따라야 할 패턴을 제시하고, 향후 결과물에 적용할 수 있도록 해줍니다.
일반적인 텍스트 번역이나 텍스트 또는 답변 생성 작업과 달리, 기초 모델을 조정하면 결과물이 사용자의 필요에 더 잘 맞출 수 있습니다.
- 생성된 텍스트 또는 답변은 특정 스타일을 따를 수 있습니다
- 조정된 모델은 원하는 방식으로 정보를 요약하거나 추출할 수 있습니다
- 훨씬 작은 프롬프트로, 조정된 모델은 텍스트를 효과적으로 분류할 수 있습니다
모델을 조정하는 것이 올바른 접근 방식인지에 대한 자세한 내용은 기초 모델을 조정해야 하는 경우를 참조하십시오.
일하는 방법
Watsonx.ai 기초 모델을 사용자 정의할 수 있는 다양한 방법을 제공합니다
- Tuning Studio : 기초 모델을 조정하기 위한 그래픽 사용자 인터페이스 도구
- 코드에 의한 모델 튜닝 : 기초 모델을 튜닝하기 위한 프로그래밍 방식
워크플로우
어떤 방식으로 작업하든 기초 모델 튜닝을 위한 작업 흐름은 동일합니다. 기초 모델 튜닝에는 다음과 같은 작업이 포함됩니다
사용하려는 모델과 잘 맞는 엔지니어 프롬프트.
튜닝을 한다고 해서 프롬프트 엔지니어링을 완전히 생략할 수 있는 것은 아닙니다. 사용 사례에 적합한 기초 모델을 찾기 위해서는 실험이 필요합니다. 어떤 프롬프트 형식이 모델로부터 좋은 결과를 얻는 데 가장 큰 잠재력을 보이는지 이해할 때까지 실험해 보세요. Prompt Lab 를 사용하여 테스트 메시지를 제출할 수 있습니다. 도움이 필요하시면, Prompt Lab.
작업에 가장 적합한 가장 큰 기초 모델을 찾으십시오.
모델 튜닝에 사용할 훈련 데이터를 만듭니다.
모델을 조정하기 위한 조정 실험을 만듭니다.
조정된 모델을 평가합니다.
필요하다면, 훈련 데이터나 실험 변수를 변경하고 결과에 만족할 때까지 더 많은 실험을 실행하십시오.
조정된 모델을 배포합니다.
추론 요청을 조정된 모델에 제출합니다.
기초 모델 조정 비용
기초 모델 튜닝 비용은 튜닝 실험의 컴퓨팅 자원 소비량을 측정하는 용량 단위 시간으로 측정됩니다. 더 자세한 정보를 원하시면, 용량 단위 시간 계산을 참고하세요.
조정된 모델의 추론 비용은 자원 단위로 측정됩니다. 요금은 모델의 청구 등급에 따라 다릅니다. 프롬프트 튜닝된 기초 모델은 튜닝된 기초 모델과 동일한 청구 등급을 갖습니다. 자세한 내용은 자원 단위 계량을 참고하세요.
자세히 알아보기
시작하기
상위 주제: 생성적 AI 솔루션 개발