기초 모델을 프로그래밍 방식으로 조정하기
watsonx.ai 에서 기초 모델 세트를 프로그래밍 방식으로 조정하여 사용 사례에 맞게 사용자 지정할 수 있습니다.
발전하는 방법
다음과 같은 프로그래밍 방법을 사용하여 기초 모델을 조정할 수 있습니다
또는, watsonx.ai 의 그래픽 도구를 사용하여 기초 모델을 조정할 수 있습니다. 보다 Tuning Studio.
휴식 (REST API)
API를 사용하여 기초 모델을 신속하게 조정하는 것은 복잡한 작업입니다. Python 의 샘플 노트북은 그 과정을 단순화합니다. 샘플 노트북을 템플릿으로 사용하여 신속한 조정을 위해 자신만의 노트북을 작성할 수 있습니다. 기초 모델의 프로그래밍 방식 조정하기를 참조하십시오.
지원되는 기초 모델
조정할 기초 모델 선택하기를 참조하십시오.
프로그래밍 방식으로 프롬프트를 조정할 수 있는 기초 모델 목록을 얻으려면 다음 요청을 사용할 수 있습니다
curl -X GET \
'https://{hostname}/ml/v1/foundation_model_specs?version=2025-02-20&filters=function_prompt_tune_trainable'
프로시저
높은 수준에서 API를 사용하여 기초 모델을 신속하게 조정하는 작업은 다음 단계를 포함합니다
작업 자격 증명을 만듭니다.
작업 자격 증명은 이 절차에서 수행할 단계에 의해 시작되는 장기 실행 작업을 인증하는 데 사용되는 API 키입니다. API 요청에 작업 자격 증명을 전달할 필요가 없습니다.
user_id와account_id의 자격 증명 서비스에 사용자가 생성한 작업 자격 증명이 존재해야 합니다. 참조: 작업 인증서 만들기.기초 모델 튜닝에 사용할 훈련 데이터 파일을 만듭니다.
훈련 데이터 파일 요건에 대한 자세한 정보는 기초 모델 튜닝을 위한 데이터 형식을 참고하세요.
훈련 데이터 파일을 업로드하세요.
다음 자산 유형 중 하나를 만들어 파일을 추가할 수 있습니다:
연결 자산(connection asset)
참고 : 현재 프롬프트 튜닝 훈련에는 Cloud Object Storage 연결 유형만 지원됩니다.
API에서 파일 참조하기를 참조하십시오.
다음 단계에서 생성하는
request.json파일에training_data_references섹션을 추가할 때 연결 ID와 훈련 데이터 파일 세부 정보를 사용하게 됩니다.데이터 자산
데이터 자산을 생성하려면 데이터 및 AI 공통 핵심 API를 사용하여 데이터 자산을 정의하십시오.
training_data_references다음 단계에서 생성할 REST 요청의 자산 ID와 훈련 데이터 파일 세부 사항을 사용하게 됩니다.
교육 데이터 파일을 참조하는 지원되는 방법에 대한 자세한 내용은 데이터 참조를 참조하십시오.
watsonx.ai 의 API를 사용하여 훈련 실험을 만듭니다.
교육 만들기 참조.
TrainingResource페이로드에서 실험에 대한 매개 변수를 지정할 수 있습니다. 사용 가능한 매개변수에 대한 자세한 정보는 기초 모델 튜닝을 위한 매개변수를 참고하세요.task_id의 경우, 사용 가능한 기초 모델 목록 표시 메서드에 대한 응답에서 기초 모델에 대해 지원되는 것으로 나열된 작업 중 하나를 지정합니다.조정된 모델을 저장소에 저장하여 조정된 모델을 가리키는 조정된 모델(
asset_id)을 생성합니다.조정된 모델을 저장하려면, watsonx.ai 런타임(구 Watson Machine Learning ) API를 사용하여 새로운 모델을 만듭니다.
watsonx.ai 의 API를 사용하여 조정된 모델의 배포를 만듭니다.
조정된 모델을 추론하려면 조정된 모델을 호스팅하는 배포의 고유 ID가 포함된 추론 엔드포인트를 사용해야 합니다. 더 자세한 정보는 배포 섹션의 추론 방법을 참고하세요.
상위 주제: 생성적 AI 솔루션 코딩