기초 모델을 프로그래밍 방식으로 조정하기

지원되는 기초 모델

Copy link to section

조정할 기초 모델 선택하기를 참조하십시오.

프로그래밍 방식으로 프롬프트를 조정할 수 있는 기초 모델 목록을 얻으려면 다음 요청을 사용할 수 있습니다

curl -X GET \
  'https://{hostname}/ml/v1/foundation_model_specs?version=2025-02-20&filters=function_prompt_tune_trainable'
Copy to clipboard클립보드에 복사됨

프로시저

Copy link to section

높은 수준에서 API를 사용하여 기초 모델을 신속하게 조정하는 작업은 다음 단계를 포함합니다

1. 작업 자격 증명을 만듭니다.

   작업 자격 증명은 이 절차에서 수행할 단계에 의해 시작되는 장기 실행 작업을 인증하는 데 사용되는 API 키입니다. API 요청에 작업 자격 증명을 전달할 필요가 없습니다. user_id 와 account_id 의 자격 증명 서비스에 사용자가 생성한 작업 자격 증명이 존재해야 합니다. 참조: 작업 인증서 만들기.

2. 기초 모델 튜닝에 사용할 훈련 데이터 파일을 만듭니다.

   훈련 데이터 파일 요건에 대한 자세한 정보는 기초 모델 튜닝을 위한 데이터 형식을 참고하세요.

3. 훈련 데이터 파일을 업로드하세요.

   다음 자산 유형 중 하나를 만들어 파일을 추가할 수 있습니다:

   • 연결 자산(connection asset)

     참고 : 현재 프롬프트 튜닝 훈련에는 Cloud Object Storage 연결 유형만 지원됩니다.

     API에서 파일 참조하기를 참조하십시오.

     다음 단계에서 생성하는 request.json 파일에 training_data_references 섹션을 추가할 때 연결 ID와 훈련 데이터 파일 세부 정보를 사용하게 됩니다.

   • 데이터 자산

     데이터 자산을 생성하려면 데이터 및 AI 공통 핵심 API를 사용하여 데이터 자산을 정의하십시오.

     training_data_references 다음 단계에서 생성할 REST 요청의 자산 ID와 훈련 데이터 파일 세부 사항을 사용하게 됩니다.

   교육 데이터 파일을 참조하는 지원되는 방법에 대한 자세한 내용은 데이터 참조를 참조하십시오.

4. watsonx.ai 의 API를 사용하여 훈련 실험을 만듭니다.

   교육 만들기 참조.

   TrainingResource 페이로드에서 실험에 대한 매개 변수를 지정할 수 있습니다. 사용 가능한 매개변수에 대한 자세한 정보는 기초 모델 튜닝을 위한 매개변수를 참고하세요.

   task_id 의 경우, 사용 가능한 기초 모델 목록 표시 메서드에 대한 응답에서 기초 모델에 대해 지원되는 것으로 나열된 작업 중 하나를 지정합니다.

5. 조정된 모델을 저장소에 저장하여 조정된 모델을 가리키는 조정된 모델( asset_id )을 생성합니다.

   조정된 모델을 저장하려면, watsonx.ai 런타임(구 Watson Machine Learning ) API를 사용하여 새로운 모델을 만듭니다.

6. watsonx.ai 의 API를 사용하여 조정된 모델의 배포를 만듭니다.

   배포판 만들기 보기

조정된 모델을 추론하려면 조정된 모델을 호스팅하는 배포의 고유 ID가 포함된 추론 엔드포인트를 사용해야 합니다. 더 자세한 정보는 배포 섹션의 추론 방법을 참고하세요.

상위 주제: 생성적 AI 솔루션 코딩