watsonx.ai 추론 기능과 함께 사용할 사용자 정의 foundation model 업로드하고 배포할 수 있습니다.
IBM에 의해 큐레이션된 파운데이션 모델로 작업하는 것 외에도 이제 자신만의 파운데이션 모델을 배포할 수 있습니다. 모델이 배포된 후에는 프롬프트 랩에서 사용자 지정 모델을 추론하는 프롬프트를 만듭니다.
사용자 정의 foundation model 배포하면 사용 사례에 적합한 AI 솔루션을 구현할 수 있는 유연성이 제공됩니다.
타사 공급업체의 모델을 사용하는 경우 모델 빌더에서 직접 모델을 가져오는 것이 가장 좋습니다. 새로운 모델을 찾을 수 있는 곳 중 하나는 Hugging Face 입니다. 이곳은 많은 모델 빌더가 사용하는 오픈 소스 기반 모델의 저장소입니다.
이 비디오를 시청하여 사용자 정의 foundation model 배포하는 방법을 알아보세요.
이 동영상은 이 설명서의 개념과 작업을 시각적으로 학습할 수 있는 방법을 제공합니다.
배포 공간으로 사용자 지정 파운데이션 모델 가져오기
foundation model 배포하고 추론에 사용할 수 있도록 하는 프로세스에는 ModelOps 엔지니어와 Prompt 엔지니어가 수행하는 작업이 포함됩니다.
ModelOps 엔지니어는 먼저 모델을 클라우드 스토리지(내부 또는 외부)에 업로드해야 합니다. 사용자 정의 foundation model 배포하려면 ModelOps 엔지니어가 배포 프로젝트나 공간 컨텍스트에 foundation model 자산을 만들거나 홍보해야 합니다.
모델이 프로덕션에 배포된 후 Prompt 엔지니어는 Prompt Lab 또는 watsonx.ai API에서 사용자 정의 foundation model 프롬프트할 수 있습니다.
다음 그래픽은 일반적으로 ModelOps 엔지니어와 프롬프트 엔지니어가 수행하는 작업의 흐름을 나타냅니다:
모델 준비
모델을 준비하려면 ModelOps 엔지니어가 다음 작업을 수행해야 합니다:
사용자 정의 foundation model 배포
모델을 준비한 후 ModelOps 엔지니어는 다음 작업을 수행해야 합니다:
사용자 정의 foundation model 프롬프트
모델이 배포되면 Prompt 엔지니어는 Prompt Lab 또는 watsonx.ai API에서 사용자 정의 foundation model 대한 프롬프트를 시작할 수 있습니다. 프롬프트 출력 생성을 위한 사용자 정의 foundation model 사용을 참조하세요.
다음 단계
자세히 알아보기
상위 주제: foundation model 자산 배포