AI 자산 배치
IBM watsonx.ai Runtime을 사용하면 머신 러닝 모델, 스크립트, 함수 및 생성형 AI 모델을 위한 프롬프트 템플릿을 배포할 수 있습니다. 배치를 작성한 후에는 이를 테스트 및 관리하고, 예측 및 인사이트를 생성하기 위해 사전 프로덕션 및 프로덕션 환경에 배치할 자산을 준비할 수 있습니다.
서비스 관리자는 ' watsonx.ai 런타임 서비스를 ' watsonx ' 플랫폼에서 프로비저닝해야 해당 기능을 사용할 수 있습니다.
배치 프로세스
자산을 배치하는 일반적인 프로세스는 다음과 같습니다.
- 배치 유형 선택: 배치할 자산 유형의 배치 유형을 선택하십시오.
- 배치 작성: 자산 유형에 따라 온라인, 일괄처리, 애플리케이션 또는 분리된 배치를 작성할 수 있습니다.
- 테스트 배치: 테스트 데이터를 입력하거나 JSON 페이로드를 제공하거나 일괄처리 작업을 작성하여 배치를 테스트할 수 있습니다.
- 배치 엔드포인트 검색: 애플리케이션에서 배치를 사용하려면 배치의 엔드포인트를 검색해야 합니다. 모델 엔드포인트는 모델 배치를 호출하고 관리하기 위한 인터페이스에 대한 액세스를 제공합니다.
다음 그래픽은 AI 자산을 배치하기 위한 프로세스를 보여줍니다.
배치 유형
가장 일반적인 배치 유형은 다음과 같습니다.
배치 가능한 자산의 유형
배치하는 자산의 유형은 작성할 수 있는 배치 유형을 나타냅니다. 예를 들어, Python 기능, 스크립트 및 모델 (예: AutoAI 또는 Decision Optimization 모델) 은 온라인 및 일괄처리 배치를 지원합니다. 그러나 파일에서 가져온 모델에 대해서만 온라인 배치를 작성할 수 있습니다. 배치 가능한 자산의 다른 유형은 다음과 같습니다.
기초 모델 자산: 조정된 모델, 프롬프트 템플릿 자산 또는 사용자 지정 기초 모델과 같은 foundation model 모델 자산을 watsonx.ai 배포할 수 있습니다.
watsonx.ai 런타임 에셋: ' watsonx.ai ' ' Python ' 함수, R Shiny 애플리케이션, NLP 모델, 스크립트 등과 같은 머신 러닝 ' watsonx.ai ' 런타임 에셋을 'code5' 런타임으로 배포할 수 있습니다.
Decision Optimization 모델: Decision Optimization 모델은 watsonx.ai 런타임으로 배포할 수 있습니다.
자산 배치 방법
다음과 같은 방법으로 자산을 배치하고 관리할 수 있습니다.
코드가 없는 접근 방식을 사용하여 배치 영역에서 자산 배치 및 관리 .
사용자 정의 코드 접근 방식을 사용하여 프로그래밍 방식으로 자산을 배치하고 관리 하십시오.
배치 영역에서 자산 배치 및 관리
배치 영역을 작성하여 이해 당사자 (stakeholder) 와 협업하고 배치 영역에서 자산을 배치하고 관리합니다.
배치 영역 내에서 자산을 관리하려면 자산을 프로젝트에서 배치 영역으로 승격해야 합니다. 또한 배치 영역에서 자산을 가져오거나 내보낼 수 있습니다.
배치 대시보드 를 사용하여 배치의 집계 보기를 가져오고 배치 활동을 모니터하십시오.
프로그래밍 방식으로 자산 배치 및 관리
Python 클라이언트 라이브러리 또는 watsonx.ai 런타임 API를 사용하여 자산을 배포하고 관리할 수 있습니다. 자세한 내용은 프로그래밍으로 AI 에셋 배포하기를 참조하세요.
배치를 위한 프레임워크 및 소프트웨어 스펙 관리
소프트웨어 스펙 및 프레임워크 에는 패키지의 해당 버전과 함께 패키지 번들이 포함되어 있습니다.
사전 정의된 소프트웨어 스펙을 사용하거나 기존 프레임워크에 새 패키지를 추가하여 사용자 정의 소프트웨어 스펙을 작성하거나 새 패키지를 작성하거나 소프트웨어 스펙에서 패키지 버전을 업데이트할 수 있습니다.
자세히 알아보기
상위 주제: AI 자산 배치 및 관리