배치를 위한 하드웨어 스펙 관리

마지막 업데이트 날짜: 2025년 2월 14일
배치를 위한 하드웨어 스펙 관리

watsonx.ai 런타임에서 특정 자산을 배포할 때 컴퓨팅 요구 사항에 맞는 하드웨어 구성의 유형, 크기, 성능을 선택할 수 있습니다.

배치를 위한 하드웨어 스펙 작성

다음 방법으로 배치에 대한 하드웨어 스펙을 작성할 수 있습니다.

  • Python 클라이언트 라이브러리: Python 클라이언트 라이브러리에서 hardware_specifications.store 함수를 사용하십시오. 자세한 정보는 Python 클라이언트 라이브러리 참조 를 참조하십시오.
  • 데이터 및 AI 공통 코어 API: 데이터 및 AI 공통 코어 API의 환경 목록에서 ' POST /v2/hardware_specifications '을 사용하여 하드웨어 사양을 생성합니다. 자세한 정보는 환경 API 참조를 참조하십시오.

하드웨어 스펙이 필요한 배치 유형

하드웨어 스펙 선택은 모든 일괄처리 배치 유형에 사용할 수 있습니다. 온라인 배치의 경우 배치하는 경우 특정 하드웨어 스펙을 선택할 수 있습니다.

  • Python 함수
  • Tensorflow 모델
  • 사용자 정의 소프트웨어 스펙이 있는 모델

자산 배치에 사용 가능한 하드웨어 구성

  • XS: 1x4 = 1 vCPU 및 4GB RAM
  • S: 2x8 = 2 vCPU 및 8GB RAM
  • M: 4x16 = 4 vCPU 및 16GB RAM
  • L: 8x32 = 8 vCPU 및 32GB RAM
  • XL: 16x64 = 16 vCPU 및 64GB RAM

XS 구성을 사용하여 다음을 배치할 수 있습니다.

  • Python 함수
  • Python 스크립트
  • R 스크립트
  • 사용자 정의 라이브러리 및 사용자 정의 이미지를 기반으로 하는 모델

Decision Optimization 배치의 경우 다음 하드웨어 스펙을 사용할 수 있습니다.

  • S
  • M
  • L
  • XL

자세한 정보

상위 주제: 예측 배치 관리