watsonx.ai 런타임에 Python 함수 배포하기

영어 버전 문서로 돌아가기

마지막 업데이트 날짜: 2024년 11월 21일

watsonx.ai 런타임에 Python 함수 배포하기

모델을 배포하는 것과 동일한 방식으로 watsonx.ai 런타임에 Python 함수를 배포할 수 있습니다. 도구 및 앱은 watsonx.ai Python 클라이언트 또는 REST API를 사용하여 배치된 모델에 데이터를 전송하는 것과 동일한 방식으로 배치된 함수에 데이터를 전송할 수 있습니다. Python 함수를 배치하면 세부사항 (예: 신임 정보) 을 숨길 수 있습니다. 모델에 전달하기 전에 데이터를 사전 처리할 수도 있습니다. 또한 오류를 처리하고 여러 모델에 대한 호출을 애플리케이션 대신 배치된 함수 내에 포함시킬 수 있습니다.

Python 함수 작성 및 배치를 위한 샘플 노트북

watsonx.ai Python 클라이언트 라이브러리를 사용하여 Python 함수를 작성하고 배치하는 방법의 예는 다음 샘플 노트북을 참조하십시오.

샘플 이름	프레임워크	시연되는 기술
자동차를 위한 예측 비즈니스	하이브리드(Tensorflow)	AI 정의 설정 데이터 준비 Tensorflow Deploy and score the model Define, store, and deploy a Python 함수를 사용하여 Keras 모델 작성
소프트웨어 스펙에 대한 Python 기능 배치	코어	Python 함수 작성 웹 서비스 작성 모델 점수

노트북은 함수 작성 및 배치를 위한 6단계를 나타냅니다.

함수를　정의합니다.
영역을 인증하고 정의합니다.
저장소에 함수를 저장합니다.
소프트웨어 명세를 가져옵니다.
저장된 함수를 배치합니다.
데이터를 처리할 함수로 전송합니다.

watsonx.ai Python 클라이언트 라이브러리를 사용하는 다른 샘플 노트북에 대한 링크는 노트북에서 watsonx.ai 런타임 사용을 참조하세요.

함수를 위해 확장성 증가

배치 영역에서 또는 프로그래밍 방식으로 함수를 배치하면 함수의 단일 사본이 기본적으로 배치됩니다. 확장성을 증가시키려면 배치의 구성을 편집하여 복제본의 수를 늘릴 수 있습니다. 더 많은 복제본은 더 큰 볼륨의 스코어링 요청을 허용합니다.

다음 예는 복제본의 수를 3으로 설정하기 위해 Python 클라이언트 API를 사용합니다.

change_meta = {
                client.deployments.ConfigurationMetaNames.HARDWARE_SPEC: {
                                       "name":"S",
                                       "num_nodes":3}
            }

client.deployments.update(<deployment_id>, change_meta)

자세히 알아보기

배치 가능한 Python 함수 정의에 대해 자세히 알아보려면 배치 가능한 Python 함수 작성 및 저장의 배치 가능한 함수에 대한 일반 요구사항 절을 참조하십시오.
사용자 인터페이스를 통해 배치 공간에서 기능을 배치할 수 있습니다. 자세한 정보는 배치 영역을 참조하십시오.

상위 주제: 예측 배치 관리