영어 버전 문서로 돌아가기자연어 처리 모델 배포
자연어 처리 모델 배포
마지막 업데이트 날짜: 2024년 11월 22일
Python 함수 또는 Python 스크립트를 사용하여 watsonx.ai 런타임에 자연어 처리 모델을 배포할 수 있습니다. 온라인 및 일괄처리 배치 모두 지원됩니다.
- 온라인 및 인라인 일괄 배포를 위해 Python 함수를 배포할 수 있으며, 일괄 데이터 참조 배포를 위해 Python 스크립트를 배포할 수 있습니다.
<model>.run()에서 반환된 예측 출력은 해당 데이터 모델의 예측 클래스에 특정한 클래스의 객체입니다(예:watson_nlp.data_model.syntax.SyntaxPrediction). 이러한 객체는 JSON 형식으로 직렬화할 수 없으므로 예측 출력은<prediction output>.to_dict()(권장) 또는<prediction output>.to_json()메서드를 사용하여 Python 사전 유형이나 JSON으로 변환해야 합니다. 출력을 변환하지 않으면 스코어링 API 요청에서 오류를 리턴합니다. NLP 모델의 예측 출력 처리 예를 참조하세요.LOAD_PATH환경 변수를 사용하면 Python 함수 코드에서 사전 훈련된 Watson NLP 모델의 위치에 액세스할 수 있습니다.score()에서 리턴되는 예측 입력 페이로드 및 예측 응답은 온라인 스코어링 및 작업 API 문서에 나열된 요구사항을 충족해야 합니다.- 기본 JVM 런타임에서 보고하는
Out of Memory오류로 인해 NLP 모델에 대한 스코어링 요청이 실패할 수 있습니다. 오류가 보고되면 사용 가능한 메모리가 더 많은 하드웨어 스펙을 사용하도록 배치를 패치하십시오.
전제조건
API 키를 생성하여 작업 자격 증명을 설정해야 합니다. 자세한 내용은 작업 자격 증명 관리하기를 참조하세요.
사용 예제
텍스트 스니펫에서 구문 분석 실행
import watson_nlp
# Load the syntax model for English
syntax_model = watson_nlp.load('syntax_izumo_en_stock')
# Run the syntax model and print the result
syntax_prediction = syntax_model.run('Welcome to IBM!')
print(syntax_prediction)
텍스트 스니펫에서 엔터티 추출
import watson_nlp
entities_workflow = watson_nlp.load('entity-mentions_transformer-workflow_multilingual_slate.153m.distilled')
entities = entities_workflow.run('IBM\'s CEO Arvind Krishna is based in the US', language_code="en")
print(entities.get_mention_pairs())
NLP 모델의 예측 출력 처리 예
for input_data in input_data_row:
targets_sentiments = targets_sentiment_model.run(input_data)
scoring_prediction_row.append(targets_sentiments.to_dict())
지원되는 소프트웨어 스펙
NLP 모델의 배치를 지원하는 소프트웨어 스펙 목록:
runtime-23.1-py3.10runtime-23.1-py3.10기반 사용자 정의 소프트웨어 스펙runtime-24.1-py3.11runtime-24.1-py3.11기반 사용자 정의 소프트웨어 스펙
소프트웨어 사양을 사용자 지정하는 방법에 대한 자세한 내용은 watsonx.ai 런타임 배포 런타임 사용자 지정을 참조하세요.
NLP 모델 배포 예시
예를 들어, 이 Jupyter Notebook 을 참조하세요.
상위 주제: 예측 배치 관리