자연어 처리 모델 배포

마지막 업데이트 날짜: 2024년 11월 22일

자연어 처리 모델 배포

Python 함수 또는 Python 스크립트를 사용하여 watsonx.ai 런타임에 자연어 처리 모델을 배포할 수 있습니다. 온라인 및 일괄처리 배치 모두 지원됩니다.

온라인 및 인라인 일괄 배포를 위해 Python 함수를 배포할 수 있으며, 일괄 데이터 참조 배포를 위해 Python 스크립트를 배포할 수 있습니다.
<model>.run() 에서 반환된 예측 출력은 해당 데이터 모델의 예측 클래스에 특정한 클래스의 객체입니다(예: watson_nlp.data_model.syntax.SyntaxPrediction ). 이러한 객체는 JSON 형식으로 직렬화할 수 없으므로 예측 출력은 <prediction output>.to_dict() (권장) 또는 <prediction output>.to_json() 메서드를 사용하여 Python 사전 유형이나 JSON으로 변환해야 합니다. 출력을 변환하지 않으면 스코어링 API 요청에서 오류를 리턴합니다. NLP 모델의 예측 출력 처리 예를 참조하세요.
LOAD_PATH 환경 변수를 사용하면 Python 함수 코드에서 사전 훈련된 Watson NLP 모델의 위치에 액세스할 수 있습니다.
score() 에서 리턴되는 예측 입력 페이로드 및 예측 응답은 온라인 스코어링 및 작업 API 문서에 나열된 요구사항을 충족해야 합니다.
기본 JVM 런타임에서 보고하는 Out of Memory 오류로 인해 NLP 모델에 대한 스코어링 요청이 실패할 수 있습니다. 오류가 보고되면 사용 가능한 메모리가 더 많은 하드웨어 스펙을 사용하도록 배치를 패치하십시오.

전제조건

API 키를 생성하여 작업 자격 증명을 설정해야 합니다. 자세한 내용은 작업 자격 증명 관리하기를 참조하세요.

사용 예제

텍스트 스니펫에서 구문 분석 실행

import watson_nlp

# Load the syntax model for English
syntax_model = watson_nlp.load('syntax_izumo_en_stock')

# Run the syntax model and print the result
syntax_prediction = syntax_model.run('Welcome to IBM!')
print(syntax_prediction)

텍스트 스니펫에서 엔터티 추출

import watson_nlp
entities_workflow = watson_nlp.load('entity-mentions_transformer-workflow_multilingual_slate.153m.distilled')
entities = entities_workflow.run('IBM\'s CEO Arvind Krishna is based in the US', language_code="en")
print(entities.get_mention_pairs())

NLP 모델의 예측 출력 처리 예

    for input_data in input_data_row:
        targets_sentiments = targets_sentiment_model.run(input_data)
        scoring_prediction_row.append(targets_sentiments.to_dict())