Python 라이브러리를 사용하여 IBM watsonx.ai 에서 프로그래밍 방식으로 기본 모델을 추론하고 튜닝할 수 있습니다.
watsonx Python 라이브러리를 참조하세요.
watsonx.ai 다음 구성 요소의 이름이 변경되었습니다. 일부 Python 노트북은 원래 이름을 계속 사용할 수도 있습니다.
- 이제 Watson Machine Learning '의 이름이 watsonx.ai Runtime으로 변경되었습니다
- 이제 Watson Studio '의 이름이 watsonx.ai Studio로 변경되었습니다
다음을 포함하여 써드파티 도구에서 watsonx.ai 기반 모델에 대해 작업할 수도 있습니다.
사용 가능한 샘플 노트북에서 학습
추론이나 foundation model 조정과 같은 일반적인 작업을 수행하기 위해 나만의 노트북을 만들 때 가이드로 사용할 수 있는 샘플 노트북이 제공됩니다.
사용 가능한 노트북을 찾으려면 자원 허브를 검색하십시오. 자원 허브에서 연 노트북을 프로젝트에 추가한 후 실행할 수 있습니다.
Python 샘플 노트북 GitHub 저장소에서 노트북에 액세스할 수도 있습니다.
IDE에서 Python 라이브러리 사용
ibm-watsonx-ai
Python 라이브러리는 URL: https://pypi.org/project/ibm-watsonx-ai/의 PyPI 에서 사용 가능합니다.
다음 명령을 사용하여 통합 개발 환경에 ibm-watsonx-ai
Python 라이브러리를 설치할 수 있습니다.
pip install ibm-watsonx-ai
라이브러리가 이미 설치되어 있는 경우 -U
매개변수를 포함하여 업데이트를 선택하고 최신 버전의 라이브러리에 대해 작업하십시오.
pip install -U ibm-watsonx-ai
노트북에서 LangChain 에 대한 작업
LangChain 은 개발자가 대형 언어 모델을 통합하는 애플리케이션을 작성하는 데 사용할 수 있는 프레임워크입니다. LangChain 은 둘 이상의 기능을 함께 링크하려는 경우 유용할 수 있습니다. 예를 들어, LangChain 을 RAG (Retrieval-Augmented Generation) 태스크의 일부로 사용할 수 있습니다.
자세한 내용은 LLM > IBM watsonx.ai 참조하세요
LangChain 을 활용하는 샘플 RAG 노트북 중 하나를 사용하여 자세히 학습하십시오. RAG 예제를 참조하십시오.
watsonx.ai 및 LangChain 에이전트를 사용하여 일련의 작업 수행 노트북에서 에이전트를 사용하여 foundation model 응답을 기반으로 일련의 작업을 수행할 수 있습니다.
노트북에서 LlamaIndex 함수에 대한 작업
LlamaIndex 는 대형 언어 모델 응용프로그램을 빌드하기 위한 프레임워크입니다. LlamaIndex,에서 사용할 수 있는 기능(예: 텍스트-SQL 또는 판다 DataFrames 기능)을 watsonx.ai 기반 모델로 구축하는 애플리케이션에서 활용할 수 있습니다.
자세한 정보는 LLMs > IBM watsonx.ai를 참조하십시오.
watsonx.ai의 노트북에서 LlamaIndex 함수에 대해 작업할 수 있습니다.
예를 들어, 자연어 조회를 SQL 조회로 변환하려면 텍스트 대 SQL 태스크에 watsonx및 LlamaIndex 사용 노트북을 사용하십시오.
전제조건
Python 라이브러리를 시작하려면 먼저 신임 정보와 프로젝트 ID 또는 배치 ID가 필요합니다. 자세한 내용은 다음 주제를 참조하십시오.
자세히 알아보기
- foundation model 정보 얻기
- foundation model 추론하기
- 프롬프트 템플릿을 사용하여 foundation model 추론하기
- foundation model 조정하기
- 텍스트를 텍스트 임베드로 변환
상위 주제: 생성 AI 솔루션 코딩