Python ライブラリーを使用して、 IBM watsonx.ai でファウンデーション・モデルをプログラマチックに推論および調整することができます。
watsonx.aiの以下のコンポーネントの名前が変更された。 Pythonノートブックの中には、元の名前を使い続けるものもあるかもしれません。
- Watson Machine Learningはwatsonx.aiランタイムという名前になった
- Watson Studioはwatsonx.aiStudioという名前になった
以下のようなサード・パーティー・ツールから watsonx.ai ファウンデーション・モデルを操作することもできます。
使用可能なサンプル・ノートブックから学習する
サンプルノートブックは、推論やfoundation modelのチューニングなど、一般的なタスクを行うためのノートブックを自分で作成する際のガイドとして利用できます。
使用可能なノートブックを見つけるには、 「リソース・ハブ」を検索します。 リソース・ハブから開いたノートブックをプロジェクトに追加し、それらを実行することができます。
Python サンプル・ノートブック GitHub リポジトリーからノートブックにアクセスすることもできます。
IDE からの Python ライブラリーの使用
ibm-watsonx-ai Python ライブラリーは、 PyPI の URL https://pypi.org/project/ibm-watsonx-ai/から入手できます。
以下のコマンドを使用して、統合開発環境に ibm-watsonx-ai Python ライブラリーをインストールできます。
pip install ibm-watsonx-ai
ライブラリーが既にインストールされている場合は、 -U パラメーターを組み込んで、更新を取得し、最新バージョンのライブラリーで作業します。
pip install -U ibm-watsonx-ai
ノートブックからの LangChain の作業
LangChain は、開発者が大規模な言語モデルを組み込んだアプリケーションを作成するために使用できるフレームワークです。 LangChain は、複数の関数を相互にリンクする場合に役立ちます。 例えば、 LangChain を検索拡張世代 (RAG) タスクの一部として使用することができます。
詳しくは、LLMs >IBM watsonx.aiをご覧ください
詳細については、 LangChain を活用するサンプル RAG ノートブックのいずれかを使用してください。 RAG の例を参照してください。
watsonx.aiと LangChainエージェントを使用して一連のアクションを実行するノートブックから、エージェントを使用して、foundation modelの応答に基づいて一連のアクションを実行することができます。
ノートブックからの LlamaIndex 関数の処理
LlamaIndex は、大規模な言語モデル・アプリケーションを構築するためのフレームワークです。 LlamaIndex, から利用可能な関数、たとえば text-to-SQL や Pandas DataFrames の機能を、watsonx.ai 基盤モデルで構築するアプリケーションで活用できます。
詳しくは、 LLM> IBM watsonx.aiを参照してください。
watsonx.aiのノートブックから LlamaIndex 関数を操作できます。
例えば、 Use watsonx、および LlamaIndex for Text-to-SQL task ノートブックを使用して、自然言語照会を SQL 照会に変換します。
前提条件
Python ライブラリーを開始するには、まず資格情報とプロジェクト ID またはデプロイメント ID が必要です。 詳しくは、以下のトピックを参照してください。
詳細情報
- foundation model情報の取得
- foundation modelの推論
- プロンプトテンプレートを使用したfoundation modelの推論
- foundation modelのチューニング
- テキストからテキスト埋め込みへの変換
親トピック: 生成 AI ソリューションのコーディング