0 / 0
資料の 英語版 に戻る

テキストの生成

最終更新: 2025年2月12日
テキストの生成

Use foundation models in IBM watsonx.ai programmatically for text generation tasks.

開発方法

これらのプログラミング方法を使用することで、 基盤モデルを推論することができます

Alternatively, you can use graphical tools from the watsonx.ai UI to inference foundation models. 参照 Prompt Lab

推論の種類

次のテキスト生成方法のいずれかを使用して、 foundation model を促すことができます

  • テキストを推測: foundation model によって生成された出力をすべて一度に返すのを待ちます。
  • テキストイベントストリームの推論: foundation model によって生成された出力をそのまま返します。 この方法は、チャットボットやバーチャルアシスタントに実際の会話のような流暢な応答をさせたい会話型のユースケースで役立ちます。

チャットのユースケースには、チャットAPIを使用します。 チャットAPIを使用して、アプリケーションにジェネレーティブチャット機能を追加する方法をご覧ください。

Node.js

テキスト生成

以下のリソースを参照してください。

テキスト生成ストリーム

次のリソースを参照してください

Python 図書館

watsonx.ai Python ライブラリの Model Inferenceクラスを参照してください。

以下のトピックでは、利用可能なサンプルノートブックの使用方法について説明します

REST API

The method that you use to inference a foundation model differs depending on whether the foundation model is provided with watsonx.ai or is associated with a deployment.

  • IBM が watsonx.ai で展開した foundation model を推論するには、 テキスト生成 メソッドを使用します。

    curl -X POST \
    -H 'Authorization: Bearer {token}' \
    -H 'Content-Type: application/json' \
    -H 'Accept: application/json' \
    --data-raw '{
    "input": "Tell me about interest rates",
    "parameters": {
      "max_new_tokens": 200
    },
    "model_id": "ibm/granite-3-8b-instruct",
    "project_id": "{project_id}"
    }' \
    "https://{region}.ml.cloud.ibm.com/ml/v1/text/generation?version=2025-02-11"
    
  • 調整済みの foundation model 、カスタム foundation model 、オンデマンド展開の foundation model を推論するには、 デプロイメント >テキストを推論 メソッドを使用します。

    The {model_id} is not required with this type of request because only one model is supported by the deployment.

推論時にAIガードレールを適用する

APIを使用して foundation model を呼び出す際には、 moderations フィールドを使用して、 foundation model の入力と出力にAIガードレールを適用することができます。 詳細は 、「モデルの入出力から有害な言語を削除する 」を参照してください。

テンプレートを使用した推論

プロンプトテンプレートで定義されたパターンに従う入力テキストから、 foundation model を推論することができます。

詳細については 、「プロンプトテンプレートの作成 」を参照してください。

テキスト生成メソッドへの入力として使用するテンプレートテキストを抽出するには、以下の手順に従います

  1. Watson データAPIの 資産を検索 メソッドを使用して、プロンプトテンプレートIDを取得します。

    curl -X POST \
    'https://api.dataplatform.cloud.ibm.com/v2/asset_types/wx_prompt/search?version=2024-07-29&project_id={project_id}' \
    --header 'Content-Type: application/json' \
    --header 'Authorization: Bearer ACCESS_TOKEN' \
    --data '{
     "query": "asset.name:{template_name}"
    }'
    

    テンプレートIDは、 metadata.asset_id として指定されます。

  2. 指定したプロンプトメソッドの推論入力文字列を取得して、プロンプトテンプレートテキストを取得します。

    curl -X POST \
    'https://api.dataplatform.cloud.ibm.com/wx/v1/prompts/{prompt-template-id}/input?version=2024-07-29&project_id={project_id}'
    ...
    

    詳細については、 指定されたプロンプトに対する推論入力文字列を取得するを参照してください

    抽出されたプロンプトテキストを、 テキスト生成方法の入力として送信することができます。

親トピック: 生成型AIソリューションのコーディング