Docs
...
Text generation

テキストの生成

最終更新: 2025年3月26日
テキストの生成

Use foundation models in IBM watsonx.ai programmatically for text generation tasks.

開発方法

これらのプログラミング方法を使用することで、 基盤モデルを推論することができます

Alternatively, you can use graphical tools from the watsonx.ai UI to inference foundation models. 参照 Prompt Lab。

推論の種類

以下のテキスト生成方法のいずれかを使用して、 基盤モデルプロンプトすることができます：

  • テキストを推論する： 基盤モデル生成された出力を一度に返すのを待つ。
  • テキストイベントストリームを推論します： 基盤モデル生成された出力を返します。 この方法は、チャットボットやバーチャルアシスタントに実際の会話のような流暢な応答をさせたい会話型のユースケースで役立ちます。

チャットのユースケースには、チャットAPIを使用します。 チャットAPIを使用して、アプリケーションにジェネレーティブチャット機能を追加する方法をご覧ください。

Node.js

テキスト生成

以下のリソースを参照してください。

テキスト生成ストリーム

次のリソースを参照してください

Python 図書館

watsonx.ai Python ライブラリの Model Inferenceクラスを参照してください。

以下のトピックでは、利用可能なサンプルノートブックの使用方法について説明します

REST API

基盤モデル推論に使用する方法は、 基盤モデル watsonx.ai で提供されている か、 デプロイメントいるかによって異なります。

  • watsonx.ai の IBM で展開される基盤モデル推論するには、 テキスト生成法を使用する。

    curl -X POST \
-H 'Authorization: Bearer {token}' \
-H 'Content-Type: application/json' \
-H 'Accept: application/json' \
--data-raw '{
"input": "Tell me about interest rates",
"parameters": {
  "max_new_tokens": 200
},
"model_id": "ibm/granite-3-8b-instruct",
"project_id": "{project_id}"
}' \
"https://{region}.ml.cloud.ibm.com/ml/v1/text/generation?version=2025-02-11"

  • 調整された基盤モデル、カスタム基盤モデル、またはオンデマンド基盤モデル推論するには、 デプロイメント > テキストの推測 メソッドを使用します。

    The {model_id} is not required with this type of request because only one model is supported by the deployment.

推論時にAIガードレールを適用する

API を使用して基盤モデルプロンプトする場合、 moderations フィールドを使用して、 基盤モデル入出力に AI ガードレールを適用することができます。 詳細は 、「モデルの入出力から有害な言語を削除する 」を参照してください。

テンプレートを使用した推論

プロンプトテンプレートで定義されたパターンに従った入力テキストで、 基盤モデル推論することができる。

詳細については 、「プロンプトテンプレートの作成 」を参照してください。

テキスト生成メソッドへの入力として使用するテンプレートテキストを抽出するには、以下の手順に従います

  1. Watson データAPIの 資産を検索 メソッドを使用して、プロンプトテンプレートIDを取得します。

    curl -X POST \
'https://api.dataplatform.cloud.ibm.com/v2/asset_types/wx_prompt/search?version=2024-07-29&project_id={project_id}' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer ACCESS_TOKEN' \
--data '{
 "query": "asset.name:{template_name}"
}'

    テンプレートIDは、 metadata.asset_id として指定されます。

  2. 指定したプロンプトメソッドの推論入力文字列を取得して、プロンプトテンプレートテキストを取得します。

    curl -X POST \
'https://api.dataplatform.cloud.ibm.com/wx/v1/prompts/{prompt-template-id}/input?version=2024-07-29&project_id={project_id}'
...

    詳細については、 指定されたプロンプトに対する推論入力文字列を取得するを参照してください

    抽出されたプロンプトテキストを、 テキスト生成方法の入力として送信することができます。

親トピック コードによるテキストの生成