Docs
...
Inferencing a custom foundation model

カスタム・ファウンデーション・モデルのプロンプト

最終更新: 2025年4月23日
カスタム・ファウンデーション・モデルのプロンプト

基盤モデルをインストール、登録、展開した後、 watsonx.ai の機能を使用してモデルを起動します。

注： 基盤モデルがデプロイされたプロジェクトまたはスペースのメンバーのみが、それを促すことができます。 他のプロジェクトやスペースのユーザーは、このモデルを利用できません。

基盤モデルが利用可能になると、以下のいずれかの方法でそれを呼び出すことができます

カスタムモデルを呼び出すには、 Prompt Lab

使用可能な基盤モデルのリストからカスタム・モデルを開きます。 watsonx.ai で提供されている基盤モデルと同様に、このモデルを使用することができます。

APIを使用してカスタムモデルを呼び出す

カスタム・ファウンデーション・モデルのプロンプトをコーディングするには、以下の例を参照してください。

テキスト形式の応答を生成する

次のコードサンプルは、 /ml/v1/deployments/<deployment ID>/text/generation API エンドポイントを使用してテキスト形式の応答を生成する方法を示しています

curl -X POST "https://<cluster_url>/ml/v1/deployments/<your deployment ID>/text/generation?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
 "input": "Hello, what is your name",
 "parameters": {
    "max_new_tokens": 200,
    "min_new_tokens": 20
 }
}'

ストリーム応答の生成

次のコードサンプルは、 /ml/v1/deployments/<deployment ID>/text/generation_stream API エンドポイントを使用してストリームレスポンスを生成する方法を示しています

curl -X POST "https://<cluster_url>/ml/v1/deployments/<your deployment ID>/text/generation_stream?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
 "input": "Hello, what is your name",
 "parameters": {
    "max_new_tokens": 200,
    "min_new_tokens": 20
 }
}'

親トピック カスタム基盤モデル展開