カスタム・ foundation modelのプロンプト

資料の英語版に戻る

最終更新: 2024年12月18日

カスタム・ foundation modelのプロンプト

カスタム・ foundation modelがデプロイされたら、 watsonx.ai の機能を使用してモデルをプロンプトします。

注： foundation modelが配置されているプロジェクトまたはスペースのメンバーだけがプロンプトを表示できます。このモデルは、他のプロジェクトやスペースのユーザーは利用できない。

Prompt Labで、利用可能なファンデーションモデルのリストからカスタムモデルを見つけます。そして、 watsonx.aiで提供されている基礎モデルと同じように、そのモデルを扱うことができる。配備されたモデルを見つける最も簡単な方法は、フィルターを使うことだ：

フィルターを使ってカスタムモデルを見つける

モデルを選択した後、次のことができる：

Prompt Labを使用して、 foundation model用のプロンプトを作成し、プロンプトを確認します

APIを使用してカスタムモデルをプロンプトする

以下の例を参照して、 foundation modelのプロンプトをコーディングしてください：

curl -X POST "https://<your cloud hostname>/ml/v1/deployments/<your deployment ID>/text/generation?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
 "input": "Hello, what is your name",
 "parameters": {
    "max_new_tokens": 200,
    "min_new_tokens": 20
 }
}'

curl -X POST "https://<your cloud hostname>/ml/v1/deployments/<your deployment ID>/text/generation_stream?version=2024-01-29" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '{
 "input": "Hello, what is your name",
 "parameters": {
    "max_new_tokens": 200,
    "min_new_tokens": 20
 }
}'

親トピック: カスタム基礎モデルの展開