保存を促すメッセージ

標準ノートブック

Copy link to section

1. プロジェクトのアセットタブからノートブックアセットを開きます。

2. 編集アイコン をクリックしてノートブックをインスタンス化し、コードをステップ実行できるようにします。

   ノートブックには、以下のステップを管理する実行可能なコードが含まれています：

   • サービスとの認証を行う。
   • Python クラスを定義します。
   • モデルの入力テキストを定義し、プロンプト変数を宣言します。 静的プロンプトテキストを編集したり、プロンプト変数に値を割り当てることができる。
   • 定義されたクラスを使用して、 watsonx.ai 推論APIを呼び出し、入力を 基盤モデル モデルに渡します。
   • 基盤モデル生成される出力を示します。
   Note:プロジェクトに保存されているモデルを推論するプロンプトでは、スペースIDをプロジェクトIDに置き換えてください。

3. ノートブックをそのまま使うか、使用するケースに合わせて変更してください。

   Prompt Labを使用して生成された Python コードは正常に実行されます。 コードに加えた変更はすべてテストし、検証しなければならない。

配備ノートブック

Copy link to section

1. プロジェクトのアセットタブからノートブックアセットを開きます。

2. 編集アイコン をクリックしてノートブックをインスタンス化し、コードをステップ実行できるようにします。

   ノートブックには、以下のステップを管理する実行可能なコードが含まれています：

   • サービスとの認証を行う。
   • ターゲット空間に接続し、ベクトルのインデックスを昇格させる。
   • 展開するAIサービスを定義します。 これには、ベクトル・インデックスの初期化、ベクトル・インデックスに対するクエリー、モデルの入力フォーマット、推論の実行などのコードが含まれる。
   • AIサービスをローカルでテストします。
   • 対象のスペースにAIサービスを展開します。
   • デプロイされたAIサービスをテストします。

3. ノートブックをそのまま使うか、使用するケースに合わせて変更してください。

   Prompt Labを使用して生成された Python コードは正常に実行されます。 コードに加えた変更はすべてテストし、検証しなければならない。

4. ノートブックで展開されたAIサービスは、REST APIを使用して利用できます。 The following is an example cURL request to call your deployment:

   curl --location '${PUBLIC_ENDPOINT}' \
   --header 'Content-Type: application/json' \
   --header 'Authorization: Bearer ${IAM_TOKEN}' \
   --data '{ \
     "input_data": [{
         "fields": ["Search", "Access token"],
         "values": [
           [${MESSAGES}],
           [${IAM_TOKEN}]]
       }]
   }'
   Copy to clipboardクリップボードにコピーされました

   ここで

   • PUBLIC_ENDPOINT は、デプロイのパブリック・エンドポイントです。 オンライン配置を作成するを参照してください。
   • IAM_TOKEN は、IBM Cloud サービスにアクセスするための認証トークンです。 Credentials for programmatic accessを参照してください。 使用するアクセストークンは、ノートブックで参照されているプロジェクトと同じアカウントに関連付けられている必要があります。
   • MESSAGESは、以下のスキーマを持つチャット履歴テキストエントリーの配列である：

   {
      "role": type, // "user" or "assistant"
      "content": content // The text content of the message
   }
   Copy to clipboardクリップボードにコピーされました

AI サービスのデプロイと推論方法の詳細については、 「ツールを使用した AI サービスのデプロイ」 を参照してください。