作業の保存
迅速なエンジニアリングには試行錯誤が伴います。 実験を追跡し、必要な出力を生成するモデルとプロンプトの組み合わせを保存します。
作業を保存するときに、別の資産タイプとして保存することを選択できます。 作業を資産として保存すると、現在のプロジェクトのコラボレーターと作業を共有できます。
資産タイプ | この資産タイプを使用する状況 | 保存される内容 | アセットの取得方法 |
---|---|---|---|
プロンプト・テンプレート資産 | 特定のモデルから必要な結果を生成し、それを再利用するプロンプト静的テキスト、プロンプト変数、およびプロンプト・エンジニアリング・パラメーターの組み合わせが見つかった場合。 | プロンプト・テキスト、モデル、プロンプト・エンジニアリング・パラメーター、およびプロンプト変数。 注: モデルによって生成された出力は、プロンプトがチャット・モードで作成されない限り、プロンプト・テンプレートの一部として保存されません。
|
「保存済みプロンプト・テンプレート」 タブから |
プロンプト・セッション資産 | 実験に関連するステップを追跡し、何を試したか、何を試していないかを把握したい場合。 | プロンプト・エンジニアリング・セッション中に送信される最大 500 プロンプトのプロンプト・テキスト、モデル、プロンプト・エンジニアリング・パラメーター、およびモデル出力。 | 「履歴」 タブから |
ノートブック・アセット (notebook asset) | プログラムでモデルを処理するが、プロンプト・ラボ・インターフェースから開始して、プロンプト・エンジニアリングのエクスペリエンスを向上させたい場合。 | • プロンプトテキスト、モデル、プロンプトエンジニアリングパラメータ、プロンプト変数名とデフォルト値は、次のようにフォーマットされます。Pythonコードが標準ノートブックとして保存されます。 • 展開可能なPythonプロンプト テンプレートを模倣し、REST API で使用して、デプロイ可能な gen AI フロー ノートブックとして保存できる関数。 注記:ベクター インデックスを選択し、チャット モデルを使用する場合にのみ、作業をデプロイ可能な gen AI フロー ノートブックとして保存できます。
|
プロジェクトの 「資産」 ページから |
これらの各資産タイプは、プロジェクトの 「資産」 ページから使用できます。 「管理者」 または 「エディター」 役割を持つプロジェクト・コラボレーターは、それらを開いて操作することができます。 プロンプトテンプレートとプロンプトセッションアセットは自動的にロックされますが、ロックアイコン。
エディターおよび管理者は、ロックされたプロンプト・テンプレート資産を使用して推論を生成できます。 ロック所有者のみが、ロックされたプロンプト・セッション資産を使用して推論を生成できます。
作業の保存
プロンプト・エンジニアリング作業を保存するには、以下のステップを実行します。
プロンプトエディタのヘッダーから、作業を保存アイコン
をクリックし、名前を付けて保存。
資産タイプを選択します。
資産に名前を付け、オプションで説明を追加します。
Watsonx.governance のみ: 目標に最も適合するタスク・タイプを選択します。
プロンプトをノートブック資産として保存する場合のみ: 「保存後にプロジェクトで表示」を選択します。
保存 をクリックします。
ノートブックに保存されたプロンプトの操作
作業をノートブック資産として保存すると、 Python ノートブックが作成されます。
プロンプト ノートブック アセットを操作するには、ノートブックの種類に応じて次の手順を実行します。
標準ノートブック
プロジェクトの 「資産」 タブからノートブック資産を開きます。
クリック編集アイコン
ノートブックをインスタンス化して、コードをステップ実行できるようにします。
ノートブックには、以下のステップを管理する実行可能コードが含まれています。
- サービスで認証します。
- Python クラスを定義します。
- モデルの入力テキストを定義し、プロンプト変数を宣言します。 静的プロンプト・テキストを編集して、プロンプト変数に値を割り当てることができます。
- 定義されたクラスを使用して watsonx.ai 推論 API を呼び出し、入力を基盤モデルに渡します。
- ファウンデーション・モデルによって生成される出力を示します。
ノートブックをそのまま使用するか、ユース・ケースのニーズに合わせて変更します。
プロンプト・ラボを使用して生成された Python コードが正常に実行されます。 コードに対して行った変更をテストして検証する必要があります。
デプロイ可能なgen AIフローノートブック
プロジェクトの 「資産」 タブからノートブック資産を開きます。
クリック編集アイコン
ノートブックをインスタンス化して、コードをステップ実行できるようにします。
ノートブックには、以下のステップを管理する実行可能コードが含まれています。
- サービスで認証します。
- ターゲット空間に接続し、ベクトルインデックスを昇格します。
- デプロイする Python 関数を定義します。 これには、ベクトル インデックスを初期化し、ベクトル インデックスに対してクエリを実行し、モデルの入力をフォーマットし、推論を実行するコードが含まれます。
- Python 関数をローカルでテストします。
- Python 関数をターゲット スペースにデプロイします。
- デプロイされた Python 関数をテストします。
ノートブックをそのまま使用するか、ユース・ケースのニーズに合わせて変更します。
プロンプト・ラボを使用して生成された Python コードが正常に実行されます。 コードに対して行った変更をテストして検証する必要があります。
のPythonノートブックによってデプロイされた関数は、REST API を使用して使用できます。 以下は例ですcURLデプロイメントを呼び出すリクエスト:
curl --location '${PUBLIC_ENDPOINT}' \ --header 'Content-Type: application/json' \ --header 'Authorization: Bearer ${IAM_TOKEN}' \ --data '{ \ "input_data": [{ "fields": ["Search", "Access token"], "values": [ ${MESSAGES}, [${IAM_TOKEN}]] }] }'
ここで
- PUBLIC_ENDPOINT は、デプロイメントのパブリック エンドポイントです。 見るオンライン展開の作成。
- IAM_TOKENはアクセスするための認証トークンですIBM Cloudサービス。 見るプログラムによるアクセスの認証情報。
- MESSAGES は、次のスキーマを持つチャット履歴テキスト エントリの配列です。
{ "role": type, // "user" or "assistant" "content": content // The text content of the message }
保存されたプロンプト・テンプレートの操作
保存されたプロンプトで作業を続行するには、プロンプト・ラボの 「保存されたプロンプト・テンプレート」 タブからプロンプトを開きます。
保存されたプロンプト・テンプレートを開くと、 「自動保存」 がオンになります。これは、プロンプトに対して行った変更が、保存されたプロンプト・テンプレート資産に反映されることを意味します。 保存したプロンプト・テンプレートを変更しない場合は、 「新規プロンプト」 をクリックして新規プロンプトを開始します。
保存されたプロンプト・テンプレートから編集モードを変更することはできません。
他の編集モードとは異なり、チャット・モードで保存されたプロンプト・テンプレートには、モデル出力も保管されます。 チャット・モードで保存されたプロンプト・テンプレートから別のモードに切り替えることはできません。
watsonx.governance がプロビジョンされているときに、プロンプト・テンプレートに少なくとも 1 つのプロンプト変数が含まれている場合は、モデル応答の有効性を評価できます。
- プロンプト変数について詳しくは、 再使用可能なプロンプトの作成を参照してください。
- モデル応答の評価について詳しくは、 プロジェクトでのプロンプト・テンプレートの評価を参照してください。
保存済みプロンプト・セッションの処理
保存されたプロンプト・セッションでの作業を続行するには、プロンプト・ラボの 「履歴」 タブからそのセッションを開きます。
以前のプロンプト送信を確認するには、履歴からプロンプト・エントリーをクリックして、プロンプト・エディターで開きます。 前のプロンプトの結果を希望する場合は、 「復元」をクリックして、現在のプロンプトとしてリセットできます。 以前のプロンプトを復元すると、現在のプロンプト・セッションは以前のバージョンのプロンプト・セッションに置き換えられます。
詳細情報
親トピック: プロンプト・ラボ