迅速なエンジニアリングには試行錯誤が伴う。 あなたの実験を記録し、あなたが望む出力を生成するモデルとプロンプトの組み合わせを保存します。
作品を保存する際、さまざまな種類のアセットとして保存することができます。 アセットとして保存することで、現在のプロジェクトの共同作業者と作品を共有することができます。
資産タイプ | このアセットタイプを使用する場合 | 保存されるもの | 資産の回収方法 |
---|---|---|---|
プロンプト・テンプレート・アセット | プロンプト静的テキスト、プロンプト変数、プロンプトエンジニアリングパラメータの組み合わせが、特定のモデルから必要な結果を生成し、それを再利用したい場合。 | プロンプトテキスト、モデル、プロンプトエンジニアリングパラメータ、プロンプト変数、AIガードレール設定。 注意: プロンプトがチャットモードで作成されていない限り、モデルによって生成された出力はプロンプトテンプレートの一部として保存されない。
|
保存されたプロンプトテンプレートタブより |
プロンプト・セッション・アセット | 実験のステップを記録し、何を試し、何を試していないかを把握したいとき。 | プロンプトエンジニアリングセッション中に送信された最大500プロンプトのプロンプトテキスト、モデル、プロンプトエンジニアリングパラメータ、AIガードレール設定、およびモデル出力。 | 歴史タブから |
標準ノートブック資産 | プログラムでモデルを操作したいが、より良いプロンプト・エンジニアリング体験のためにPrompt Labのインターフェースから始めたい場合。 | プロンプトテキスト、モデル、プロンプトエンジニアリングパラメータ、プロンプト変数名とデフォルト値は Python コードとしてフォーマットされ、 Python ノートブックとして保存される。 | プロジェクトの資産ページより |
配備ノートブック | プロンプトが、チャットからの質問に対する答えのために文書を検索するような高度な機能を実行でき、その機能をAIサービスとして展開したい場合。 | REST APIで利用可能なデプロイ可能な Python 関数です。 注: ベクトルインデックスを選択し、チャットモデルを使用する場合にのみ、作業内容を 配置ノートブックとして保存できます。
|
プロジェクトの資産ページより |
これらのアセットタイプはそれぞれ、プロジェクトのアセットページから入手できます。 管理者または編集者のロールを持つプロジェクトの共同作業者は、それらを開いて作業することができます。 プロンプトテンプレートとプロンプトセッションアセットは自動的にロックされま すが、 ロックアイコン をクリックしてロックを解除できます。
編集者および管理者は、ロックされたプロンプトテンプレートアセットを使用して推論を生成できます。 ロックされたプロンプトセッションアセットを使用して推論を生成できるのは、ロックの所有者のみです。
作品の保存
プロンプトエンジニアリング作業を保存するには、次の手順を実行します:
プロンプト・エディタのヘッダーから、[ 作業を保存 ] アイコン をクリックし、[ 名前を付けて保存 ] をクリックする。
アセットタイプを選択します。
配置可能なGen AIフローノートブックを作成する場合は、プロンプトを配置スペースに関連付ける必要があります。 詳しくは、Deployment spaces を参照してください。
アセットに名前を付け、オプションで説明を追加します。
Watsonx.governanceのみ:あなたの目標に最も適したタスクタイプを選択します。
プロンプトをノートブック資産としてのみ保存する場合: 保存後にプロジェクトで表示を選択します。
保存 をクリックします。
ノートブックに保存されたプロンプトを使用する
作業をノートブック・アセットとして保存すると、Pythonノートブックが構築されます。
プロンプト・ノートブック・アセットで作業するには、ノートブックのタイプに応じて以下の手順を実行します:
標準ノートブック
プロジェクトのアセットタブからノートブックアセットを開きます。
編集アイコン をクリックしてノートブックをインスタンス化し、コードを順を追って確認できるようにします。
ノートブックには、以下のステップを管理する実行可能なコードが含まれています:
- サービスとの認証を行う。
- Python クラスを定義します。
- モデルの入力テキストを定義し、プロンプト変数を宣言します。 静的プロンプトテキストを編集したり、プロンプト変数に値を割り当てることができる。
- 定義されたクラスを使用して、watsonx.ai推論APIを呼び出し、foundation modelモデルに入力を渡します。
- foundation modelによって生成される出力を示します。
Note:プロジェクトに保存されているモデルを推論するプロンプトでは、スペースIDをプロジェクトIDに置き換えてください。ノートブックをそのまま使うか、使用するケースに合わせて変更してください。
Prompt Labを使用して生成された Python コードは正常に実行されます。 コードに加えた変更はすべてテストし、検証しなければならない。
配備ノートブック
プロジェクトのアセットタブからノートブックアセットを開きます。
編集アイコン をクリックしてノートブックをインスタンス化し、コードを順を追って確認できるようにします。
ノートブックには、以下のステップを管理する実行可能なコードが含まれています:
- サービスとの認証を行う。
- ターゲット空間に接続し、ベクトルのインデックスを昇格させる。
- デプロイされる python 関数を定義します。 これには、ベクトル・インデックスの初期化、ベクトル・インデックスに対するクエリー、モデルの入力フォーマット、推論の実行などのコードが含まれる。
- ローカルで python 関数をテストします。
- python関数をターゲット空間に配置します。
- デプロイされた python 関数をテストします。
ノートブックをそのまま使うか、使用するケースに合わせて変更してください。
Prompt Labを使用して生成された Python コードは正常に実行されます。 コードに加えた変更はすべてテストし、検証しなければならない。
Python関数は、REST APIを使って使うことができます。 以下は、デプロイメントを呼び出す cURL リクエストの例です:
curl --location '${PUBLIC_ENDPOINT}' \ --header 'Content-Type: application/json' \ --header 'Authorization: Bearer ${IAM_TOKEN}' \ --data '{ \ "input_data": [{ "fields": ["Search", "Access token"], "values": [ [${MESSAGES}], [${IAM_TOKEN}]] }] }'
ここで
- PUBLIC_ENDPOINT は、デプロイのパブリック・エンドポイントです。 オンライン配置を作成するを参照してください。
- IAM_TOKEN は、IBM Cloud サービスにアクセスするための認証トークンです。 Credentials for programmatic accessを参照してください。
- MESSAGESは、以下のスキーマを持つチャット履歴テキストエントリーの配列である:
{ "role": type, // "user" or "assistant" "content": content // The text content of the message }
保存されたプロンプトテンプレートの操作
保存したプロンプトで作業を続行するには、 Prompt Labの [Saved prompt templates] タブからプロンプトを開きます。
保存されたプロンプトテンプレートを開くと、自動保存がオンになっており、プロンプトに加えた変更が保存されたプロンプトテンプレート資産に反映されます。 保存したプロンプトテンプレートを変更しない場合は、新しいプロンプトをクリックして新しいプロンプトを開始する。
保存したプロンプトテンプレートから編集モードを変更することはできない。
他の編集モードとは異なり、チャットモードで保存されるプロンプトテンプレートは、モデル出力も保存する。 チャットモードで保存したプロンプトテンプレートから別のモードに切り替えることはできません。
watsonx.governance がプロビジョニングされている場合、プロンプト テンプレートに少なくとも 1 つのプロンプト変数が含まれていれば、モデル回答の有効性を評価できます。
- プロンプト変数の詳細については、再利用可能なプロンプトを作成するを参照してください。
- モデル応答の評価についての詳細は、プロジェクトでのプロンプトテンプレートの評価を参照してください。
保存されたプロンプトセッションでの作業
保存したプロンプトセッションで作業を続けるには、 Prompt Labの 履歴タブからそのセッションを開きます。
過去に提出したプロンプトを確認するには、履歴からプロンプトのエントリをクリックしてプロンプトエディタで開きます。 以前のプロンプトの結果を好む場合は、Restoreをクリックして現在のプロンプトとしてリセットすることができます。 以前のプロンプトを復元すると、現在のプロンプトセッションは以前のバージョンのプロンプトセッションに置き換えられる。
詳細情報
親トピック Prompt Lab