このチュートリアルでは、watsonx.aiのプロンプト・ラボの使い方を学びます。 通常、正常な結果を得るために基盤モデルにプロンプトを出す方法は複数あります。 プロンプト・ラボでは、さまざまな基盤モデルのプロンプトを試したり、サンプル・プロンプトを探索したり、最適なプロンプトを保存して共有したりすることができます。 プロンプトのヒントを参照してください。
- 必須のサービス
- watsonx.aiスタジオ
- watsonx.aiランタイム
基本的なワークフローには、以下のタスクが含まれます:
- プロジェクトを開きます。 プロジェクトは、データを処理するために他のユーザーと共同作業できる場所です。
- プロンプト・ラボを開く。 プロンプト・ラボでは、さまざまなファンデーション・モデルのプロンプトを試してみたり、プロンプトのサンプルを探したり、ベスト・プロンプトを保存して共有したりすることができます。
- プロンプトエディタにプロンプトを入力する。 プロンプトは自由形式でも構造化モードでも入力できる。
- 使用するモデルを選択します。 watsonx.aiで利用可能なモデルのいずれかにプロンプトを送信できます。
- 作業をプロジェクトアセットとして保存します。 プロジェクトアセットとして作品を保存すると、現在のプロジェクトの共同作業者が作品を利用できるようになります。
foundation modelのプロンプトについて読む
ファウンデーションモデルは非常に大きなAIモデルだ。 何十億ものパラメータを持ち、何テラバイトものデータで訓練されている。 ファウンデーション・モデルは、テキスト、コード、画像の生成、分類、会話など、さまざまなタスクを実行できる。 大規模言語モデルは、テキストやコード関連のタスクに使用される基礎モデルのサブセットである。 IBM watsonx.aiには、プロンプトを実験するためのツールだけでなく、使用できるデプロイされた大規模な言語モデルのコレクションがあります。
foundation modelのプロンプトをビデオで見る
このチュートリアルのステップをプレビューするには、このビデオをご覧ください。 ビデオで紹介されているユーザー・インターフェースには若干の違いがあるかもしれません。 このビデオは、書面でのチュートリアルに付随するものです。
このビデオは、このドキュメントのコンセプトとタスクを学ぶための視覚的な方法を提供します。
foundation modelのチュートリアルを試す
このチュートリアルでは、以下のタスクを実行します:
- タスク 1:プロジェクトを開く
- タスク2:フリーフォーム・モードでプロンプト・ラボを使う
- タスク3:プロンプト・ラボを構造化モードで使用する
- タスク 4: サンプルプロンプトを使用する
- タスク5:foundation modelの選択
- タスク6:モデルのパラメータを調整する
- タスク7:作業の保存
このチュートリアルを完了するためのヒント
このチュートリアルを成功させるためのヒントを紹介します。
ビデオのピクチャー・イン・ピクチャーを使う
次のアニメーション画像は、ビデオのピクチャー・イン・ピクチャーと目次機能の使い方を示しています:
地域の助けを借りる
このチュートリアルで助けが必要な場合は、watsonxコミュニティーのディスカッション・フォーラムで質問したり、答えを見つけることができます。
ブラウザのウィンドウを設定する
このチュートリアルを最適に完了するには、Cloud Pak for Data を 1 つのブラウザ ウィンドウで開き、このチュートリアルのページを別のブラウザ ウィンドウで開いておくと、2 つのアプリケーションを簡単に切り替えることができます。 2つのブラウザウィンドウを横に並べると、より見やすくなります。
タスク 1:プロジェクトを開く
Prompt Labのアセットを保存するプロジェクトが必要です。
サンドボックスプロジェクトを作成し、サービスを関連付ける方法をビデオでご覧ください。 次に、既存のプロジェクトを確認するか、サンドボックス・プロジェクトを作成する手順に従ってください。
このビデオは、このドキュメントのコンセプトとタスクを学ぶための視覚的な方法を提供します。
watsonx ホーム画面で、プロジェクト セクションまでスクロールします。 プロジェクトが表示されている場合は、タスク2に進んでください。 プロジェクトが表示されない場合は、以下の手順に従ってプロジェクトを作成してください。
サンドボックスプロジェクトを作成をクリックします。 プロジェクトが作成されると、プロジェクトセクションにサンドボックスプロジェクトが表示されます。
詳細またはビデオについては、プロジェクトの作成をご覧ください。
進捗状況を確認する
次の画像は、Projectsセクションにサンドボックスが表示されているホーム画面です。 これでプロンプト・ラボを開く準備ができました。
タスク2:フリーフォーム・モードでプロンプト・ラボを使う
このタスクをプレビューするには、00:03から始まるビデオを見てください。
自由形式のプレーンテキストエディタでプロンプトのテキストを入力し、Generateをクリックすると、プロンプトがモデルに送信されます。 自由形式モードでプロンプト・ラボを使用するには、以下の手順に従ってください:
ホーム画面で、Open in Prompt Labタイルをクリックします。
各チェックボックスにチェックを入れて承諾し、ツアーをスキップをクリックします。
Freeformタブをクリックすると、Freeformモードのfoundation modelが表示されます。
モードを切り替えるをクリックします。
次のテキストをコピーしてテキスト・フィールドに貼り付け、Generateをクリックすると、クラス名:Problemの出力が表示されます。
Classify this customer message into one of two classes: question, problem.
Class name: Question
Description: The customer is asking a technical question or a how-to question about our products or services.
Class name: Problem
Description: The customer is describing a problem they are having. They might say they are trying something, but it's not working. They might say they are getting an error or unexpected results.
Message: I'm having trouble registering for a new account.
Class name:
進捗状況を確認する
以下の画像は、Freeformモードでのプロンプトの生成出力を示している。 これで、構造化モードでfoundation modelをプロンプトする準備ができた。
'
タスク3:プロンプト・ラボを構造化モードで使用する
このタスクをプレビューするには、00:19から始まるビデオを見てください。
構造化されたフォーマットでプロンプトを入力することができます。 構造化されたフォーマットは、プロンプトに複数の例がある場合、数発のプロンプトに役立ちます。 プロンプト・ラボを構造化モードで使用するには、以下の手順に従ってください:
構造化タブをクリックする。
モードを切り替えるをクリックします。
インストラクションフィールドに、以下のテキストをコピー&ペーストする:
Given a message submitted to a customer-support chatbot for a cloud software company, classify the customer's message as either a question or a problem description so the chat can be routed to the correct support team.
設定フィールドで、各列に以下のテキストをコピー&ペーストする:
設定フィールドの値 入力 出力 ログインしようとするとエラーが出る。 問題点 プランの料金はどこで確認できますか? 質問 トライアルとペイゴーの違いは何ですか? 質問 登録ページがクラッシュして、新しいアカウントが作れないんだ。 問題点 対応地域は? 質問 パスワードを思い出せないんだ。 問題点 トライフィールドに、以下のテキストをコピー&ペーストする:
I'm having trouble registering for a new account.
Generateをクリックすると、出力Problemが表示されます。
進捗状況を確認する
以下の画像は、構造化モードのプロンプトに対して生成された出力である。
これでサンプルプロンプトを試す準備ができました
タスク 4: サンプルプロンプトを使用する
このタスクをプレビューするには、 00:33から始まるビデオをご覧ください。 どのように始めたらよいかわからない場合は、プロンプトのサンプルを参考にしてください。 サンプルプロンプトを使用するには、次の手順に従います:
- サンプルプロンプトのアイコン「開き、リストを表示します。
- リストをスクロールし、マーケティングメール作成サンプルプロンプトをクリックします。
- 選択したモデルを表示します。 サンプルプロンプトをロードすると、適切なモデルが選択されます。
- モデルパラメーターパネル「」を開く。 適切なデコードと停止基準のパラメーターも自動的に設定される。
- Generateをクリックしてサンプルプロンプトをモデルに送信し、サンプル電子メール出力を確認します。
進捗状況を確認する
次の画像は、サンプルプロンプトから生成された出力である。
異なるモデルとパラメータを選択して、サンプルプロンプト出力をカスタマイズする準備ができました
タスク5:foundation modelの選択
このタスクをプレビューするには、01:04から始まるビデオを見てください。 同じプロンプトを別のモデルに送信することができます。 JSON、HTML、XMLのような特定の構造化された出力を生成する必要がある場合は、構造化された出力を生成するために微調整されたモデルを選択するか、プロンプトで数ショットの例を使用するか、モデルをチューニングすることでそれを行うことができます。 異なるfoundation modelを選択するには、以下の手順に従ってください:
- モデルをクリックします。
- モデルをクリックすると、モデルの詳細が表示され、モデル・アーキテクチャ、事前学習データ、微調整情報、ベンチマークに対するパフォーマンスなどの詳細が確認できます。
- 戻るをクリックすると、モデルのリストに戻ります。
- flan-t5-xxl-11bまたはmt0-xxl-13b foundation modelのいずれかを選択し、[モデルの選択] をクリックします。
- モデル出力の列にカーソルを合わせ、Xアイコンをクリックすると、前の出力が削除されます。
- 同じサンプルのプロンプト、マーケティング電子メール生成をリストからクリックします。
- Generateをクリックして、新しいモデルを使って出力を生成します。
進捗状況を確認する
次の画像は、別のモデルを使用して生成された出力である。 これでモデルのパラメーターを調整する準備が整いました。
タスク6:モデル・パラメーターの調整
このタスクをプレビューするには、01:28から始まるビデオをご覧ください。
デコードや停止基準のパラメーターを変えて実験することができる。 以下の手順に従って、モデルのパラメータを調整してください。
次の表は、flan-t5-xxl-11b foundation modelで使用可能なモデルパラメータを定義したものです。
モデル パラメータ | 意味 |
---|---|
デコード | デコーディングをGreedyに設定し、常に最も確率の高い単語を選択する。 デコードをサンプリングに設定すると、単語選択のばらつきをカスタマイズできます。 |
温度 | 生成されるテキストの創造性を制御します。 値が大きいほど、ランダムに生成される出力が多くなります。 |
上位 P (中核サンプリング) | < 1.0 に設定すると、確率の合計がtop_p 以上の最も確率の高いトークンの最小セットだけを使うようになる。 |
上位 K | 上位 k 件のフィルタリング用に保持する可能性が最も高い語彙トークンの数を設定します。 値が小さいほど、モデルがトピックから外れる可能性が低くなります。 |
ランダム・シード | サンプリングが有効な場合に、生成されたトークンのランダム・サンプリングを制御する。 各世代でランダムシーを同じ数値に設定することで、実験の再現性を確保する。 |
反復ペナルティ | プロンプトテキストを逐語的に繰り返したり、ループにはまり込んだりするモデルの傾向を打ち消すために、繰り返しペナルティを設定する。 1.00はペナルティなしを示す。 |
シーケンスの停止 | 1つまたは複数の文字列にストップシーケンスを設定し、それらが出力の一部として生成された場合、または生成されたときにテキスト生成を停止させる。 |
最小トークン数 | 生成するトークンの最小数を定義する。 最小数のトークンが生成される前に遭遇した停止シーケンスは無視される。 |
最大トークン数 | 生成するトークンの最大数を定義する。 |
- トップKパラメーターを
10
に変更し、モデルがトピックを逸脱しにくくする。 - Xをクリックして、前のモデル出力を削除します。
- リストから同じサンプルプロンプトをクリックします。
- Generateをクリックして、新しいモデル・パラメータを使って出力を生成します。
- 複数のプロンプトを送信した後にセッション履歴アイコン「」をクリックすると、セッション履歴が表示されます。
- 任意のエントリをクリックして以前のプロンプト、モデル仕様、パラメータ設定を操作し、Restoreをクリックします。
- プロンプトを編集し、モデルを変更し、デコーディングと停止基準のパラメーターを調整する。
- Generateをクリックすると、更新された情報を使って出力が生成されます。
進捗状況を確認する
次の画像は、異なるモデル・パラメーターを使用して生成された出力を示しています。
これで作品を保存する準備ができました
タスク 7: 作業を保存する
このタスクをプレビューするには、02:15から始まるビデオを見てください。
作品は3つの形式で保存できます:
資産タイプ | 説明 |
---|---|
プロンプト・テンプレート | 現在のプロンプトのみを保存し、履歴は保存しません。 |
プロンプト・セッション | 現行セッションの履歴とデータを保存します。 |
ノートブック | 現在のプロンプトをノートブックとして保存します。 |
以下の手順に従って、作品を保存してください:
- Save work > Save asをクリックします。
- プロンプト・テンプレートを選択します。
- 名前には、
Sample prompts
と入力します。 - 保存後にプロジェクトで表示オプションを選択します。
- 保存 をクリックします。
- プロジェクトの Assets タブで、Sample prompts アセットをクリックすると、プロンプト ラボにそのプロンプトが読み込まれ、すぐに作業に戻ることができます。
- Saved prompts'をクリックすると、サンドボックスプロジェクトに保存されたプロンプトが表示されます。
進捗状況を確認する
The following image shows the project's Assets tab with the prompt template asset:
次の画像は、プロンプト・ラボで保存したプロンプトを示している:
今後のステップ
プロンプト・ラボのチャットモードをビデオでご覧ください。
このビデオは、このドキュメントのコンセプトとタスクを学ぶための視覚的な方法を提供します。
これで準備は整った:
- プロンプト・ラボを使用して、基礎モデルをプロンプトし、作業をプロジェクトに保存します。
- チュートリアル「検索補強型生成パターンfoundation modelで」を試す
- 他のwatsonx.ai ユースケース・チュートリアルも試してみてください。
その他のリソース
詳しくは、 ビデオを参照してください。
サンプルデータセット、プロジェクト、モデル、プロンプト、ノートブックをリソースハブで見つけて、実践的な経験を積むことができます:
ノートブックをプロジェクトに追加することで、データの分析やモデルの構築を始めることができます。
ノートブック、データセット、プロンプト、その他のアセットを含むインポート可能なプロジェクト。
プロジェクトを改良、分析、モデル構築するために追加できるデータセット。
プロンプト 。プロンプト・ラボで基盤モデルのプロンプトを出すために使用できます。
プロンプト・ラボで使用できる 基盤モデル 。
親トピック: クイック・スタート・チュートリアル