チャットモード

foundation modelモデルとチャットして、モデルがダイアログや質問に答えるタスクをどのように処理するかを見ることができます。

チャットを開始するには、問い合わせやリクエストを送信して、foundation modelモデルに回答してもらいます。 また、クイック・スタート・サンプルをクリックしてモデルに提出することもできます。 クイック・スタート・サンプルはラマfoundation modelモデルに送られる。 別のfoundation modelを使用したい場合は、独自のプロンプトテキストを追加してください。

会話の各ターンは、以前に交換された情報の上に成り立っている。

注:チャット中は変更できません。 クリアチャットアイコン'をクリックして、チャットを中断し、変更を加えます。

チャットを開始する前に、モデルの選択とパラメータ設定を確認し、調整してください。 長いダイアログのやり取りをサポートするために、最大トークン数パラメータは高いデフォルト値に設定されています。 例えば、単語だらけの出力をモデルが生成するのを防ぐために、ストップシーケンスを追加したいかもしれない。

構造化モード

構造化モードは、新規ユーザーが効果的なプロンプトを作成できるように設計されています。 フィールドからのテキストはテンプレート形式でモデルに送られる。

プロンプトの一部を適切なフィールドに追加します：

• 命令：ユースケースに適している場合は、インストラクションを追加してください。 命令とは、次の記事を要約せよのような命令文のことである。

• 例：入力とそれに対応する出力を含む1つ以上の例のペアを追加します。 プロンプトにいくつかの入出力ペアの例を示すことは、few-shot promptingと呼ばれます。

  入力または出力に特定の接頭辞が必要な場合は、デフォルトのラベル「Input:」または「Output:」を使用したいラベルに置き換えることができる。 たとえば、デフォルトのラベルを、foundation modelがプロンプトチューニングされたときにトレーニングデータで使用されたカスタムラベルに置き換えることができる。

  例のラベルと例のテキストの間にスペースが追加される。

• 入力を試す：試すエリアに、プロンプトの最終入力を入力する。

フリーフォーム・モード

プレーンテキストでプロンプトを追加する。 プロンプトのテキストは、入力したとおりにモデルに送信されます。

フリーフォーム・モードは、構造化された入力を提出したい場合や、プロンプトの書式がわかっている場合に適している。

モデルの選択

プロンプト・ラボでは、watsonx.aiがサポートしているどのモデルにもプロンプトを送信できます。 ドロップダウンリストから最近使用したモデルを選択することができます。 また、View all foundation models をクリックすると、サポートされているすべてのモデルを表示し、タスクでフィルタリングし、モデルに関する高レベルの情報を読むことができます。

Tuning Studioを使用してfoundation modelをチューニングし、チューニングしたモデルをデプロイした場合、またはfoundation modelをデプロイした場合、チューニングしたモデルまたはカスタムモデルもプロンプトラボからプロンプトを表示できます。

モデル パラメータ

プロンプトに応答してモデルがどのように出力を生成するかを制御するには、デコーディング・パラメーターと停止基準を指定します。 詳細については、プロンプトのモデルパラメータを参照してください。

プロンプト変数

プロンプトに柔軟性を持たせるために、プロンプト変数を定義することができます。 プロンプト変数とは、作成時にプロンプトの静的テキストに含め、実行時に動的にテキストに置き換えるプレースホルダーキーワードのことである。 詳細については、再利用可能なプロンプトを作成するを参照してください。

完全なプロンプト・テキストを表示

以下のような状況で、foundation modelモデルに送信されるプロンプトの全文を見たい場合がある：

• プロンプト変数が使用されている場合、解決された変数の値をコンテキストで確認する。
• チャットモードでは、異なるファンデーションモデルに推奨されるプロンプトフォーマットが自動的に適用されます。
• 構造化モードでは、プロンプトの一部を別のフィールドに追加します。

AIガードレール

AIガードレールスイッチャーをオンに設定すると、有害な言語は入力プロンプトテキストとモデルによって生成される出力から自動的に削除されます。 具体的には、入力または出力に有害な言葉が含まれる文章は、潜在的に有害なテキストが削除されたというメッセージに置き換えられる。

詳しくは、有害なコンテンツの削除をご覧ください。

コードの表示

コード表示アイコン「クリックすると、cURLコマンドが表示され、プロンプトラボの外から呼び出して、現在のプロンプトとパラメータを選択したモデルに送信し、生成された応答を取得することができます。

コマンドには、IBM Cloud IAM トークンのプレースホルダーが含まれています。 アクセストークンの生成については、 IBM CloudIAM トークンの生成を参照してください。

プロンプト・ラボに代わるプログラム

プロンプトラボのグラフィカルインターフェイスは、プロンプトの実験や反復練習に最適です。 しかし、watsonx.ai にある基礎モデルを、Python ライブラリや REST API を使ってプログラムでプロンプトを出すこともできます。 詳しくは、生成的AIソリューションのコーディングをご覧ください。

サンプル

プロンプトのサンプル集はプロンプト・ラボにあります。 サンプルは、分類、抽出、コンテンツ生成、質問応答、要約など、さまざまなタスクに効果的なプロンプトテキストとモデルパラメータを示している。

サンプルをクリックすると，プロンプトのテキストがエディタにロードされ，適切なモデルが選択され，最適なパラメータが自動的に設定される．

履歴

プロンプトのテキスト、モデルの選択、およびパラメータをさまざまに試すと、プロンプトを送信するたびにその詳細がセッション履歴に記録されます。 以前のプロンプトをロードするには、履歴のエントリをクリックし、Restoreをクリックします。

保存

保存したプロンプトテンプレートメニューから、現在のプロジェクトに保存したプロンプトをプロンプトテンプレートアセットとして読み込むことができます。

watsonx.governance がプロビジョニングされている場合、プロンプト テンプレートに少なくとも 1 つのプロンプト変数が含まれていれば、モデル回答の有効性を評価できます。 詳細は、プロジェクトのプロンプトテンプレートの評価を参照してください。