0 / 0

クイックスタート watsonx.ai エンドツーエンドのユースケースを試す

最終更新: 2025年5月08日
を作成しました:"2024-02-08 16:00:46 -0500" タイトル :「クイックスタート: watsonx.ai エンド・ツー・エンドのユースケースを試す" fname: " getting-started\get-started-watsonx-ai-e2e.liquid.md "

を作成しました:"2024-02-08 16:00:46 -0500" タイトル :「クイックスタート: watsonx.ai エンド・ツー・エンドのユースケースを試す" fname: " getting-started\get-started-watsonx-ai-e2e.liquid.md "

このチュートリアルでは、金融業界での使用例を取り上げます。 ゴールデン・バンクは、投資商品の売り上げを伸ばすために、マーケティング・プロモーションを分析するプロセスを導入する必要がある。

必須のサービス
watsonx.ai watsonx.ai Runtime および Studio を含む。 watsonx.ai

シナリオ銀行のマーケティング・プロモーション・プロセス

この目標を達成するために、典型的なプロセスは以下のようになる:

  1. データエンジニアは、銀行マーケティングデータを視覚化して準備し、モデルを訓練するための正しい形式を検証する。
  2. MLエンジニアは buildS、プロモーションの効果を予測する機械学習モデルを開発した。
  3. MLエンジニアはモデルをデプロイし、テストする。
  4. データサイエンティストは、銀行の競合他社の類似プロモーションを見つけるために Python。
  5. 敏腕エンジニア:
    • プロンプトテンプレートを作成し、要約や質問に答えるタスクを実行する。
    • 複数のプロンプトのパフォーマンスを比較し、再トレーニングが必要かどうかを判断する。
    • 最高のパフォーマンスと費用対効果を提供するために、再トレーニングデータで基盤モデルモデルを調整します。
    • 再トレーニングのプロセスを簡素化するパイプラインを構築。

を使った基本的なタスクのワークフロー watsonx.ai

Watsonx.ai このプロセスの各段階を達成するのに役立つ。 基本的なワークフローには、以下のタスクが含まれます:

  1. プロジェクトを開きます。 プロジェクトは、データを処理するために他のユーザーと共同作業できる場所です。
  2. データをプロジェクトに追加します。 接続を介してリモート・データ・ソースからの CSV ファイルまたはデータを追加できます。
  3. Data Refinery でトレーニングデータを準備する。
  4. 訓練データを使ってモデルを訓練する。 モデルの学習には、 AutoAI, SPSS Modeler やJupyterノートブックなど、様々なツールを使用することができる。
  5. プロジェクトまたはデプロイメント・スペースモデルをデプロイしてテストします。
  6. Jupyterノートブックでモデルに関連するデータを収集し、分析する。
  7. Prompt Lab の基盤モデルプロンプト。
  8. 評価スタジオでプロンプトのパフォーマンスを比較する。
  9. Tuning Studio で基盤モデル調整する。
  10. パイプラインでモデルのライフサイクルを自動化。

について読む watsonx.ai

AIを活用したソリューションでビジネスプロセスを変革するには、機械学習とジェネレーティブAIの両方をオペレーションのフレームワークに統合する必要がある。 Watsonx.ai は、機械学習モデルやジェネレーティブAIソリューションの開発・導入を可能にするプロセスとテクノロジーを提供します。

詳細はこちら watsonx.ai

watsonx.ai 使用例についてもっと読む

ビデオを見る watsonx.ai

< このチュートリアルのステップをプレビューするには、このビデオをご覧ください。 ビデオで紹介されているユーザーインターフェースには若干の違いがあるかもしれません。 このビデオは、書面でのチュートリアルに付随するものです。

このビデオは、このドキュメントのコンセプトタスクを学ぶための視覚的な方法を提供します。


チュートリアル watsonx.ai

このチュートリアルでは、以下のタスクを実行します:





このチュートリアルを完了するためのヒント
このチュートリアルを成功させるためのヒントをいくつか紹介しよう。

ビデオのピクチャー・イン・ピクチャーを使う

ヒント: ビデオを開始し、チュートリアルをスクロールすると、ビデオはピクチャ・イン・ピクチャ・モードに移行します。 ピクチャー・イン・ピクチャーで最高の体験をするために、ビデオの目次を閉じてください。 ピクチャ・イン・ピクチャ・モードを使用すると、このチュートリアルのタスクを完了しながらビデオを追うことができます。 各タスクのタイムスタンプをクリックしてください。

次のアニメーション画像は、ビデオのピクチャー・イン・ピクチャーと目次機能の使い方を示しています:

ピクチャー・イン・ピクチャーとチャプターの使い方

地域の助けを借りる

このチュートリアルで助けが必要な場合は、 watsonx コミュニティのディスカッションフォーラムで質問したり、答えを見つけることができます。

ブラウザのウィンドウを設定する

このチュートリアルを最適に完了させるには、1つのブラウザウィンドウで Cloud Pak for Data を開き、別のブラウザウィンドウでこのチュートリアルページを開いておくと、2つのアプリケーションを簡単に切り替えることができます。 2つのブラウザウィンドウを横に並べると、より見やすくなります。

サイド・バイ・サイドのチュートリアルとUI

ヒント: ユーザー・インターフェースでこのチュートリアルを完了する際にガイド・ツアーが表示された場合は、 Maybe laterをクリックしてください。



タスク 1:サンプルプロジェクトの作成

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 00:51から始まるビデオをご覧ください。

このチュートリアルでは、データセット、ノートブック、および分析を実行するためのプロンプト・テンプレートが含まれるサンプル・プロジェクトを使用します。 以下の手順に従って、サンプルに基づいたプロジェクトを作成してください:

  1. ホーム画面で、 新規プロジェクトの作成アイコン 新規プロジェクトの作成 をクリックします。

  2. サンプルを選択する。

  3. Getting started with watsonx.ai を検索して、そのサンプル・プロジェクトを選択し、「 Next 」をクリックします。

  4. 既存の オブジェクト・ストレージ・サービス・インスタンス を選択するか、または新規作成します。

  5. 「作成」 をクリックします。

  6. プロジェクトのインポートが完了するまで待ち、 View new projectをクリックします。

  7. watsonx.ai Runtime サービスをプロジェクトに関連付けます。 詳細については、 プロジェクトに関連サービスを追加するを参照してください。

    1. プロジェクトが開いたら、 Manage タブをクリックし、 Services and integrations ページを選択します。

    2. IBM services タブで、 Associate serviceをクリックする。

    3. watsonx.ai Runtimeインスタンスを選択します。 watsonx.ai Runtimeサービス・インスタンスがまだプロビジョニングされていない場合は、以下の手順に従ってください:

      1. 新しいサービスをクリックします。

      2. watsonx.ai ランタイムを選択する。

      3. 「作成」 をクリックします。

      4. リストから新しいサービス・インスタンスを選択する。

    4. Associate serviceをクリックします。

    5. 必要であれば、 [キャンセル] をクリックして[ サービスと統合] ページに戻ります。

  8. プロジェクトの 資産 タブをクリックすると、 資産表示されます。

詳細またはビデオについては、 プロジェクトの作成をご覧ください。

関連サービスの詳細については、 関連サービスの追加を参照してください。

チェックポイントのアイコン 進捗状況の確認

次の図は、プロジェクトの 資産 タブを示しています。 これでトレーニングデータを可視化する準備が整いました。

代替テキスト




タスク2:データの可視化と準備

このデータは、ポルトガルの銀行機関のダイレクト・マーケティング・キャンペーン(電話)によるものである。 分類の目標は、顧客が定期預金(current_outcome列)を申し込むかどうか(yes/no)を予測することである。 このデータセットは、UCI Machine Learning Repositoryから入手したデータセットに基づいている。

タスク 2a: データを視覚化する

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 01:24から始まるビデオをご覧ください。

まず、データを視覚化して、明らかな異常がないかどうかを確認する。 データを可視化するには、以下の手順に従ってください:

  1. データセットを開く bank-marketing-data.csv データセットを開く。 列には潜在顧客に関する情報が含まれている。
  2. 資産情報を見る アイコン 資産情報の表示 をクリックして この資産 ペインを閉じる。
  3. 可視化タブをクリックします。
    1. 可視化する列として current_outcome 列を選択する。 このカラムは、接触した相手が現在のオファーを受け入れたかどうかを示します。このカラムは、モデルを構築する際のターゲット・カラムです。
    2. Add another columnをクリックし、 previous_outcome カラムを選択する。 この欄は、連絡した相手が前回のオファーを受け入れたかどうかを示す。 青い点がついているチャートが推奨チャートであることに注意してください。
    3. ツリー チャートの種類を選択します。 このグラフは、前回のオファーを受け入れた人々と、同じ人々が今回のオファーを受け入れたかどうかを比較したものである。
    4. ルート・ ノードにカーソルを合わせると、データ・セットのレコード総数が表示されます。
    5. 同様に、 「いいえ 」と「 はい」のノードにカーソルを合わせると、その合計が表示される。
    6. ラベルのないノードにカーソルを合わせると、 current_outcome フィールドがNULLであるデータセット内のレコードの総数が表示されます。

チェックポイントのアイコン 進捗状況の確認

次の画像は、 bank-marketing-data.csv ファイルを視覚化したものである。 これでトレーニングデータを準備する準備ができました。

トレーニングデータの可視化

タスク 2b: データの準備

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 02:40からのビデオをご覧ください。

current_outcomeはターゲット・カラムなので、NULL値を持つ行を削除するためにデータ・セットを準備する必要があります。 以下の手順でデータセットを準備する:

  1. Prepare data をクリックして Data Refinery を開く。
  2. この資産 ペインを閉じる。
  3. current_outcome カラムを選択する。
  4. 新しいステップ>空の行を削除をクリックする。
  5. 「適用」をクリックします。
  6. Profile タブをクリックしてアクションを確認する。
  7. current_outcome 列までスクロールすると、すべての値が "yes "か "no "であることがわかる。

チェックポイントのアイコン 進捗状況の確認

以下の画像はProfileタブのcurrent_outcomeカラムを示している。 これで、このトレーニングデータを使ってモデルを構築する準備ができた。

プロフィールタブのcurrent_outcomeカラム

タスク 2c: 精製データを保存する

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 03:08から始まるビデオをご覧ください。

精緻化されたデータを保存するには、対象となるデータセットのファイル名を指定し、 ジョブ作成して実行する。 以下の手順に従って、精製データを保存してください:

  1. ファイル名を指定する:

    1. 設定アイコン 設定 をクリックします。
    2. 対象データセットページをクリックする。
    3. プロパティの編集をクリックする。
    4. データ資産名* を bank-marketing-data-prepared.csv に変更する。
    5. 保存 をクリックします。
    6. 「適用」をクリックします。
  2. ジョブ作成し、実行する:

    1. ツールバーから 求人情報 アイコンをクリックし、 ジョブ保存と作成 を選択する。
      ジョブを保存して作成

    2. Bank marketing data と入力し、 Nextをクリックする。

    3. Configure(構成) ページでランタイム環境を選択し、 Next(次へ )をクリックする。

    4. Schedule ページで、デフォルト値を受け入れ、 Nextをクリックする。

    5. Notify ページで、このジョブ通知をオフにしたまま、 Nextをクリックします。

    6. 詳細を確認し、 作成して実行 をクリックしてジョブを即時に実行してください。

  3. ジョブが作成されたら、通知内の ジョブの詳細 リンクをクリックして、プロジェクト内のジョブを表示します。 あるいは、プロジェクトの ジョブ タブにナビゲートし、ジョブ名をクリックして開くこともできます。

  4. ジョブ ステータス完成 の場合、プロジェクトのナビゲーショントレイルを使用して、プロジェクトの 資産 タブに戻ります。

  5. データ > データ資産 セクションをクリックして Data Refinery フローの出力を確認し、 bank-marketing-data-prepared.csv を開いて値を確認する。

チェックポイントのアイコン 進捗状況の確認

次の画像は bank-marketing-data-prepared.csv。 これで、このトレーニングデータを使ってモデルを構築する準備ができた。

bank-marketing-data-prepared.csv ファイルのプレビュー




タスク3:モデルのトレーニング

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 03:58から始まるビデオをご覧ください。

モデルの学習には、 AutoAI, SPSS Modeler やJupyterノートブックなど、様々なツールを使用することができる。 このチュートリアルでは、 AutoAI を用いて予測バイナリ分類モデルを学習します。 以下の手順に従って、 AutoAI :

  1. プロジェクトの 資産 タブに戻り、 新しい資産 > 機械学習モデルまたは検索拡張生成パターンを自動的に構築する をクリックする。

  2. 機械学習モデルや検索拡張生成パターンを自動的に構築する 、名前を入力する: Bank marketing experiment

  3. 「作成」 をクリックします。

  4. この実験のタスクとして、 機械学習モデルの構築を選択する。

  5. データソースの追加ページで、トレーニングデータを追加します:

    1. プロジェクトから選択をクリックします。

    2. データ資産 bank-marketing-data-prepared.csv を選択し、 資産選択 をクリックする。

  6. 時系列分析の作成「いいえ」を選択する。

  7. Prediction 列で current-outcome を選択する。

  8. 「エクスペリメントの実行 (Run experiment)」をクリックします。 模型が列車を走らせると、パイプラインの構築過程を示すインフォグラフィックが表示される。
    モデルパイプラインの構築

    AutoAI, の各機械学習手法で利用可能なアルゴリズム(推定量)のリストについては、 AutoAI 実装の詳細 を参照のこと。

  9. 実験終了後、ランキングされたパイプラインをリーダーボードで見ることができます。

    パイプラインのリーダーボード

  10. パイプラインの比較をクリックして、両者の違いをご覧ください。

    パイプライン比較指標表

  11. パイプラインリーダーボードで、最高ランクのパイプラインをクリックすると、パイプラインの詳細が表示されます。

  12. モデル評価ページで、 ROC 曲線図とモデル評価指標表でモデル性能を確認する。

  13. モデルを保存します。

    1. 名前を付けて保存 」をクリックする。

    2. モデルを選択してください。

    3. モデル名には Bank marketing prediction model

    4. 「作成」 をクリックします。 これにより、パイプラインがモデルとしてプロジェクトに保存されます。

  14. モデルが保存されたら、通知内の プロジェクトで表示 リンクをクリックして、プロジェクト内のモデルを表示します。 または、プロジェクトの 資産 タブに移動し、 モデル セクションのモデル名をクリックすることもできます。

チェックポイントのアイコン 進捗状況の確認

以下の画像はそのモデルである。

以下の画像はそのモデルである。




タスク4:モデルのデプロイ

次のタスクは、モデルをデプロイメント・スペース昇格させ、 デプロイメント作成することである。

タスク 4a: テストデータをデプロイメント・スペースプロモートする

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 05:34から始まるビデオをご覧ください。

サンプルプロジェクトにはテストデータが含まれています。 そのテストデータをデプロイメント・スペース昇格させ、デプロイされたモデルをテストするためにテストデータを使用できるようにします。 テスト データをデプロイメント・スペース昇格させるには、次の手順に従います:

  1. プロジェクトの 資産 タブに戻ります。

  2. bank-marketing-test-data.csv データ資産資産の オーバーフロー メニュー オーバーフロー・メニュー をクリックし、 スペースへのプロモート を選択します。

  3. 既存のデプロイメント・スペースを選択してください。 デプロイメント・スペースない場合:

    1. 新しいデプロイメント・スペース作成する をクリックする。

    2. 名前にはこう入力する: Bank marketing promotion space

    3. ストレージ・サービスを選択してください。

    4. 機械学習サービスを選択してください。

    5. 「作成」 をクリックします。

    6. スペースの準備ができたら通知を閉じる。

  4. リストから新しいデプロイメント・スペース選択します。

  5. プロモートをクリックします。

  6. 閉じる をクリックして、プロジェクトの 資産 タブに戻る。

チェックポイントのアイコン 進捗状況の確認

次の画像は スペースへのプロモート ページを参照されたい。

次の画像は「 スペースへのプロモート」 ページです。

タスク 4b: モデルをデプロイメント・スペースプロモートする

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 06:11から始まるビデオをご覧ください。

モデルを配置する前に、モデルをデプロイメント・スペースプロモートする必要があります。 以下の手順に従って、モデルをデプロイメント・スペースプロモートしてください:

  1. 銀行マーケティング予測モデル データ資産資産の オーバーフロー メニュー オーバーフロー・メニュー をクリックし、 スペースへのプロモート を選択します。

  2. リストから同じデプロイメント・スペース選択します。

  3. プロモートをクリックします。

  4. 昇格させた後、スペース内のモデルに移動するオプションを選択します。

  5. プロモートをクリックします。

注: プロモーション後にスペース内のモデルに移動するオプションを選択しなかった場合は、ナビゲーションメニューを使用して に移動し、 デプロイメント デプロイメント・スペースモデルを選択することができます。

チェックポイントのアイコン 進捗状況の確認

次の画像は、 デプロイメント・スペース内のモデルを示している。

以下の画像は、 デプロイメント・スペース内のモデルを示している。

タスク 4c: モデルのデプロイメント作成し、テストする

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 06:21から始まるビデオをご覧ください。

モデルがデプロイメント・スペース配置されたので、以下の手順に従ってモデルのデプロイメント作成します:

  1. モデルを開いた状態で、 デプロイメント をクリックします。

    1. デプロイメント・タイプとして オンライン を選択してください。

    2. デプロイメント名には、次のように入力する: Bank marketing model deployment

    3. 「作成」 をクリックします。

  2. デプロイメントが完了したら、デプロイメント名をクリックして、デプロイメントの詳細ページを表示します。

  3. APIリファレンスタブで、あなたのアプリケーションでこのモデルにプログラムでアクセスするために使用できる、スコアリングのエンドポイントを確認してください。

  4. モデルをテストします。

    1. Test タブをクリックする。 デプロイされたモデルは、デプロイメントの詳細ページから 2 つの方法でテストできます:1 つはフォームを使用してテストし、もう 1 つは JSON コードを使用してテストします。 この場合、サンプル プロジェクトからデプロイメント・スペース昇格した CSV ファイルを選択します。

    2. テストデータを探すには、 Search in spaceをクリックします。

    3. データ資産 bank-marketing-test-data.csv を選択する。

    4. 「確認 (Confirm)」をクリックします。

    5. 予測] をクリックし、テストデータの60レコードの予測を確認します。 このモデルは、銀行の顧客が定期預金を申し込むと予測したすべての顧客に対して「はい」を返す。

チェックポイントのアイコン 進捗状況の確認

以下の画像は、デプロイされたモデルのテスト結果である。

以下の画像は、デプロイされたモデルのテスト結果である。




タスク5:競合他社のマーケティング・プログラムを収集する

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 07:01から始まるビデオをご覧ください。

Prompt Lab、構造化および非構造化テキストを扱うことができますが、モデルが処理できる正しいデータを入力することが不可欠です。 これはJupyterノートブックで Python。

基盤モデル、1回のプロンプト(コンテキストウィンドウとして知られている)で処理できるトークンの数に制限があるため、この制限内に収まるようにデータをチャンクまたは要約する必要があるかもしれません。 このステップでは、入力データが重要な情報を失うことなく、 基盤モデルモデルが効果的に処理できる形式になっていることを確認する。

ノートブックを実行するには、以下の手順に従ってください:

  1. Navigation Menu ナビゲーション・メニュー から、 Projects > View all projects を選択します。
  2. Getting started with watsonx.ai プロジェクトを開く。
  3. 「資産」タブをクリックします。
  4. 競合番組ノートブックからテキストを抽出してチャンクする」 オーバーフローメニュー オーバーフロー・メニュー をクリックし、「 編集 」を選択します。
  5. セットアップのセクションを完了します。
    1. ライブラリをインポートするために、最初のセルの実行アイコン 実行 をクリックする。
    2. 必要なAPIキーを取得する:
      1. 以下のリンクからアカウントとAPIキーを作成してください。 TheNewsAPI.
      2. API キーを thenewsapi_key 変数に貼り付ける。
      3. 以下のリンクからアカウントとAPIキーを作成してください。 ArticlExtractor.
      4. API キーを extract_key 変数に貼り付ける。
    3. セルを実行して2つのAPIキー変数を設定する。
  6. ニュース記事のURLを取得する関数を定義するセクションでセルを実行する。
    • このセクションの最初のセルでは、 TheNewsAPI's Top Storiesからデータを取得する関数を定義し、関連するニュースを取得できるようにパラメータを設定する。
    • このセクションの2番目のセルは、レスポンスに基づいてURLのリストを取得する関数を定義している。
  7. Define the function to extract news text セクションのセルを実行する。
    • 最初のセルは、 ArticlExtractor APIを使って特定のニュース URL からニューステキストを抽出する関数を定義している。
    • 2つ目のセルは、 TheNewsAPI から取得したすべての記事URLからニューステキストを結合する関数を定義している。
  8. Define the function to chunk news text セクションでセルを実行する。
    • このセクションの最初のセルは、 LangChain、ニュース・テキストの文脈を考慮して文字テキストを分割する関数を定義している。 基盤モデルモデルがテキストから情報を取り込めるようにするには、トークンがコンテクストトークンウィンドウの制限を超えないようにする必要があります。
    • このセクションの2番目のセルは反応を示している。 最終的なデータ出力が Prompt Lab に入力できる状態になっているのがわかるだろう。 LangChain’s テキスト・スプリッターは、長いテキストを意味的に意味のある塊(センテンス)に分割し、それらを再び結合してテキスト全体として処理する。 チャンクの最大サイズを調整できる。

チェックポイントのアイコン 進捗状況の確認

次の画像は完成したノートブックです。 これで、 基盤モデルプロンプトに使用するチャンク・テキストができた。

完成したノート




タスク6: 基盤モデルプロンプト

関連するニュース記事が適切にチャンクされたので、 Prompt Lab で独自のプロンプト・テンプレートを作成することもできますし、サンプル・プロジェクトにあるサンプル・プロンプト・テンプレートを使用することもできます。 このサンプルプロジェクトには、要約や質問に答えるタスクのためのサンプルプロンプトテンプレートが含まれています。 Prompt Lab で基盤モデルプロンプトするには、以下の手順に従ってください:

タスク 6a: 要約タスク

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 09:32から始まるビデオをご覧ください。

まず、要約プロンプト・テンプレートを試してみよう。

  1. プロジェクトの 資産 タブに戻ります。

  2. 銀行プロモーションの要約] プロンプト・テンプレートをクリックします。 これでプロンプトテンプレートが Prompt Lab で開きます。

  3. 編集] をクリックして、プロンプトテンプレートを編集モードで開きます。

    要約タスクでは、チャンク化されたニュース記事テキストを入力例とし、マーケティング担当者が通常手作業で書いているキャンペーン説明のメモを出力例とする。 これは、マーケティング・チームが自分で書くのと同じようなアウトプットにするためだ。

  4. このプロンプトで使用されている基盤モデル XX であることに注目してほしい。

  5. 生成 」をクリックすると、要約結果が表示されます。

  6. ノートブックのチャンクされたニュース記事から、さまざまな入力と出力のテキストを試す。

タスク 6b: 質問に答えるタスク

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 10:15からのビデオをご覧ください。

次に、質問に答えるプロンプト・テンプレートを試してみましょう。

  1. Saved prompts 保存されたプロンプト をクリックすると、プロジェクトの保存されたプロンプトが表示されます。

  2. 保存されたプロンプトの一覧から、 質問回答バンクプロモーションプロンプトテンプレートをクリックします。

  3. 編集] をクリックして、プロンプトテンプレートを編集モードで開きます。

    質問と回答のタスクでは、入力例として質問を使い、出力例として要求される詳細レベルと望ましい形式の回答を使います。

  4. このプロンプトに使用されている基盤モデル次のとおりである。 flan-t5-xxl-11b.

  5. 生成 」をクリックすると、要約結果が表示されます。

  6. 入力と出力のテキストを変えて実験する。

タスク 6c: モデルのパラメーターを調整する

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 10:37から始まるビデオをご覧ください。

Prompt Lab では、特定のタスクに対してモデルの出力を最適化するために、デコード設定を調整することができます:

  • デコード
    • 貪欲:常に最も確率の高い単語を選択する
    • サンプリング:単語選択のばらつきをカスタマイズする
  • 反復ペナルティ:どの程度の反復が許されるか
  • 停止基準:生成された場合にテキスト生成を停止させる1つ以上の文字列

この柔軟性により、高度なカスタマイズが可能になり、タスクの要件と制約に最適なパラメータでモデルを動作させることができる。

Prompt Lab では、トークンの制限を設定して、タスクがモデルの運用範囲内に収まるようにすることができます。 この設定は、回答の包括性とモデルの技術的限界のバランスをとるのに役立ち、結果として効率的かつ効果的なタスク処理を実現する。

タスク 6d: ドキュメントとチャット

プレビュー・チュートリアル・ビデオ このタスクをプレビューするには、 10:45からのビデオをご覧ください。

また、 チャットモードを使用して、事実を提供するサンプルPDF文書を使って基盤モデル促すこともできます。 1つ以上のドキュメントを追加すると、 基盤モデル質問に答えるために使用するメモリ内のベクトルインデックスが作成されます。

  1. 新規プロンプトをクリックします。
  2. チャットをクリック。
  3. オプション:モデルを選択してください、 llama-3-1-8b-instruct.
  4. ドキュメントのアップロード] アイコン 文書のアップロード をクリックし、[ ドキュメントの追加 ]を選択します。
  5. プロジェクトから選択をクリックします。
    1. Select Bank CD Rates.pdf.
    2. 「選択」をクリックします。
  6. Ground gen AI with vectorized documentsのページに戻り、名前を確認し、 Createをクリックする。
  7. Type something」 フィールドに「 Which bank has the best APY for a term deposit and what is the rate? 」と入力し、「 Send」 アイコン( 送信する )をクリックすると答えが表示されます。

チェックポイントのアイコン 進捗状況の確認

次の画像は、 Prompt Lab。

について Prompt Lab



次のステップ

プロンプト・ノートを使ってみる

Prompt Lab から、ノートブック形式で作業を保存することができます:

  1. 保存したプロンプトテンプレートをロードする。
  2. Save work > Save asをクリックします。
  3. スタンダードノートを選択。 なお、AIサービスとしてデプロイメント作業を保存することもできる。
  4. 名前を入力します。
  5. 保存] をクリックし、プロンプトノートブックを検索します。
  6. もう一方のプロンプトテンプレートについても、この手順を繰り返します。

基盤モデル調整

基盤モデルチューニングして、プロンプト・エンジニアリングだけよりもモデルのパフォーマンスを向上させたり、大きなモデルと同等のパフォーマンスを発揮する小さなモデルを配備してコストを削減したりすることが考えられます。 基盤モデル調整 チュートリアルを参照。

プロンプトのパフォーマンスを比較する

評価スタジオを使用して複数のプロンプトを比較するとよいでしょう。 評価スタジオを使用すると、使用ケースに合った定量的な指標とカスタマイズ可能な基準で、ジェネレーティブAI 資産評価および比較できます。 複数の資産パフォーマンスを同時に評価し、結果の比較分析を見て、最適なソリューションを特定します。 比較プロンプトのパフォーマンスチュートリアルを参照してください。

パイプラインでモデルのライフサイクルを自動化する

エンド・ツー・エンドのパイプラインを作成し、外部データソースに保存された簡潔で前処理済みの最新データを配信することができます。 Orchestration Pipelinesエディタは、 資産作成からデプロイメントエンドツーエンドのフローをオーケストレーションするためのグラフィカルなインターフェイスを提供します。 機械学習モデルおよび Python スクリプトを作成、トレーニング、デプロイ、および更新するためのパイプラインをアセンブルおよび構成します。 パイプラインを使ってモデルのライフサイクルを自動化するチュートリアルを参照してください。

その他のリソース

親トピック クイックスタートチュートリアル