わずか数ステップで、専用ハードウェア上にオンデマンドでfoundation modelを展開。 IBM watsonx.aiは、一般的な基礎モデルの厳選されたセットを提供します。これらのモデルは、専用のデプロイメント・スペースでオンデマンドでデプロイすることができ、このスペースにアクセスできるユーザーだけが使用できます。 foundation modelをオンデマンドでデプロイする早道は、リソースハブからモデルを選択してデプロイすることです。
開始前に
- 基礎モデルをオンデマンドでデプロイするには、タスク認証情報を設定するか、有効にする必要があります。 詳細については、タスク資格情報の管理を参照のこと。
- サポートされているfoundation modelのアーキテクチャ、展開のタイプ、およびfoundation modelをオンデマンドで展開するためのその他の考慮事項について確認します。 詳しくは、基礎モデルをオンデマンドで展開するを参照してください。
foundation modelをオンデマンドで展開する方法をビデオでご覧ください。
このビデオは、このドキュメントのコンセプトとタスクを学ぶための視覚的な方法を提供します。
オンデマンドfoundation modelの展開
リソース・ハブからfoundation modelをオンデマンドでデプロイするには、以下の手順を実行します:
ナビゲーションメニュー「」からリソースハブを開く。
ヒント:Deploy-on-demandfilerを選択すると、オンデマンドでデプロイできるモデルのリストが表示されます。
時間単位の支払いセクションから、オンデマンドで展開したいモデルを見つけます。
モデルの詳細ページから、Deployをクリックします。
foundation modelのタイルから配置をクリックし、foundation modelを配置する配置スペースを選択します。
重要:配置スペースにオンデマンドで配置できるfoundation modelモデルのインスタンスは 1 つだけです。 選択したモデルがすでにデプロイされている場合は、[詳細]セクションの下に既存のデプロイ リンクが表示されます。 詳しくは、 watsonx.aiランタイムのトラブルシューティングをご覧ください。
「作成」 をクリックします。
モデルがデプロイされた後、Prompt Lab またはwatsonx.aiAPI からfoundation modelモデルをプロンプトすることができます。
デプロイメントのテスト
以下の手順に従って、オンデマンドで展開されるfoundation modelモデルをテストしてください:
配置スペースで[配置]タブを開き、配置名をクリックします。
テスト]タブをクリックして、プロンプトのテキストを入力し、配置された資産からの応答を取得します。
デプロイしたアセットのタイプに応じて、以下のいずれかの形式でテストデータを入力してください:
a. テキスト:テキスト入力データを入力し、出力としてテキストブロックを生成する。
b. ストリーム:テキスト入力データを入力して、出力としてテキストのストリームを生成する。
c. JSON:JSON形式の出力を生成するためにJSON入力データを入力します。プロンプトに基づいた結果を得るには、[生成]をクリックします。
配備の管理
リソースハブからオンデマンドでデプロイされるfoundation modelへのアクセス、更新、拡張、削除が可能です。
デプロイされたモデルへのアクセス
デプロイメントリンクを使用すると、リソースハブからオンデマンドでデプロイされたfoundation modelモデルにアクセスできます。
リソースハブから配置リンクにアクセスするには、次の手順に従います:
ナビゲーションメニューから、リソースハブを開きます。
リソース・ハブのFoundation モデル・カタログから、デプロイしたモデルを選択します。
モデルの詳細ページのDetailsセクションで、Deploymentリンクをクリックします。
また、デプロイメントの詳細ページから、デプロイメント ID、ソフトウェア仕様、関連アセットなど、オンデマンドでデプロイされるfoundation modelモデルの詳細にアクセスすることもできます。
配置の更新
名前、説明、タグなど、オンデマンドでデプロイされるfoundation modelモデルに必要な詳細を更新します。 詳細は、「配置を更新する」を参照してください。
配備の拡大
配置スペースにオンデマンドで配置できるfoundation modelモデルのインスタンスは 1 つだけです。 需要の増加に対応するために、追加のコピーを作成することで配備を拡張できます。 詳細については、「配置をスケーリングする」を参照してください。
デプロイメントの削除
オンデマンドでデプロイされたfoundation modelでの作業が完了したら、デプロイを削除して課金課金を停止します。 詳細は、「配置を削除する」を参照してください。
詳細情報
親トピック 基礎モデルのオンデマンド展開