Docs
...
Deploying a custom foundation model

カスタム基盤モデルの展開

最終更新: 2024年11月28日
カスタム基盤モデルの展開

watsonx.aiの推論機能で使用するカスタムfoundation modelをアップロードし、デプロイすることができます。

IBM によって管理されている基盤モデルを使用することに加えて、独自の基盤モデルをデプロイできるようになりました。 モデルがデプロイされたら、プロンプトラボからカスタムモデルを推論するプロンプトを作成します。

カスタムfoundation modelを導入することで、ユースケースに適したAIソリューションを柔軟に導入することができます。

サードパーティプロバイダのモデルを使用する場合は、モデルビルダーから直接モデルを入手するのが最善です。 新しいモデルを見つける場所のひとつが、多くの模型製作者が利用しているオープンソースの基礎モデルのリポジトリ、Hugging Faceだ。

カスタム・foundation modelのデプロイ方法をビデオでご覧ください。

このビデオは、このドキュメントのコンセプトとタスクを学ぶための視覚的な方法を提供します。

カスタム基盤モデルを配置スペースにインポートする

foundation modelをデプロイし、推論に利用できるようにするプロセスには、ModelOpsエンジニアとPromptエンジニアが実行するタスクが含まれます。

ModelOps エンジニアは、まずモデルをクラウド ストレージ (内部または外部) にアップロードする必要があります。 カスタム・foundation modelをデプロイするには、ModelOpsエンジニアは、デプロイメント・プロジェクトまたはスペース・コンテキストにfoundation modelを作成またはプロモートする必要があります。

モデルが本番環境にデプロイされた後、Prompt エンジニアは Prompt Lab またはwatsonx.aiAPI からカスタムfoundation modelモデルをプロンプトすることができます。

次の図は、ModelOps エンジニアと Prompt エンジニアが通常実行するタスクの流れを表しています：

カスタムfoundation modelの展開プロセスの概要

モデルの準備

モデルを準備するために、ModelOps エンジニアは以下のタスクを実行する必要があります：

  1. カスタムfoundation modelを展開するための考慮事項と要件を確認する。
  2. モデルファイルをクラウドオブジェクトストレージに保存する。
  3. モデル資産を作成します。

カスタムfoundation modelの展開

モデルを準備した後、ModelOps エンジニアは以下のタスクを実行する必要があります：

  1. カスタムfoundation modelのデプロイメントを作成します。
  2. 配備を管理または更新する。

カスタム・foundation modelのプロンプト

モデルがデプロイされると、Prompt エンジニアは Prompt Lab またはwatsonx.aiAPI からカスタムfoundation modelのプロンプトを開始できます。 プロンプト出力を生成するためのカスタムfoundation modelの使用を参照。

注： foundation modelが配置されているプロジェクトまたはスペースのメンバーだけがプロンプトを表示できます。 このモデルは、他のプロジェクトやスペースのユーザーは利用できない。

今後のステップ

詳細情報

親トピック foundation model資産の展開