watsonx.aiの推論機能で使用するカスタムfoundation modelをアップロードし、デプロイすることができます。
IBM によって管理されている基盤モデルを使用することに加えて、独自の基盤モデルをデプロイできるようになりました。 モデルがデプロイされたら、プロンプトラボからカスタムモデルを推論するプロンプトを作成します。
カスタムfoundation modelを導入することで、ユースケースに適したAIソリューションを柔軟に導入することができます。
サードパーティプロバイダのモデルを使用する場合は、モデルビルダーから直接モデルを入手するのが最善です。 新しいモデルを見つける場所のひとつが、多くの模型製作者が利用しているオープンソースの基礎モデルのリポジトリ、Hugging Faceだ。
カスタム・foundation modelのデプロイ方法をビデオでご覧ください。
このビデオは、このドキュメントのコンセプトとタスクを学ぶための視覚的な方法を提供します。
カスタム基盤モデルを配置スペースにインポートする
foundation modelをデプロイし、推論に利用できるようにするプロセスには、ModelOpsエンジニアとPromptエンジニアが実行するタスクが含まれます。
ModelOps エンジニアは、まずモデルをクラウド ストレージ (内部または外部) にアップロードする必要があります。 カスタム・foundation modelをデプロイするには、ModelOpsエンジニアは、デプロイメント・プロジェクトまたはスペース・コンテキストにfoundation modelを作成またはプロモートする必要があります。
モデルが本番環境にデプロイされた後、Prompt エンジニアは Prompt Lab またはwatsonx.aiAPI からカスタムfoundation modelモデルをプロンプトすることができます。
次の図は、ModelOps エンジニアと Prompt エンジニアが通常実行するタスクの流れを表しています：
モデルの準備
モデルを準備するために、ModelOps エンジニアは以下のタスクを実行する必要があります：
カスタムfoundation modelの展開
モデルを準備した後、ModelOps エンジニアは以下のタスクを実行する必要があります：
カスタム・foundation modelのプロンプト
モデルがデプロイされると、Prompt エンジニアは Prompt Lab またはwatsonx.aiAPI からカスタムfoundation modelのプロンプトを開始できます。 プロンプト出力を生成するためのカスタムfoundation modelの使用を参照。
今後のステップ
詳細情報
親トピック foundation model資産の展開