カスタム基盤モデル展開

最終更新: 2025年5月08日

を作成しました："2024-03-12 10:37:52 -0400" タイトル："Deploying a custom 基盤モデル " fname: " analyze-data\deploy-custom-fm-cloud.liquid.md "

watsonx.ai の推論機能で使用するカスタム基盤モデルアップロードして展開することができます。

IBM によって管理されている基盤モデルを使用することに加えて、独自の基盤モデルをデプロイできるようになりました。モデルがデプロイされたら、 Prompt Lab からカスタムモデルを推論するプロンプトを作成する。

カスタム基盤モデル導入することで、ユースケースに適したAIソリューションを柔軟に導入することができます。

サードパーティプロバイダのモデルを使用する場合は、モデルビルダーから直接モデルを入手するのが最善です。新しいモデルを見つける場所の一つは、 Hugging Face、多くのモデルビルダーによって使用されているオープンソースの基盤モデルリポジトリです。

カスタム・基盤モデルデプロイ方法をビデオでご覧ください。

このビデオは、このドキュメントのコンセプトとタスクを学ぶための視覚的な方法を提供します。

カスタム基盤モデルを配置スペースにインポートする

基盤モデルデプロイし、推論に利用できるようにするプロセスには、 ModelOps エンジニアとプロンプトエンジニアが実行するタスクが含まれます。

ModelOps エンジニアは、まずモデルをクラウドストレージ (内部または外部) にアップロードする必要があります。カスタム基盤モデル配置するには、 ModelOps エンジニアが基盤モデル資産デプロイメントプロジェクトまたはスペースコンテキストに作成または昇格する必要があります。

モデルが本番環境にデプロイされた後、Prompt エンジニアは Prompt Lab または watsonx.ai API からカスタム基盤モデルモデルをプロンプトすることができます。

次の図は、ModelOps エンジニアと Prompt エンジニアが通常実行するタスクの流れを表しています：

カスタム基盤モデル展開プロセスの概要

モデルを準備するために、ModelOps エンジニアは以下のタスクを実行する必要があります：

モデルを準備した後、ModelOps エンジニアは以下のタスクを実行する必要があります：

モデルがデプロイされると、Prompt エンジニアは Prompt Lab または watsonx.ai API からカスタム基盤モデルプロンプトを開始することができます。カスタム・基盤モデル使用してプロンプト出力を生成するを参照。

注：基盤モデル配置されているプロジェクトまたはスペースのメンバーだけがプロンプトを表示できます。このモデルは、他のプロジェクトやスペースのユーザーは利用できない。

親トピック 基盤モデル資産展開

トピックは役に立ちましたか?

0/1000