基盤モデルチューニング
ビジネス独自のニーズを満たす作業により良い結果をもたらすよう、 基盤モデルをカスタマイズします。
基盤モデルは、インターネットやその他の公開リソースから収集したテラバイト単位のデータで事前学習したAIモデルです。 彼らは、次に続く最適な単語を予測し、言語を生成する能力において、比類のない存在です。 言語生成は、ブレインストーミングや創造性を刺激するのに役立つが、 基盤モデル通常、具体的なタスクを達成するために導かれる必要がある。 モデルチューニングや、 検索拡張生成などのその他の技術は、ビジネスに役立つ形で基盤モデルを使用するのに役立ちます。
With the Tuning Studio, you can tune a smaller foundation model to improve its performance on natural language processing tasks such as classification, summarization, and generation. チューニングにより、より小さい基盤モデルでも、同じモデルファミリー内のより大きなモデルと同等の結果を達成することができます。 小型モデルをチューニングして展開することで、長期的な推論コストを削減できます。
プロンプトエンジニアリングと同様に、 基盤モデルチューニングを行うことで、 基盤モデルコンテンツやフォーマットに影響を与えることができます。 基盤モデル何を期待できるかを把握することは、 基盤モデル推論ステップをビジネスワークフローに組み込む場合に不可欠です。
次の図は、 基盤モデルチューニングが、モデルが有用な出力を生成するように導くのに役立つことを示しています。 ラベル付けされたデータを提供します。このデータには、 基盤モデル知らない独自の情報を含めることができ、モデルが返す出力のフォーマットとタイプを説明します。 あなたの例は、 基盤モデル将来のアウトプットに適用できるパターンを与えてくれます。
テキスト翻訳やテキストまたは回答の生成といった従来の作業を一般化するのではなく、 基盤モデルを調整した後、出力はよりニーズに合ったものになります。
- 生成されたテキストや回答は、特定のスタイルに従うことができます
- 調整されたモデルは、ユーザーの希望する形で情報を要約または抽出することができます
- より小さなプロンプトにより、調整されたモデルはテキストを効果的に分類できる
モデルのチューニングが正しいアプローチであるかについての詳細は、 基盤モデルをチューニングするタイミング をご覧ください。
働き方
Watsonx.ai offers various ways for you to customize foundation models, including:
- Tuning Studio: A graphical user interface tool for tuning a foundation model
- コードによるモデルチューニング: Programmatic methods for tuning a foundation model
ワークフロー
どちらの方法で作業する場合でも、 基盤モデルチューニングのワークフローは変わりません。 基盤モデルチューニングには、以下の作業が含まれます
エンジニアが、使用したいモデルと相性の良いプロンプトを提示します。
チューニングは、迅速なエンジニアリングを完全に省略できるという意味ではありません。 ユースケースに適した基盤モデルを見つけるには、実験が必要です。 どのプロンプト形式がモデルから良い結果を得るのに最も可能性があるか理解できるまで、実験を繰り返します。 Prompt Lab を使用してテスト問題を送信することができます。 ヘルプについては、 Prompt Lab。
その作業に最適な最大の基盤モデルを見つけます。
モデルチューニングに使用するトレーニングデータを作成します。
モデルを調整するためのチューニング実験を作成します。
調整したモデルを評価する。
必要に応じて、訓練データまたは実験パラメータを変更し、結果に満足できるまでさらに実験を繰り返します。
調整したモデルを展開する。
チューニングされたモデルに推論リクエストを送信します。
基盤モデルチューニング費用
基盤モデルチューニングにかかる費用は、チューニング実験におけるコンピューティングリソースの消費量を測定するキャパシティ単位時間で測定されます。 詳細は、「容量単位時間」メーター を参照してください。
チューニングされたモデルの推論コストは、リソース単位で測定されます。 料金はモデルの課金クラスによって異なります。 プロンプトチューニングされた基盤モデル、チューニング対象基盤モデルと同じ課金クラスとなります。 詳細は、「リソース単位の計測 」を参照してください。
詳細情報
使用を開始する
親トピック: 生成型AIソリューションの開発