モデルをチューニングすると、ファウンデーション・モデルを使用して目標を達成するのに役立ちます。
以下のことを行いたい場合は、ファウンデーション・モデルを調整します。
大規模に推論のコストを削減
通常、基盤モデルを大きくすると、より良い結果が得られます。 ただし、使用コストも高くなります。 モデルをチューニングすることにより、使用コストが少ない、より小さいモデルから、よりよく似た結果を得ることができます。
特定のスタイルまたはフォーマットを使用するためにモデルの出力を取得します
モデルに特殊なタスクを教えることにより、モデルのパフォーマンスを向上させます。
ゼロ・ショット・プロンプトへの応答として、信頼できる形式で出力を生成します。
モデルをチューニングしない場合
モデルのチューニングは、モデルの出力を改善するための適切なアプローチとは限りません。 例えば、モデルのチューニングは、以下のことを行うのに役立ちません。
モデル出力での回答の精度の向上
質問への回答シナリオで事実上のリコールのための基盤モデルを使用している場合、チューニングによって回答の正確度がわずかに向上します。 実際の回答を得るには、モデルへの入力の一部として実際の情報を提供する必要があります。 チューニングを使用すると、生成された実際の回答を、ワークフローのダウンストリーム・プロセスでより簡単に使用できる形式に準拠させることができます。 実際の回答を返す方法については、 Retreival-augmented generationを参照してください。
出力で特定の語彙を一貫して使用するためのモデルの取得
大量のデータに基づいてトレーニングされた大規模な言語モデルは、その初期データ・セットに基づいて語彙を作成します。 モデルのチューニングに使用するトレーニング・データから、モデルに重要な用語を導入することができます。 ただし、モデルは、出力でこれらの優先用語を確実に使用しない可能性があります。
まったく新しいタスクを実行するためのファウンデーション・モデルの学習
プロンプト・エンジニアリングの実験は、ファウンデーション・モデルの出力のタイプを理解するのに役立ち、生成できないため、重要な最初のステップです。 チューニングを使用して、ファウンデーション・モデルが返すことができる出力を調整、調整、および形成することができます。
詳細情報
親トピック: Tuning Studio