watsonx.ai での基盤モデルのチューニングは、反復プロセスです。 チューニング実験を行い、その結果を評価する。 必要であれば、実験変数を変更し、調整された基礎モデルからの出力に満足するまで、実験を繰り返し再実行する。
各実験の実行後に進捗状況を確認する。 トレーニングデータに潜在的な問題がないか評価する前に、チューニング実験の設定にある制限を見つけ、それに対処する。
チューニング実験結果を改善するためのワークフロー
チューニング・パラメーターやトレーニング・データ例の正しいセットは一つではない。 最適なチューニングパラメータ設定とデータセットのサイズは、データ、使用する基礎モデル、モデルに実行させたいタスクのタイプによって異なります。 以下のステップを踏めば、実験にかかる時間を節約し、軌道を維持することができる。
Tuning Studio を使ってこれらのステップを完了するか、サンプル・ノートブックを使ってプログラム的に行うことができます。
実験を始める前に、テストデータセットとして使用するチューニングトレーニングデータのサブセットを作成するか、保存しておく。
デフォルトのチューニングパラメータでチューニング実験を行う。
実験実行の損失関数をチェックする。
損失関数がゼロ付近で水平になる下向きのカーブを描いている場合、調整されたモデルはうまく機能している。
必要であれば、パラメータ値を調整し、損失関数がゼロに近くなるまで実験を再実行する。
テストデータセットからプロンプトを送信して、チューニングされたモデルの品質をテストする。
必要であれば、トレーニングデータを修正または増強する。
新しいデータが導入されれば、より多くのチューニング・パラメーターの最適化が可能になるかもしれない。 実験を再実行し、ステップ3からこのワークフローのステップを繰り返す。
親トピック Tuning Studio