チューニング・パラメーターの調整

チューニング実験の実行が終了すると、損失関数のグラフが表示される。 損失関数は、トレーニングの実行ごとに予測結果と実際の結果の差を測定する。 チューニング実験が成功すると、損失関数は下向きのカーブを描く。

損失が減少し、平準化する場所をコンバージェンスと呼ぶ。 曲線が下がる、つまり収束し、曲線の末尾ができるだけ0に近くなるようにします。これは、予測された結果がトレーニングデータからの結果にできるだけ似ていることを意味するからです。

実験の損失関数が複数のピークを持つ山脈のような場合、損失が収束しない場合、または損失は収束するがゼロよりはるかに高い数値に留まる場合は、チューニング・パラメーターを調整してください。

Tuning Studio でパラメータ値を設定するか、サンプルノートブックを使用してください。 サンプルノートブックには、チューニングパラメータに使用する最適な値を見つけるためのステップがあります。これはハイパーパラメータ最適化と呼ばれることもあります。 詳しくは、ノートブックを使ってチューニング・パラメータ値を最適化するをご覧ください。

以下の表は、一般的なチューニング実験の結果と、その結果を改善する可能性のあるアクションの一覧です。

表1：一般的なチューニング実験の欠陥に対処するための措置

損失関数グラフ	原因	試すべき行動
損失曲線は平坦で、下がることはない。	チューニングをしても結果はあまり改善されない。	- 学習率を上げて（10x）、実験がプロンプト・ベクトルをよりドラスティックに調整するようにする。
損失カーブは下がるが、テールは高すぎる数字に落ち着く。	チューニングは結果をそれほど向上させていない。	- 学習率を上げて（5x）、実験がプロンプト・ベクトルをより大きく調整するようにする。
損失曲線は低下し、その後着実に減少するが、水平になることはない。	モデルが完全にチューニングされる前にトレーニングは終了した。	- エポック数を増やしてモデルの学習時間を増やす。
損失曲線は上昇し、そして下降するが、十分に低くなることはない。	トレーニングが不安定なのは、学習率が高いためにプロンプトベクトルが変化しすぎるからだ。	- 学習率を下げて（10x）、プロンプトベクトルの調整を小さくする。

チューニング・パラメーターを変更し、チューニング実験を再実行する方法の詳細については、基礎モデルのチューニングを参照してください。

チューニングされたモデル出力のデータ品質問題への対応

チューニングしたモデルにゼロショットのプロンプトを送信し、期待通りの出力が返ってくれば、チューニングが終わったと判断できる。

以下の表は、トレーニング・データの品質に関する一般的な問題を説明し、それらに対処するためのアクションを示したものです。

親トピック： チューニング実験結果の評価