Tuning Studioで foundation modelをチューニングし、AIfoundation modelが有用な出力を返すように導きます。
- 必要な権限
チューニング実験を実行するには、プロジェクトで管理者または編集者のロールを持つ必要があります。
Tuning Studio は、すべてのプランまたはすべてのデータ センターで利用できるわけではありません。 watsonx.aiランタイムプランと 'サービスや機能の地域的な利用可能性 を参照。
- 必要な資格
- データ・フォーマット
表形式:JSON、JSONL
- データ・サイズ
- 50から10,000の入出力例ペア。 最大ファイルサイズは200MBです。
Tuning Studioを使用して、既存のfoundation modelのチューニングバージョンを作成します。
foundation modelのチューニングのタイミングと理由を説明したビデオをご覧ください。
このビデオは、このドキュメントのコンセプトとタスクを学ぶための視覚的な方法を提供します。
ファウンデーション・モデルとは、インターネットやその他の公共リソースから収集したテラバイト級のデータに対して事前に学習させたAIモデルである。 次に最適な言葉を予測し、言葉を生み出す能力では他の追随を許さない。 言語生成はブレーンストーミングや創造性を刺激するのに役立つが、基礎モデルは通常、具体的なタスクを達成するよう導く必要がある。 モデルのチューニングや、検索を利用した生成などの他のテクニックは、ビジネスにとって有意義な方法で基礎モデルを使用するのに役立ちます。
Tuning Studioを使用すると、分類、要約、生成などの自然言語処理タスクのパフォーマンスを向上させるために、小規模なfoundation modelモデルをチューニングすることができます。 チューニングを行うことで、より小さなfoundation modelが、同じモデルファミリーのより大きなモデルに匹敵する結果を達成することができる。 より小さなモデルをチューニングして展開することで、長期的な推論コストを削減することができる。
プロンプトエンジニアリングと同じように、foundation modelをチューニングすることで、foundation modelの出力の内容や形式に影響を与えることができます。 foundation modelを推論するステップをビジネス・ワークフローに組み込むには、foundation modelモデルに何を期待するかを知ることが不可欠です。
次の図は、foundation modelをチューニングすることで、有用な出力を生成できるようにモデルを導く方法を示しています。 あなたは、foundation modelにとって未知の専有情報を含むことができ、モデルが返すことを望む出力の形式とタイプを示すラベル付きデータを提供する。 あなたの例は、foundation modelモデルに、将来のアウトプットに適用するためのパターンを与える。
テキスト翻訳やテキスト生成、回答生成などの従来のタスクでは、一般化する代わりに、foundation modelをチューニングした後、出力はよりニーズに合わせて調整されます。
- 生成されたテキストや回答は、特定のスタイルに従うことができます
- 調整されたモデルは、あなたが望む方法で情報を要約したり、抽出したりすることができます
- より小さなプロンプトで、チューニングされたモデルはテキストを効果的に分類できる
モデルのチューニングがどのような場合に適切なアプローチなのかについては、 foundation modelのチューニングのタイミングをご覧ください。
ワークフロー
foundation modelのチューニングには、以下の作業が含まれる:
使用したいモデルに適したプロンプトを作成する。
チューニングといっても、プロンプト・エンジニアリングを完全にスキップできるわけではない。 ユースケースに適したfoundation modelを見つけるには、実験が必要だ。 どのプロンプトフォーマットがモデルから良い結果を得られる可能性が最も高いかを理解するまで実験する。 Prompt Labを使用してテストプロンプトを送信できます。 ヘルプは Prompt Labを参照。
作業に最適な、最も大きなfoundation modelを見つける。
モデルのチューニングに使用するトレーニングデータを作成する。
モデルをチューニングするためのチューニング実験を行う。
調整されたモデルを評価する。
必要であれば、トレーニングデータや実験パラメータを変更し、結果に納得がいくまで実験を重ねる。
調整したモデルを展開する。
チューニングされたモデルに推論要求を出す。
基礎モデルのチューニング費用
foundation modelのチューニングにかかるコストは、容量単位時間で測定される。これは、チューニング実験の計算リソース消費量を測定するものである。 詳しくは、容量単位時間計測をご覧ください。
チューニングされたモデルを推論するコストは、リソース単位で測定される。 料金はモデルの課金クラスによって異なる。 プロンプトチューニングされたfoundation modelは、チューニングするfoundation modelモデルと同じ課金クラスを持つ。 詳細は、リソース・ユニット・メータリングを参照してください。
詳細情報
使用を開始する
- クイックスタートfoundation modelを調整する
- サンプルノートブックwatsonxでCFPB文書を分類するモデルをチューニングする
- サンプルノートブックwatsonxによる多クラス分類のプロンプトチューニング
親トピック: 生成的AIソリューションの開発