Stimmen Sie ein foundation model mit dem Tuning Studio ab, um ein foundation model so zu steuern, dass es nützliche Ergebnisse liefert.
- Erforderliche Berechtigungen
Um Tuning-Experimente durchzuführen, müssen Sie die Rolle Admin oder Editor in einem Projekt haben.
Tuning Studio ist nicht bei allen Plänen oder in allen Rechenzentren verfügbar. Siehe watsonx.ai Runtime-Pläne und regionale Verfügbarkeit für Dienste und Funktionen.
- Erforderliche Bescheinigungen
- Datenformat
Tabellarisch: JSON, JSONL
- Data Size
- Beispielpaare mit 50 bis 10.000 Ein-und Ausgaben. Die maximale Dateigröße beträgt 200 MB.
Sie verwenden das Tuning Studio, um eine abgestimmte Version eines bestehenden foundation model zu erstellen.
Sehen Sie sich ein Video an, in dem erklärt wird, wann und warum man ein foundation model abstimmen sollte.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Basismodelle sind KI-Modelle, die auf Terabyte an Daten aus dem Internet und anderen öffentlichen Ressourcen vortrainiert werden. Sie sind in ihrer Fähigkeit, das nächstbeste Wort vorherzusagen und Sprache zu generieren konkurrenzlos. Während die Sprachgenerierung für das Brainstorming und die Ankurbelung von Kreativität nützlich sein kann, müssen die Basismodelle in der Regel an konkreten Aufgaben orientiert werden. Die Modelloptimierung und andere Verfahren, wie z. B. die abruferweiterte Generierung, unterstützen Sie bei der sinnvollen Verwendung von Basismodellen für Ihr Unternehmen.
Mit dem Tuning Studio können Sie ein kleineres foundation model abstimmen, um seine Leistung bei Aufgaben der Verarbeitung natürlicher Sprache wie Klassifizierung, Zusammenfassung und Generierung zu verbessern. Durch Tuning kann ein kleineres foundation model vergleichbare Ergebnisse erzielen wie größere Modelle derselben Modellfamilie. Durch die Optimierung und Bereitstellung des kleineren Modells können Sie die langfristigen Inferenzkosten reduzieren.
Ähnlich wie beim Prompt-Engineering können Sie bei der Abstimmung eines foundation model Einfluss auf den Inhalt und das Format der Ausgabe des foundation model nehmen. Zu wissen, was man von einem foundation model erwarten kann, ist unerlässlich, wenn man den Schritt der Inferenz eines foundation model in einen Geschäftsablauf einfügen möchte.
Das folgende Diagramm veranschaulicht, wie die Abstimmung eines foundation model Ihnen dabei helfen kann, das Modell so zu steuern, dass es nützliche Ergebnisse erzeugt. Sie stellen beschriftete Daten zur Verfügung, die geschützte Informationen enthalten können, die dem foundation model unbekannt sind und die das Format und die Art der Ausgabe veranschaulichen, die das Modell zurückgeben soll. Ihre Beispiele geben dem foundation model ein Muster, dem es folgen und das es auf zukünftige Ausgaben anwenden kann.
Anstelle der Verallgemeinerung bei herkömmlichen Aufgaben wie Textübersetzung und Text- oder Antwortgenerierung ist die Ausgabe nach der Abstimmung eines foundation model stärker auf Ihre Bedürfnisse zugeschnitten.
- Generierter Text oder Antworten können einem bestimmten Stil folgen
- Das optimierte Modell kann Informationen auf die gewünschte Weise zusammenfassen oder extrahieren.
- Mit viel kleineren Eingabeaufforderungen kann das optimierte Modell Text effektiv klassifizieren
Weitere Informationen darüber, wann die Abstimmung eines Modells der richtige Ansatz ist, finden Sie unter Wann sollte ein foundation model abgestimmt werden?
Arbeitsablauf
Die Abstimmung eines foundation model umfasst die folgenden Aufgaben:
Entwickeln Sie Eingabeaufforderungen, die mit dem Modell, das Sie verwenden möchten, gut funktionieren.
Tuning bedeutet nicht, dass Sie auf die Eingabeaufforderung ganz verzichten können. Um das richtige foundation model für Ihren Anwendungsfall zu finden, müssen Sie experimentieren. Experimentieren Sie, bis Sie verstehen, welche Eingabeaufforderungsformate das größte Potenzial für gute Ergebnisse aus dem Modell zeigen. Sie können das Prompt Lab verwenden, um Testaufforderungen zu übermitteln. Hilfe finden Sie unter Prompt Lab.
Finden Sie das größte foundation model, das für die jeweilige Aufgabe am besten geeignet ist.
Erstellen Sie Trainingsdaten für die Modelloptimierung.
Erstellen Sie ein Optimierungsexperiment, um das Modell zu optimieren.
Evaluieren Sie das optimierte Modell.
Ändern Sie bei Bedarf die Trainingsdaten oder die Experimentparameter und führen Sie weitere Experimente aus, bis Sie mit den Ergebnissen zufrieden sind.
Stellen Sie das optimierte Modell bereit.
Übergeben Sie Inferenzanforderungen an das optimierte Modell.
Optimierungskosten für Basismodell
Die Kosten für die Abstimmung eines foundation model werden in Kapazitätsstunden gemessen, die den Verbrauch an Rechenressourcen für das Abstimmungsexperiment angeben. Weitere Informationen finden Sie unter Nutzungsmessung in Kapazitätseinheitenstunden.
Die Kosten für die Inferenz eines optimierten Modells werden in Ressourceneinheiten gemessen. Der Tarif hängt von der Abrechnungsklasse des Modells ab. Ein prompt-abgestimmtes foundation model hat die gleiche Abrechnungsklasse wie das foundation model, das es abstimmt. Weitere Informationen finden Sie unter Ressourceneinheitenmessung.
Weitere Informationen
Erste Schritte
- Schnellstart: Abstimmen eines foundation model
- Beispiel-Notebook: Optimieren Sie ein Modell zur Klassifizierung von CFPB-Dokumenten in watsonx
- Beispiel-Notebook: Prompte Abstimmung für Mehrklassenklassifizierung mit watsonx
Übergeordnetes Thema: Abgenerative KI-Lösungen entwickeln