Tuning-Modelle der Stiftung

Letzte Aktualisierung: 04. März 2025
Tuning-Modelle der Stiftung

Passen Sie die Grundmodelle an, um bessere Ergebnisse für Aufgaben zu erzielen, die den individuellen Anforderungen Ihres Unternehmens entsprechen.

Foundation-Modelle sind KI-Modelle, die auf Terabytes von Daten aus dem Internet und anderen öffentlichen Quellen vortrainiert sind. Sie sind unübertroffen in ihrer Fähigkeit, das nächstbeste Wort vorherzusagen und Sprache zu generieren. Während die Sprachgenerierung für das Brainstorming und die Förderung der Kreativität nützlich sein kann, müssen Gründungsmodelle in der Regel angeleitet werden, um konkrete Aufgaben zu erfüllen. Modellabstimmung und andere Techniken, wie die durch Abruf erweiterte Generierung, helfen Ihnen, Fundamentmodelle auf sinnvolle Weise für Ihr Unternehmen zu nutzen.

Mit Tuning Studio können Sie ein kleineres Grundmodell abstimmen, um seine Leistung bei Aufgaben der natürlichen Sprachverarbeitung wie Klassifizierung, Zusammenfassung und Generierung zu verbessern. Durch Tuning kann ein kleineres Modell einer Modellreihe ähnliche Ergebnisse erzielen wie größere Modelle derselben Modellreihe. Durch die Abstimmung und den Einsatz des kleineren Modells können Sie die langfristigen Interferenzkosten senken.

Ähnlich wie beim Prompt Engineering können Sie durch die Abstimmung eines Fundamentmodells den Inhalt und das Format der Ausgabe des Fundamentmodells beeinflussen. Es ist wichtig zu wissen, was von einem Fundamentmodell zu erwarten ist, wenn Sie den Schritt der Ableitung eines Fundamentmodells in einen Geschäftsablauf integrieren möchten.

Das folgende Diagramm veranschaulicht, wie die Abstimmung eines Grundmodells Ihnen dabei helfen kann, das Modell so zu steuern, dass es nützliche Ergebnisse liefert. Sie stellen gekennzeichnete Daten bereit, die proprietäre Informationen enthalten können, die dem Stiftungsmodell unbekannt sind, und die das Format und die Art der Ausgabe veranschaulichen, die das Modell zurückgeben soll. Ihre Beispiele geben dem Grundmodell ein Muster vor, das für zukünftige Ergebnisse befolgt und angewendet werden kann.

Wie ein getuntes Modell mit einem Grundmodell zusammenhängt

Anstatt bei traditionellen Aufgaben wie Textübersetzung und Text- oder Antworterstellung zu verallgemeinern, ist die Ausgabe nach der Abstimmung eines Grundmodells besser auf Ihre Bedürfnisse zugeschnitten.

  • Erzeugte Texte oder Antworten können einem bestimmten Stil folgen
  • Das optimierte Modell kann Informationen nach Ihren Wünschen zusammenfassen oder extrahieren
  • Mit viel kleineren Eingabeaufforderungen kann das optimierte Modell Text effektiv klassifizieren

Weitere Informationen darüber, wann das Abstimmen eines Modells der richtige Ansatz ist, finden Sie unter "Wann sollte ein Grundmodell abgestimmt werden?".

Arbeitsweisen

Watsonx.ai bietet verschiedene Möglichkeiten, um Gründungsmodelle anzupassen, darunter:

Arbeitsablauf

Unabhängig davon, für welche Arbeitsweise Sie sich entscheiden, bleibt der Arbeitsablauf für die Abstimmung eines Fundamentmodells derselbe. Die Abstimmung eines Fundamentmodells umfasst die folgenden Aufgaben:

  1. Ingenieur-Eingabeaufforderungen, die gut mit dem Modell funktionieren, das Sie verwenden möchten.

    Tuning bedeutet nicht, dass man die zeitnahe technische Planung ganz auslassen kann. Es ist notwendig, zu experimentieren, um das richtige Fundamentmodell für Ihren Anwendungsfall zu finden. Experimentieren Sie, bis Sie verstehen, welche Eingabeaufforderungsformate das größte Potenzial für gute Ergebnisse mit dem Modell aufweisen. Sie können die E-Mail-Adresse Prompt Lab verwenden, um Testaufgaben einzureichen. Hilfe finden Sie unter Prompt Lab.

    Finden Sie das größte Fundamentmodell, das für die Aufgabe am besten geeignet ist.

  2. Erstellen Sie Trainingsdaten zur Modelloptimierung.

  3. Erstellen Sie ein Tuning-Experiment, um das Modell zu optimieren.

  4. Bewerten Sie das abgestimmte Modell.

    Ändern Sie bei Bedarf die Trainingsdaten oder die Versuchsparameter und führen Sie weitere Versuche durch, bis Sie mit den Ergebnissen zufrieden sind.

  5. Setzen Sie das optimierte Modell ein.

  6. Senden Sie Inferenzanfragen an das optimierte Modell.

Kosten für die Abstimmung des Foundation-Modells

Die Kosten für das Tuning eines Fundamentmodells werden in Kapazitätseinheiten gemessen, die den Rechenressourcenverbrauch des Tuning-Experiments messen. Weitere Informationen finden Sie unter Kapazitätsmessung der Einheit.

Die Kosten für die Inferenz eines abgestimmten Modells werden in Ressourceneinheiten gemessen. Der Preis hängt von der Abrechnungsklasse des Modells ab. Ein auf Prompt gestimmtes Fundamentmodell hat dieselbe Rechnungsklasse wie das Fundamentmodell, auf das es gestimmt wird. Weitere Informationen finden Sie unter "Ressourceneinheit-Messung ".

Weitere Informationen

Erste Schritte

Übergeordnetes Thema: Entwicklung generativer KI-Lösungen