Finden Sie heraus, wann die Optimierung eines Modells Ihnen helfen kann, ein Basismodell zu verwenden, um Ihre Ziele zu erreichen.
Optimieren Sie ein Basismodell, wenn Sie Folgendes tun möchten:
Senkung der Inferenzkosten im richtigen Maß
Größere Basismodelle führen in der Regel zu besseren Ergebnissen. Sie sind jedoch auch teurer in der Anwendung. Durch die Optimierung eines Modells können Sie ähnliche, manchmal sogar bessere Ergebnisse aus einem kleineren Modell erzielen, das weniger Kosten verursacht.
Ausgabe des Modells abrufen, um einen bestimmten Stil oder ein bestimmtes Format zu verwenden
Verbessern Sie die Leistung des Modells, indem Sie dem Modell eine spezialisierte Aufgabe beibringen.
Ausgabe in einem zuverlässigen Format als Antwort auf Zero-Shot-Eingabeaufforderungen generieren
Wenn ein Modell nicht optimiert werden soll
Die Optimierung eines Modells ist nicht immer der richtige Ansatz zur Verbesserung der Ausgabe eines Modells. Die Optimierung eines Modells kann Ihnen beispielsweise nicht helfen, Folgendes zu tun:
Genauigkeit von Antworten in der Modellausgabe verbessern
Wenn Sie ein Basismodell für den faktischen Rückruf in einem Fragenantwortszenario verwenden, verbessert die Optimierung die Antwortgenauigkeit geringfügig. Um sachliche Antworten zu erhalten, müssen Sie sachliche Informationen als Teil Ihrer Eingabe für das Modell angeben. Die Optimierung kann verwendet werden, damit die generierten sachlichen Antworten einem Format entsprechen, das einfacher von einem nachgeordneten Prozess in einem Workflow verwendet werden kann. Informationen zu Methoden für die Rückgabe faktischer Antworten finden Sie unter Retreival-erweiterte Generierung.
Modell für konsistente Verwendung eines bestimmten Vokabulars in der Ausgabe abrufen
Große Sprachmodelle, die mit großen Datenmengen trainiert werden, formulieren ein Vokabular, das auf diesem ursprünglichen Datensatz basiert. Sie können signifikante Terme für das Modell aus Trainingsdaten einführen, die Sie zum Optimieren des Modells verwenden. Das Modell verwendet diese bevorzugten Begriffe jedoch möglicherweise nicht zuverlässig in der Ausgabe.
Ein Basismodell lehren, um eine völlig neue Aufgabe auszuführen
Das Experimentieren mit prompter Entwicklung ist ein wichtiger erster Schritt, da es Ihnen hilft, die Art der Ausgabe zu verstehen, die ein Basismodell ist und nicht generieren kann. Sie können die Optimierung verwenden, um die Ausgabe, die ein Basismodell zurückgeben kann, zu optimieren, anzupassen und zu gestalten.
Weitere Informationen
Übergeordnetes Thema: Tuning Studio