Arbeitsablauf zur Abstimmung von Prompt

Während des Experiments passt das Optimierungsmodell wiederholt die Struktur der Eingabeaufforderung an, sodass die Vorhersagen im Laufe der Zeit besser werden können.

Das folgende Diagramm veranschaulicht die Schritte, die während eines Prompt-Tuning-Experimentlaufs ablaufen. Die Teile des Experimentierablaufs, die Sie konfigurieren können, werden durch ein Benutzersymbol hervorgehoben. Diese Entscheidungspunkte entsprechen den Optimierungsparametern für Experimente, die Sie steuern.

Das Diagramm zeigt die folgenden Schritte des Experiments:

1. Startet bei der Initialisierungsmethode, die Sie zum Initialisieren der Eingabeaufforderung auswählen.

   Wenn der Parameter Initialisierungsmethode auf textgesetzt ist, müssen Sie den Initialisierungstext hinzufügen.

2. Bei Angabe wird der Initialisierungstext in Tokens zerlegt und in einen Eingabeaufforderungsvektor konvertiert.

3. Liest die Trainingsdaten, zerlegt sie in Tokens und konvertiert sie in Batches.

   Die Größe der Stapel wird durch den Parameter Stapelgröße bestimmt.

4. Sendet Eingaben aus den Beispielen im Stapel an das Basismodell, damit das Modell die Ausgabe verarbeitet und generiert.

5. Vergleicht die Ausgabe des Modells mit der Ausgabe der Trainingsdaten, die der übergebenen Trainingsdateneingabe entspricht Anschließend wird der Verlustgradient berechnet, der die Differenz zwischen der vorhergesagten Ausgabe und der tatsächlichen Ausgabe aus den Trainingsdaten darstellt.

   An einem bestimmten Punkt passt das Experiment den Eingabeaufforderungsvektor an, der der Eingabe basierend auf der Leistung des Modells hinzugefügt wird. Wann diese Anpassung erfolgt, hängt davon ab, wie der Parameter Akkumulationsschritte konfiguriert ist.

6. Anpassungen werden auf den in Schritt 2 initialisierten Eingabeaufforderungsvektor angewendet. Der Grad, in dem der Vektor geändert wird, wird durch den Parameter Lernrate gesteuert. Der bearbeitete Eingabeaufforderungsvektor wird als Präfix zur Eingabe aus dem nächsten Beispiel in den Trainingsdaten hinzugefügt und als Eingabe an das Modell übergeben.

7. Der Prozess wird wiederholt, bis alle Beispiele in allen Batches verarbeitet wurden.

8. Die gesamte Gruppe von Batches wird so oft verarbeitet, wie im Parameter Anzahl der Epochen angegeben ist.

Parameterbeschreibungen

In der folgenden Tabelle werden die Abstimmungsparameter beschrieben, die Sie anpassen können.

Trainingsdaten segmentieren

Wenn ein Experiment ausgeführt wird, unterbricht das Experiment zuerst die Trainingsdaten in kleinere Batches und trainiert dann in jeweils einem Batch. Jeder Stapel muss in den GPU-Speicher passen, damit er verarbeitet werden kann. Um die erforderliche GPU-Speicherkapazität zu reduzieren, können Sie das Optimierungsexperiment so konfigurieren, dass Anpassungen zurückgestellt werden, bis mehr als ein Stapel verarbeitet wird. Das Tuning wird für eine Charge durchgeführt und ihre Leistungskennzahlen werden berechnet, aber es werden nicht sofort Anpassungen vorgenommen. Stattdessen werden die Leistungsinformationen über eine bestimmte Anzahl von Batches erfasst, bevor die kumulativen Leistungsmessdaten ausgewertet werden.

Verwenden Sie die folgenden Parameter, um zu steuern, wie die Trainingsdaten segmentiert werden:

Stapelgröße Die Anzahl der beschrifteten Beispiele (auch bekannt als Stichproben), die gleichzeitig verarbeitet werden sollen

Für ein Dataset mit 1.000 Beispielen und einer Stapelgröße von 10 wird das Dataset in 100 Batches mit jeweils 10 Beispielen unterteilt.

Wenn das Trainingsdataset klein ist, geben Sie eine kleinere Stapelgröße an, um sicherzustellen, dass jeder Batch genügend Beispiele enthält.

Akkumulierungsschritte: Anzahl der zu verarbeitenden Chargen, bevor Anpassungen vorgenommen werden.

Wenn der Datensatz beispielsweise in 100 Chargen unterteilt ist und Sie den Wert für die Akkumulationsschritte auf 10 setzen, werden die Anpassungen 10 Mal statt 100 Mal vorgenommen.

Anzahl auszuführender Trainingsläufe auswählen

Der Parameter Anzahl der Epochen gibt an, wie oft die Trainingsdaten durchlaufen werden sollen.

Bei einer Batchgröße von 10 und einem Datensatz mit 1.000 Beispielen muss eine Epoche beispielsweise 100 Batches verarbeiten und 100 Mal Anpassungen vornehmen. Wenn Sie die Anzahl der Epochen auf 20 setzen, wird das Modell 20 Mal durch das Dataset geleitet, was bedeutet, dass es während des Optimierungsprozesses insgesamt 2.000 Batches verarbeitet.

Je höher die Anzahl der Epochen und je größer Ihre Trainingsdaten sind, desto länger dauert die Optimierung eines Modells.

Lernrate verwalten

Der Parameter Lernrate bestimmt den Umfang der Änderung, die bei der Anpassung des Modells vorgenommen wird. Je höher die Zahl, desto größer ist die Veränderung.

Initialisierung der Eingabeaufforderung

Wenn Sie ein Experiment zur Promptabstimmung erstellen, können Sie wählen, ob Sie Ihren eigenen Text als anfänglichen Promptvektor angeben oder ob das Experiment ihn für Sie generieren soll. Diese neuen Token starten den Trainingsprozess entweder an zufälligen Positionen oder auf der Basis der Einbettung eines Vokabulars oder einer Anweisung, die Sie im Text angeben. Studien zeigen, dass die verwendete Initialisierungsmethode weniger wichtig wird, wenn die Größe des zugrunde liegenden Modells über 10 Milliarden Parameter steigt.

Die Auswahl, die Sie beim Erstellen des Optimierungsexperiments treffen, passt an, wie die Eingabeaufforderung initialisiert wird.

Initialisierungsmethode: Wählen Sie eine Methode aus den folgenden Optionen:

• Text: Die Methode zur Optimierung der Eingabeaufforderung wird verwendet, wenn Sie den Initialisierungstext der Eingabeaufforderung selbst angeben.
• Zufällig: Die Methode zur Optimierung der Eingabeaufforderung wird verwendet, mit der das Experiment Werte hinzufügen kann, die zufällig ausgewählt werden, um sie in die Eingabeaufforderung einzuschließen.

Initialisierungstext: Der Text, den Sie hinzufügen möchten Geben Sie eine Taskbeschreibung oder Anweisungen ähnlich der Beschreibung an, die Sie für die Bedienerführung für Nullwerte verwenden.