Flusso di lavoro per la messa a punto dei prompt

Durante l'esperimento, il modello di ottimizzazione regola ripetutamente la struttura del prompt in modo che le sue previsioni possano migliorare nel tempo.

Il diagramma seguente illustra i passaggi che si verificano durante l'esecuzione di un esperimento di prompt-tuning. Le parti del flusso dell'esperimento che si possono configurare sono evidenziate da un'icona utente . Questi punti di decisione corrispondono ai parametri di ottimizzazione dell'esperimento controllati.

Il diagramma mostra i seguenti passi dell'esperimento:

1. Inizia dal metodo di inizializzazione che si sceglie di utilizzare per inizializzare il prompt.

   Se il parametro metodo di inizializzazione è impostato su text, è necessario aggiungere il testo di inizializzazione.

2. Se specificato, tokenizza il testo di inizializzazione e lo converte in un vettore di prompt.

3. Legge i dati di addestramento, li tokenizza e li converte in batch.

   La dimensione dei batch è determinata dal parametro dimensione batch .

4. Invia l'input dagli esempi nel batch al modello di base affinché il modello elabori e generi l'output.

5. Confronta l'output del modello con l'output dei dati di training che corrispondono all'input dei dati di training inoltrati. Quindi, calcola il gradiente di perdita, che è la differenza tra l'output previsto e l'output effettivo dai dati di addestramento.

   Ad un certo punto, l'esperimento regola il vettore di prompt che viene aggiunto all'input in base alla prestazione del modello. Quando si verifica questa regolazione dipende da come è stato configurato il parametro passi di accumulo .

6. Le regolazioni vengono applicate al vettore di prompt inizializzato nel passo 2. Il grado di modifica del vettore è controllato dal parametro Tasso di apprendimento . Il vettore di prompt modificato viene aggiunto come prefisso all'input dall'esempio successivo nei dati di addestramento e viene inoltrato come input al modello.

7. Il processo si ripete fino a quando non vengono elaborati tutti gli esempi in tutti i batch.

8. L'intera serie di batch viene elaborata nuovamente per il numero di volte specificato nel parametro Numero di epoche .

Descrizioni dei parametri

La tabella seguente descrive i parametri di sintonizzazione che è possibile personalizzare.

Segmentazione dei dati di addestramento

Quando viene eseguito un esperimento, l'esperimento prima suddivide i dati di addestramento in batch più piccoli, quindi si allena su un batch alla volta. Ogni batch deve essere contenuto nella memoria GPU per essere elaborato. Per ridurre la quantità di memoria GPU necessaria, è possibile configurare l'esperimento di ottimizzazione per posticipare le regolazioni fino a quando non viene elaborato più di un batch. Il tuning viene eseguito su un batch e le sue metriche di prestazione vengono calcolate, ma non vengono apportate immediatamente modifiche. Invece, le informazioni sulle prestazioni vengono raccolte su un certo numero di batch prima che vengano valutate le metriche delle prestazioni cumulative.

Utilizzare i seguenti parametri per controllare il modo in cui i dati di addestramento vengono segmentati:

Dimensione batch Numero di esempi etichettati (noti anche come campioni) da elaborare contemporaneamente.

Ad esempio, per un dataset con 1.000 esempi e una dimensione batch di 10, il dataset è diviso in 100 batch di 10 esempi ciascuno.

Se il dataset di addestramento è piccolo, specificare una dimensione batch più piccola per garantire che ciascun batch abbia un numero sufficiente di esempi.

Fasi di accumulo: numero di lotti da elaborare prima di effettuare le regolazioni.

Ad esempio, se il set di dati è suddiviso in 100 lotti e si imposta il valore dei passi di accumulo su 10, le regolazioni vengono eseguite 10 volte invece di 100 volte.

Scelta del numero di esecuzioni di addestramento da completare

Il parametro Numero di epoche specifica il numero di volte in cui eseguire il ciclo dei dati di addestramento.

Ad esempio, con una dimensione del batch di 10 e un set di dati con 1.000 esempi, un'epoca deve elaborare 100 batch ed effettuare le regolazioni 100 volte. Se si imposta il numero di epoche su 20, il modello viene passato attraverso il dataset 20 volte, il che significa che elabora un totale di 2.000 batch durante il processo di ottimizzazione.

Maggiore è il numero di epoche e maggiori sono i dati di addestramento, maggiore è il tempo necessario per ottimizzare un modello.

Gestione del tasso di apprendimento

Il parametro velocità di apprendimento determina l'entità della modifica da apportare quando il modello viene regolato. Più alto è il numero, maggiore è il cambiamento.

Inizializzazione del prompt

Quando si crea un esperimento di regolazione del prompt, si può scegliere se specificare il proprio testo come vettore del prompt iniziale o lasciare che l'esperimento lo generi per voi. Questi nuovi token avviano il processo di addestramento in posizioni casuali o in base all'inserimento di un vocabolario o di un'istruzione che specifichi nel testo. Gli studi dimostrano che, man mano che la dimensione del modello sottostante cresce oltre 10 miliardi di parametri, il metodo di inizializzazione utilizzato diventa meno importante.

La scelta effettuata quando si crea l'esperimento di ottimizzazione personalizza il modo in cui viene inizializzato il prompt.

Metodo di inizializzazione: scegliere un metodo dalle opzioni seguenti:

• Testo: il metodo Ottimizzazione prompt viene utilizzato quando si specifica il testo di inizializzazione del prompt stesso.
• Casuale: viene utilizzato il metodo di ottimizzazione del prompt che consente all'esperimento di aggiungere valori scelti casualmente da includere nel prompt.

Testo di inizializzazione: il testo che vuoi aggiungere. Specificare una descrizione dell'attività o istruzioni simili a quelle utilizzate per la richiesta zero - shot.