Quando ottimizzare un modello di fondazione
Scopri quando l'ottimizzazione di un modello può aiutarti a utilizzare un modello di base per raggiungere i tuoi obiettivi.
Ottimizzare un modello di base quando si desidera effettuare le seguenti operazioni:
Ridurre il costo dell'inferenza su scala
I modelli di base più grandi generalmente generano risultati migliori. Tuttavia, sono anche più costosi da usare. Ottimizzando un modello, è possibile ottenere risultati simili, a volte anche migliori, da un modello più piccolo che costa meno da utilizzare.
Ottieni l'output del modello per utilizzare un determinato stile o formato
Migliorare le prestazioni del modello insegnando al modello un'attività specializzata
Genera l'output in un formato affidabile in risposta a richieste zero - shot
Guarda un video che spiega quando e perché eseguire la messa a punto di un modello di fondazione.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività presenti in questa documentazione.
Quando non regolare un modello
L'ottimizzazione di un modello non è sempre l'approccio corretto per migliorare l'output di un modello. Ad esempio, l'ottimizzazione di un modello non consente di effettuare le seguenti operazioni:
Migliorare l'accuratezza delle risposte nell'output del modello
Se si sta utilizzando un modello di base per il richiamo dei dati in uno scenario di risposta alle domande, l'ottimizzazione migliorerà marginalmente l'accuratezza delle risposte. Per ottenere risposte fattuali, è necessario fornire informazioni fattuali come parte dell'input per il modello. L'ottimizzazione può essere utilizzata per aiutare le risposte fattuali generate a conformarsi a un formato che può essere più facilmente utilizzato da un processo a valle in un flusso di lavoro. Per informazioni sui metodi per la restituzione delle risposte fattuali, consultare Retreival - augmented generation.
Ottenere il modello per utilizzare un vocabolario specifico nel suo output in modo congruente
I modelli di linguaggio di grandi dimensioni che vengono addestrati su grandi quantità di dati formulano un vocabolario basato su tale serie iniziale di dati. È possibile introdurre termini significativi per il modello dai dati di addestramento utilizzati per ottimizzare il modello. Tuttavia, il modello potrebbe non utilizzare questi termini preferiti in modo affidabile nel suo output.
Insegnare a un modello di fondazione ad eseguire un'attività completamente nuova
Sperimentare con la progettazione rapida è un primo passo importante perché consente di capire il tipo di output che un modello di base è e non è in grado di generare. È possibile utilizzare l'ottimizzazione per modificare, adattare e modellare l'output che un modello di base è in grado di restituire.
Ulteriori informazioni
Argomento principale: Messa a punto dei modelli di fondazione