Introduzione rapida: ottimizza un modello di fondazione
Ci sono un paio di motivi per ottimizzare il tuo modello di fondazione. Ottimizzando un modello su molti esempi etichettati, è possibile migliorare le prestazioni del modello rispetto alla sola progettazione di prompt. Ottimizzando un modello di base per prestazioni simili a quelle di un modello più grande nella stessa famiglia di modelli, è possibile ridurre i costi distribuendo tale modello più piccolo.
- Servizi richiesti
- Watson Studio
- Watson Machine Learning
Il flusso di lavoro di base include le seguenti attività:
- Aprire un progetto. I progetti sono dove è possibile collaborare con altri per lavorare con i dati.
- Aggiungere i propri dati al progetto. È possibile caricare file di dati o aggiungere dati da un'origine dati remota tramite una connessione.
- Creare un esperimento di ottimizzazione nel progetto. L'esperimento di ottimizzazione utilizza il builder di esperimenti Tuning Studio .
- Rivedere i risultati dell'esperimento e il modello ottimizzato. I risultati includono un grafico Loss Function e i dettagli del modello ottimizzato.
- Distribuire e testare il modello ottimizzato. Verificare il modello in Prompt Lab.
Informazioni sull'ottimizzazione di un modello di base
L'ottimizzazione del prompt regola il contenuto del prompt passato al modello. Il modello di base sottostante e i relativi parametri non vengono modificati. Viene modificato solo l'input della richiesta. Ottimizzare un modello con Tuning Studio per guidare un modello di base AI a restituire l'output desiderato.
Guarda questo video per vedere quando e perché dovresti sintonizzare un modello di fondazione.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Guarda un video sulla messa a punto di un modello di fondazione
Guarda questo video per visualizzare un'anteprima dei passi in questa esercitazione. Potrebbero esserci lievi differenze nell'interfaccia utente mostrata nel video. Il video è destinato ad essere un compagno del tutorial scritto.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Prova un'esercitazione per ottimizzare un modello di base
In questa esercitazione, verranno completate le seguenti attività:
- Attività 1: apertura di un progetto
- Attività 2: verifica del modello di base
- Attività 3: Aggiungere i propri dati al progetto
- Attività 4: creazione di un esperimento di ottimizzazione nel progetto
- Attività 5: Configurazione dell'esperimento di ottimizzazione
- Attività 6: distribuire il modello ottimizzato in uno spazio di distribuzione
- Attività 7: verifica del tuo modello ottimizzato
Suggerimenti per completare questa esercitazione
Di seguito sono riportati alcuni suggerimenti per completare correttamente questa esercitazione.
Utilizzare il video immagine - in - immagine
La seguente immagine animata mostra come utilizzare le funzioni di immagine video e indice:
Ottieni aiuto nella community
Se hai bisogno di aiuto con questa esercitazione, puoi fare una domanda o trovare una risposta nel forum di discussione della comunitàwatsonx.
Configurare le finestre del browser
Per un'esperienza ottimale durante il completamento di questa esercitazione, apri Cloud Pak for Data in una finestra del browser e tieni aperta questa pagina dell'esercitazione in un'altra finestra del browser per passare facilmente tra le due applicazioni. Prendi in considerazione la possibilità di organizzare le due finestre del browser fianco a fianco per renderle più semplici da seguire.
Attività 1: apertura di un progetto
Per visualizzare l'anteprima di questa attività, guardare il video a partire dalle 00:00.
È necessario un progetto per memorizzare l'esperimento di ottimizzazione. Guarda un video per vedere come creare un progetto sandbox e associare un servizio. Quindi, seguire la procedura per verificare di disporre di un progetto esistente o creare un progetto.
Verificare un progetto esistente o creare un nuovo progetto
Dalla schermata home di watsonx , scorri alla sezione Projects . Se vedi degli eventuali progetti elencati, passa a Associare il servizio Watson Machine Learning.
Se non vedi alcun progetto, puoi guardare questo video e quindi seguire la procedura per creare un progetto.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Fare clic su Crea un progetto sandbox. Quando il progetto viene creato, viene visualizzata la sandbox nella sezione Progetti .
Aprire un progetto esistente o il nuovo progetto sandbox.
Associa il servizio Watson Machine Learning al progetto
Utilizzi Watson Machine Learning per ottimizzare il modello di base, quindi attieniti a questa procedura per associare la tua istanza del servizio Watson Machine Learning al tuo progetto.
Nel progetto, fare clic sulla scheda Gestisci .
Fare clic su Servizi & Integrazioni .
Verificare se questo progetto dispone di un servizio Watson Machine Learning associato. Se non esiste alcun servizio associato, attenersi alla seguente procedura:
Fare clic su Associa servizio.
Seleziona la casella accanto alla tua istanza del servizio Watson Machine Learning .
Fare clic su Associa.
Se necessario, fare clic su Annulla per tornare alla pagina Servizi & Integrazioni .
Per ulteriori informazioni o per guardare un video, consultare Creazione di un progetto e Aggiunta di servizi associati a un progetto.
Controlla i tuoi progressi
La seguente immagine mostra la scheda Manage con il servizio associato. È ora possibile aggiungere il notebook di esempio al progetto.
Attività 2: verifica il tuo modello di base
Per visualizzare l'anteprima di questa attività, guardare il video a partire dalle 00:19.
È possibile verificare il modello ottimizzato in Prompt Lab. Seguire questi passi per verificare il modello ottimizzato:
Selezionare il modello ottimizzato.
- Fare clic sull'elenco a discesa del modello e selezionare Visualizza tutti i modelli di fondazione.
- Selezionare il modello flan-t5-xl-3b .
- Fare clic su Seleziona modello.
Nella pagina Modalità strutturata , immettere Istruzione:
Summarize customer complaints
Fornire gli esempi e l'input di test.
Input e output di esempio Input di esempio Output di esempio Ho dimenticato nella mia data iniziale che stavo usando il Capital One e questo debito era nelle loro mani e non è mai stato fatto. Recupero crediti, sotto - prodotto: debito della carta di credito, emissione: intrapresa o minacciata di intraprendere un'azione negativa o legale sotto - emissione Sono vittima di un furto di identità e questo debito non mi appartiene. Si prega di consultare il rapporto sul furto di identità e l'affidavit legale. Recupero crediti, dub - prodotto, non so, emissione. tentativi di recupero del debito non dovuto. Il debito sotto - emissione era il risultato di un furto di identità Nel campo di testo Prova , copia e incolla la seguente richiesta:
After I reviewed my credit report, I am still seeing information that is reporting on my credit file that is not mine. please help me in getting these items removed from my credit file.
Fare clic su Generaed esaminare i risultati.
Fare clic su Salva lavoro> Salva con nome.
Selezionare Modello di prompt.
Per il nome, immettere
Base model prompt
.Selezionare Visualizza nel progetto dopo il salvataggio.
Fare clic su Salva.
Controlla i tuoi progressi
La seguente immagine mostra i risultati nel Prompt Lab.
Attività 3: aggiungere i propri dati al progetto
Per visualizzare l'anteprima di questa attività, guardare il video a partire dalle 01:00.
Devi aggiungere i dati di formazione al tuo progetto. Nella pagina hub della risorsa, è possibile trovare il dataset dei reclami del cliente. Questo dataset include dati fittizi di reclami tipici dei clienti relativi ai report di credito. Attenersi alla seguente procedura per aggiungere il dataset dall'hub di risorse al progetto:
- Accedere al dataset Reclami del cliente nella pagina dell'hub della risorsa.
- Fare clic su Aggiungi al progetto.
- Selezionare il progetto sandbox.
- Fare clic su Aggiungi.
- Fare clic su Visualizza progetto per visualizzare l'asset nel progetto.
Controlla i tuoi progressi
La seguente immagine mostra l'asset di dati aggiunto al progetto. Il passo successivo consiste nel creare l'esperimento di ottimizzazione.
Attività 4: creazione di un esperimento di ottimizzazione nel progetto
Per visualizzare in anteprima questa attività, guardare il video a partire dalle 01:32.
Ora si è pronti a creare un esperimento di ottimizzazione nel progetto sandbox che utilizza il dataset appena aggiunto al progetto. Attenersi alla seguente procedura per creare un esperimento di ottimizzazione:
Torna alla schermata home di watsonx .
Verificare che il progetto sandbox sia selezionato.
Fai clic su Tune a foundation model with labeled data.
Per il nome, immettere:
Summarize customer complaints tuned model
Per la descrizione, immettere:
Tuning Studio experiment to tune a foundation model to handle customer complaints.
Fare clic su Crea. Viene visualizzato Tuning Studio .
Controlla i tuoi progressi
La seguente immagine mostra l'esperimento di ottimizzazione aperto in Tuning Studio. Ora è possibile configurare l'esperimento di ottimizzazione.
Attività 5: configurare l'esperimento di ottimizzazione
Per visualizzare l'anteprima di questa attività, guardare il video a partire dalle 01:47.
In Tuning Studio, è possibile configurare l'esperimento di ottimizzazione. Il modello di base da regolare è completato per te. Attenersi alla seguente procedura per configurare l'esperimento di ottimizzazione:
Per ottimizzare il modello di base, selezionare flan-t5-xl-3b.
Selezionare Testo per il metodo di inizializzazione del prompt. Ci sono due opzioni:
- Testo: utilizza il testo specificato.
- Casuale: utilizza valori generati per l'utente come parte dell'esperimento di ottimizzazione.
Per il campo Testo , immettere:
Summarize the complaint provided into one sentence.
La tabella riportata di seguito mostra un testo di esempio per ciascun tipo di attività:
titolo Tipo di attività Esempio Classificazione Classificare se l'opinione di ciascun commento è positiva o negativa Generazione Permetti ai dipendenti di lavorare da casa qualche giorno alla settimana Riepilogo Riepiloga i punti principali di una trascrizione di una riunione Selezionare Riepilogo per il tipo di attività che corrisponde più strettamente a quello che si desidera che il modello esegua. Esistono tre tipi di attività:
- Riepilogo genera un testo che descrive le idee principali espresse in un corpo di testo.
- Generazione genera testo, ad esempio un'email promozionale.
- Classificazione prevede le etichette di categoria dalle funzioni. Ad esempio, data una serie di commenti del cliente, è possibile etichettare ogni istruzione come una domanda o un problema. Quando si utilizza l'attività di classificazione, è necessario elencare le etichette di classe che si desidera vengano utilizzate dal modello. Specificare le stesse etichette utilizzate nei dati di training di ottimizzazione.
Selezionare i dati di addestramento dal progetto.
- Fare clic su Seleziona da progetto.
- Fare clic su Asset dati.
- Seleziona il file customer reclami training data.json .
- Fai clic su Select asset.
- Fare clic su Avvia ottimizzazione.
Controlla i tuoi progressi
La seguente immagine mostra l'esperimento di ottimizzazione configurato. Successivamente, esaminare i risultati e distribuire il modello ottimizzato.
Attività 6: distribuire il modello ottimizzato in uno spazio di distribuzione
Per visualizzare in anteprima questa attività, guardare il video a partire dalle 03:17.
Una volta completata l'esecuzione dell'esperimento, viene visualizzato il modello ottimizzato e il grafico della funzione Perdita. La funzione di perdita misura la differenza tra i risultati previsti e quelli effettivi con ogni esecuzione di addestramento. Attenersi alla seguente procedura per visualizzare il grafico della funzione di perdita e il modello ottimizzato:
Rivedere il grafico della funzione Perdita. Una curva di inclinazione verso il basso indica che il modello sta migliorando nella generazione dell'output previsto.
Sotto il grafico, fare clic sul modello ottimizzato Riepiloga reclami cliente .
Scorrere i dettagli del modello.
Fare clic su Distribuisci.
Per il nome, digitare:
Summarize customer complaints tuned model
Per il contenitore di distribuzione, selezionare spazio di distribuzione.
Per lo Spazio di distribuzione di destinazione, selezionare uno spazio di distribuzione esistente. Se non si dispone di uno spazio di distribuzione esistente, attenersi alla seguente procedura:
- Per lo Spazio di distribuzione di destinazione, selezionare Crea un nuovo spazio di distribuzione.
- Per il nome dello spazio di distribuzione, digitare:
Foundation models deployment space
- Selezionare un servizio di archiviazione dall'elenco.
- Selezionare il servizio di machine learning di cui è stato eseguito il provisioning dall'elenco.
- Fare clic su Crea.
- Fare clic su Chiudi.
- Per lo Spazio di distribuzione di destinazione, verifica che sia selezionata l'opzione Spazio di distribuzione dei modelli Foundation .
Selezionare l'opzione Visualizza distribuzione nello spazio di distribuzione dopo la creazione .
Fare clic su Crea.
Nella pagina Distribuzioni , fare clic sulla distribuzione Riepiloga modello ottimizzato per i reclami dei clienti per visualizzare i dettagli.
Controllare i progressi compiuti
La seguente immagine mostra la distribuzione nello spazio di distribuzione. Ora è possibile verificare il modello distribuito.
Attività 7: verifica il tuo modello ottimizzato
Per vedere un'anteprima di questa attività, guardate il video a partire da 04:04.
È possibile verificare il modello ottimizzato in Prompt Lab. Seguire questi passi per verificare il modello ottimizzato:
Dalla pagina di distribuzione del modello, fare clic su Apri nel laboratorio prompt, quindi selezionare il progetto sandbox. Viene visualizzato il prompt Lab.
Selezionare il modello ottimizzato.
- Fare clic sull'elenco a discesa del modello e selezionare Visualizza tutti i modelli di fondazione.
- Selezionare il modello Modello ottimizzato per il riepilogo dei reclami del cliente .
- Fare clic su Seleziona modello.
Nella pagina Modalità strutturata , immettere Istruzione:
Summarize customer complaints
Nella pagina Modalità strutturata , fornire gli esempi e verificare l'input.
Input e output di esempio Input di esempio Output di esempio Ho dimenticato nella mia data iniziale che stavo usando il Capital One e questo debito era nelle loro mani e non è mai stato fatto. Recupero crediti, sotto - prodotto: debito della carta di credito, emissione: intrapresa o minacciata di intraprendere un'azione negativa o legale sotto - emissione Sono vittima di un furto di identità e questo debito non mi appartiene. Si prega di consultare il rapporto sul furto di identità e l'affidavit legale. Recupero crediti, dub - prodotto, non so, emissione. tentativi di recupero del debito non dovuto. Il debito sotto - emissione era il risultato di un furto di identità Nel campo di testo Prova , copia e incolla la seguente richiesta:
After I reviewed my credit report, I am still seeing information that is reporting on my credit file that is not mine. please help me in getting these items removed from my credit file.
Fare clic su Generaed esaminare i risultati.
Controllare i progressi compiuti
La seguente immagine mostra i risultati nel Prompt Lab.
Passi successivi
Prova queste altre esercitazioni:
Ulteriori risorse
Visualizza altri video.
Trova dataset di esempio, progetti, modelli, prompt e notebook nell'hub di risorse per ottenere un'esperienza pratica:
Notebook che potete aggiungere al vostro progetto per iniziare ad analizzare i dati e costruire modelli.
Progetti che si possono importare contenenti quaderni, set di dati, prompt e altre risorse.
Insiemi di dati che si possono aggiungere al progetto per perfezionare, analizzare e costruire modelli.
Prompt che si possono usare nel Prompt Lab per richiedere un modello di fondazione.
Modelli di base che potete utilizzare nel Laboratorio Prompt.
Argomento principale: Esercitazioni introduttive