0 / 0
Torna alla versione inglese della documentazione
Avvio rapido: Messa a punto di un foundation model
Ultimo aggiornamento: 28 nov 2024
Avvio rapido: Messa a punto di un foundation model

Ci sono un paio di motivi per mettere a punto il foundation model. Ottimizzando un modello su molti esempi etichettati, è possibile migliorare le prestazioni del modello rispetto alla sola progettazione di prompt. Ottimizzando un modello di base per prestazioni simili a quelle di un modello più grande nella stessa famiglia di modelli, è possibile ridurre i costi distribuendo tale modello più piccolo.

Servizi richiesti
studio watsonx.ai
runtime watsonx.ai

Il flusso di lavoro di base include le seguenti attività:

  1. Aprire un progetto. I progetti sono dove è possibile collaborare con altri per lavorare con i dati.
  2. Aggiungere i propri dati al progetto. È possibile caricare file di dati o aggiungere dati da un'origine dati remota tramite una connessione.
  3. Creare un esperimento di ottimizzazione nel progetto. L'esperimento di ottimizzazione utilizza il builder di esperimenti Tuning Studio .
  4. Rivedere i risultati dell'esperimento e il modello ottimizzato. I risultati includono un grafico Loss Function e i dettagli del modello ottimizzato.
  5. Distribuire e testare il modello ottimizzato. Verificare il modello in Prompt Lab.

Informazioni sulla messa a punto di un foundation model

L'ottimizzazione del prompt regola il contenuto del prompt passato al modello. Il foundation model sottostante e i suoi parametri non vengono modificati. Viene modificato solo l'input della richiesta. Con Tuning Studio si mette a punto un modello per guidare un foundation model AI in modo che restituisca l'output desiderato.

Guardate questo video per capire quando e perché è necessario sintonizzare un foundation model.

Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.

Ulteriori informazioni su Tuning Studio

Guardate un video sulla messa a punto di un foundation model

Guarda il video Guarda questo video per visualizzare un'anteprima dei passi in questa esercitazione. Potrebbero esserci lievi differenze nell'interfaccia utente mostrata nel video. Il video è destinato ad essere un compagno del tutorial scritto.

Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.


Provate un'esercitazione per mettere a punto un foundation model

In questa esercitazione, verranno completate le seguenti attività:





Suggerimenti per completare questa esercitazione
Di seguito sono riportati alcuni suggerimenti per completare correttamente questa esercitazione.

Utilizzare il video immagine - in - immagine

Suggerimento: avviare il video, quindi, scorrendo l'esercitazione, il video passa alla modalità immagine - in - immagine. Chiudere il sommario video per la migliore esperienza con l'immagine in foto. È possibile utilizzare la modalità immagine - in - immagine in modo da poter seguire il video mentre si completano le attività in questa esercitazione. Fare clic sulle date / ore per ciascuna attività da seguire.

La seguente immagine animata mostra come utilizzare le funzioni di immagine video e indice:

Come usare il picture-in-picture e i capitoli

Ottieni aiuto nella community

Se si ha bisogno di aiuto con questa esercitazione, è possibile porre una domanda o trovare una risposta nella sezione 'watsonx Forum di discussione della comunità.

Configurare le finestre del browser

Per un'esperienza ottimale durante il completamento di questa esercitazione, apri Cloud Pak for Data in una finestra del browser e tieni aperta questa pagina dell'esercitazione in un'altra finestra del browser per passare facilmente tra le due applicazioni. Prendi in considerazione la possibilità di organizzare le due finestre del browser fianco a fianco per renderle più semplici da seguire.

Esercitazione e IU affiancati

Suggerimento: se si incontra un tour guidato mentre si completa questa esercitazione nell'interfaccia utente, fare clic su Forse in seguito.



Attività 1: apertura di un progetto

video dell'esercitazione di anteprima Per avere un'anteprima di questo compito, guardate il video a partire da 00:04.

È necessario un progetto per memorizzare l'esperimento di ottimizzazione. Guarda un video per vedere come creare un progetto sandbox e associare un servizio. Quindi, seguire la procedura per verificare di disporre di un progetto esistente o creare un progetto.

Verificare un progetto esistente o creare un nuovo progetto

  1. Dalla schermata home di watsonx , scorri alla sezione Projects . Se vengono elencati dei progetti, passare all'associazione del servizio watsonx.ai Runtime.

    Se non vedi alcun progetto, puoi guardare questo video e quindi seguire la procedura per creare un progetto.

    Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.

  2. Fare clic su Crea un progetto sandbox. Quando il progetto viene creato, viene visualizzata la sandbox nella sezione Progetti .

  3. Aprire un progetto esistente o il nuovo progetto sandbox.

Associare il servizio watsonx.ai Runtime al progetto

Si usa watsonx.ai Runtime per mettere a punto il foundation model, quindi seguire questi passaggi per associare l'istanza del servizio watsonx.ai Runtime al progetto.

  1. Nel progetto, fare clic sulla scheda Gestisci .

  2. Fare clic su Servizi & Integrazioni .

  3. Controllare se questo progetto ha un servizio watsonx.ai Runtime associato. Se non esiste alcun servizio associato, attenersi alla seguente procedura:

    1. Fare clic su Associa servizio.

    2. Selezionare la casella accanto all'istanza del servizio watsonx.ai Runtime.

    3. Fare clic su Associa.

    4. Se necessario, fare clic su Annulla per tornare alla pagina Servizi & Integrazioni .

Per ulteriori informazioni o per vedere un video, vedere Creazione di un progetto e Aggiunta di servizi associati a un progetto.

Icona Checkpoint Controllare i progressi

La seguente immagine mostra la scheda Manage con il servizio associato. È ora possibile aggiungere il notebook di esempio al progetto.

Scheda Gestisci nel progetto




Attività 2: verifica il tuo modello di base

video dell'esercitazione di anteprima Per vedere un'anteprima di questo compito, guardate il video a partire da 00:19.

È possibile verificare il modello ottimizzato in Prompt Lab. Seguire questi passi per verificare il modello ottimizzato:

  1. Torna alla schermata home di watsonx .

  2. Verificare che il progetto sandbox sia selezionato.

    Seleziona il progetto sandbox

  3. Fare clic sul riquadro Aprire il prompt del laboratorio.

  4. Selezionare il modello ottimizzato.

    1. Fare clic sull'elenco a discesa del modello e selezionare Visualizza tutti i modelli di fondazione.
    2. Selezionare il modello granite-13b-instruct-v2.
    3. Fare clic su Seleziona modello.
  5. Fare clic sulla scheda Strutturato.

  6. Per l'Istruzione, digitare:

    Summarize customer complaints
    
  7. Fornire gli esempi e l'input di test.

    Input e output di esempio
    Input di esempio Output di esempio
    Ho dimenticato nella mia data iniziale che stavo usando il Capital One e questo debito era nelle loro mani e non è mai stato fatto. Recupero crediti, sotto - prodotto: debito della carta di credito, emissione: intrapresa o minacciata di intraprendere un'azione negativa o legale sotto - emissione
    Sono vittima di un furto di identità e questo debito non mi appartiene. Si prega di consultare il rapporto sul furto di identità e l'affidavit legale. Recupero crediti, sottoprodotto, non so, problema. tentativi di recupero del debito non dovuto. Il debito sotto - emissione era il risultato di un furto di identità

  8. Nel campo di testo Prova , copia e incolla la seguente richiesta:

    After I reviewed my credit report, I am still seeing information that is reporting on my credit file that is not mine. please help me in getting these items removed from my credit file.
    
  9. Fare clic su Generaed esaminare i risultati. Prendere nota del risultato del modello di base, in modo da poterlo confrontare con il risultato del modello messo a punto.

  10. Fare clic su Salva lavoro> Salva con nome.

  11. Selezionare Modello di prompt.

  12. Per il nome, immettere Base model prompt.

  13. Per l'attività, selezionare Riassunto.

  14. Selezionare Visualizza nel progetto dopo il salvataggio.

  15. Fare clic su Salva.

Icona Checkpoint Controllare i progressi

La seguente immagine mostra i risultati nel Prompt Lab.

La seguente immagine mostra i risultati nel Prompt Lab.




Attività 3: aggiungere i propri dati al progetto

video dell'esercitazione di anteprima Per avere un'anteprima di questo compito, guardate il video a partire da 01:12.

Devi aggiungere i dati di formazione al tuo progetto. Nella pagina hub della risorsa, è possibile trovare il dataset dei reclami del cliente. Questo dataset include dati fittizi di reclami tipici dei clienti relativi ai report di credito. Attenersi alla seguente procedura per aggiungere il dataset dall'hub di risorse al progetto:

  1. Accedere al set di dati sui reclami dei clienti nella pagina dell'hub delle risorse.
  2. Fare clic su Aggiungi al progetto.
  3. Selezionare il progetto sandbox.
  4. Fare clic su Aggiungi.
  5. Fare clic su Visualizza progetto per visualizzare l'asset nel progetto.

Icona Checkpoint Controllare i progressi

La seguente immagine mostra l'asset di dati aggiunto al progetto. Il passo successivo consiste nel creare l'esperimento di ottimizzazione.

La seguente immagine mostra l'asset di dati aggiunto al progetto. Il passo successivo è quello di creare l'esperimento di ottimizzazione.




Attività 4: creazione di un esperimento di ottimizzazione nel progetto

video dell'esercitazione di anteprima Per vedere l'anteprima di questo compito, guardate il video a partire da 01:32.

Ora si è pronti a creare un esperimento di ottimizzazione nel progetto sandbox che utilizza il dataset appena aggiunto al progetto. Attenersi alla seguente procedura per creare un esperimento di ottimizzazione:

  1. Torna alla schermata home di watsonx .

  2. Verificare che il progetto sandbox sia selezionato.

    Seleziona il progetto sandbox

  3. Fare clic su Sintonizza un foundation model con dati etichettati.

  4. Per il nome, immettere:

    Summarize customer complaints tuned model
    
  5. Per la descrizione, immettere:

    Tuning Studio experiment to tune a foundation model to handle customer complaints.
    
  6. Fare clic su Crea. Viene visualizzato Tuning Studio .

Icona Checkpoint Controllare i progressi

La seguente immagine mostra l'esperimento di ottimizzazione aperto in Tuning Studio. Ora è possibile configurare l'esperimento di ottimizzazione.

La seguente immagine mostra l'esperimento di ottimizzazione aperto in Tuning Studio. Ora è possibile configurare l'esperimento di ottimizzazione.




Attività 5: configurare l'esperimento di ottimizzazione

video dell'esercitazione di anteprima Per vedere un'anteprima di questo compito, guardate il video a partire da 01:47.

In Tuning Studio, è possibile configurare l'esperimento di ottimizzazione. Il foundation model da sintonizzare viene completato per voi. Attenersi alla seguente procedura per configurare l'esperimento di ottimizzazione:

  1. Per il foundation model da sintonizzare, fare clic su Seleziona un foundation model.

    1. Selezionare granite-13b-instruct-v2.

    2. Fare clic su Seleziona.

  2. Selezionare Testo per il metodo di inizializzazione del prompt. Ci sono due opzioni:

    • Testo: utilizza il testo specificato.
    • Casuale: utilizza valori generati per l'utente come parte dell'esperimento di ottimizzazione.
  3. Per il campo Testo , immettere:

    Summarize the complaint provided into one sentence.
    

    La tabella riportata di seguito mostra un testo di esempio per ciascun tipo di attività:

    titolo
    Tipo di attività Esempio
    Classificazione Classificare se l'opinione di ciascun commento è positiva o negativa
    Generazione Permetti ai dipendenti di lavorare da casa qualche giorno alla settimana
    Riepilogo Riepiloga i punti principali di una trascrizione di una riunione

  4. Selezionare Riepilogo per il tipo di attività che corrisponde più strettamente a quello che si desidera che il modello esegua. Esistono tre tipi di attività:

    • Riepilogo genera un testo che descrive le idee principali espresse in un corpo di testo.
    • Generazione genera testo, ad esempio un'email promozionale.
    • Classificazione prevede le etichette di categoria dalle funzioni. Ad esempio, data una serie di commenti del cliente, è possibile etichettare ogni istruzione come una domanda o un problema. Quando si utilizza l'attività di classificazione, è necessario elencare le etichette di classe che si desidera vengano utilizzate dal modello. Specificare le stesse etichette utilizzate nei dati di training di ottimizzazione.
  5. Selezionare i dati di addestramento dal progetto.

    1. Fare clic su Seleziona da progetto.
    2. Fare clic su Asset dati.
    3. Seleziona il file customer reclami training data.json .
    4. Fai clic su Select asset.
    5. Fare clic su Avvia ottimizzazione.

Icona Checkpoint Controllare i progressi

La seguente immagine mostra l'esperimento di ottimizzazione configurato. Successivamente, esaminare i risultati e distribuire il modello ottimizzato.

La seguente immagine mostra l'esperimento di ottimizzazione configurato.




Attività 6: distribuire il modello ottimizzato in uno spazio di distribuzione

video dell'esercitazione di anteprima Per avere un'anteprima di questo compito, guardate il video a partire da 03:17.

Una volta completata l'esecuzione dell'esperimento, viene visualizzato il modello ottimizzato e il grafico della funzione Perdita. La funzione di perdita misura la differenza tra i risultati previsti e quelli effettivi con ogni esecuzione di addestramento. Attenersi alla seguente procedura per visualizzare il grafico della funzione di perdita e il modello ottimizzato:

  1. Rivedere il grafico della funzione Perdita. Una curva di inclinazione verso il basso indica che il modello sta migliorando nella generazione dell'output previsto.

    Esperimento di ottimizzazione completato

  2. Sotto il grafico, fare clic sul modello ottimizzato Riepiloga reclami cliente .

  3. Scorrere i dettagli del modello.

  4. Fare clic su Distribuisci.

  5. Per il nome, digitare: Summarize customer complaints tuned model

  6. Per il contenitore di distribuzione, selezionare spazio di distribuzione.

  7. Per lo Spazio di distribuzione di destinazione, selezionare uno spazio di distribuzione esistente. Se non si dispone di uno spazio di distribuzione esistente, attenersi alla seguente procedura:

    1. Per lo Spazio di distribuzione di destinazione, selezionare Crea un nuovo spazio di distribuzione.
    2. Per il nome dello spazio di distribuzione, digitare: Foundation models deployment space
    3. Selezionare un servizio di archiviazione dall'elenco.
    4. Selezionare il servizio di machine learning di cui è stato eseguito il provisioning dall'elenco.
    5. Fare clic su Crea.
    6. Fare clic su Chiudi.
    7. Per lo Spazio di distribuzione di destinazione, verifica che sia selezionata l'opzione Spazio di distribuzione dei modelli Foundation .
  8. Selezionare l'opzione Visualizza distribuzione nello spazio di distribuzione dopo la creazione .

  9. Fare clic su Crea.

  10. Nella pagina Distribuzioni , fare clic sulla distribuzione Riepiloga modello ottimizzato per i reclami dei clienti per visualizzare i dettagli.

Icona Checkpoint Controllare i progressi

La seguente immagine mostra la distribuzione nello spazio di distribuzione. Ora è possibile verificare il modello distribuito.

La seguente immagine mostra la distribuzione nello spazio di distribuzione.




Attività 7: verifica il tuo modello ottimizzato

video dell'esercitazione di anteprima Per avere un'anteprima di questo compito, guardate il video a partire da 04:04.

È possibile verificare il modello ottimizzato in Prompt Lab. Seguire questi passi per verificare il modello ottimizzato:

  1. Dalla pagina di distribuzione del modello, fare clic su Apri nel laboratorio prompt, quindi selezionare il progetto sandbox. Viene visualizzato il prompt Lab.

  2. Selezionare il modello ottimizzato.

    1. Fare clic sull'elenco a discesa del modello e selezionare Visualizza tutti i modelli di fondazione.
    2. Selezionare il modello Modello ottimizzato per il riepilogo dei reclami del cliente .
    3. Fare clic su Seleziona modello.
  3. Nella pagina Modalità strutturata , immettere Istruzione: Summarize customer complaints

  4. Nella pagina Modalità strutturata , fornire gli esempi e verificare l'input.

    Input e output di esempio
    Input di esempio Output di esempio
    Ho dimenticato nella mia data iniziale che stavo usando il Capital One e questo debito era nelle loro mani e non è mai stato fatto. Recupero crediti, sotto - prodotto: debito della carta di credito, emissione: intrapresa o minacciata di intraprendere un'azione negativa o legale sotto - emissione
    Sono vittima di un furto di identità e questo debito non mi appartiene. Si prega di consultare il rapporto sul furto di identità e l'affidavit legale. Recupero crediti, sottoprodotto, non so, problema. tentativi di recupero del debito non dovuto. Il debito sotto - emissione era il risultato di un furto di identità

  5. Nel campo di testo Prova , copia e incolla la seguente richiesta:

    After I reviewed my credit report, I am still seeing information that is reporting on my credit file that is not mine. please help me in getting these items removed from my credit file.
    
  6. Fare clic su Generaed esaminare i risultati. Confrontare il risultato del modello di base con quello del modello sintonizzato.

Icona Checkpoint Controllare i progressi

La seguente immagine mostra i risultati nel Prompt Lab.

La seguente immagine mostra i risultati nel Prompt Lab.



Passi successivi

Prova queste altre esercitazioni:

Ulteriori risorse

Argomento principale: Esercitazioni introduttive

Ricerca e risposta AI generativa
Queste risposte sono generate da un modello di lingua di grandi dimensioni in watsonx.ai basato sul contenuto della documentazione del prodotto. Ulteriori informazioni