0 / 0
Torna alla versione inglese della documentazione
Introduzione rapida: ottimizza un modello di fondazione

Introduzione rapida: ottimizza un modello di fondazione

Ci sono un paio di motivi per ottimizzare il tuo modello di fondazione. Ottimizzando un modello su molti esempi etichettati, è possibile migliorare le prestazioni del modello rispetto alla sola progettazione di prompt. Ottimizzando un modello di base per prestazioni simili a quelle di un modello più grande nella stessa famiglia di modelli, è possibile ridurre i costi distribuendo tale modello più piccolo.

Servizi richiesti
Watson Studio
Watson Machine Learning

Il flusso di lavoro di base include le seguenti attività:

  1. Aprire un progetto. I progetti sono dove è possibile collaborare con altri per lavorare con i dati.
  2. Aggiungere i propri dati al progetto. È possibile caricare file di dati o aggiungere dati da un'origine dati remota tramite una connessione.
  3. Creare un esperimento di ottimizzazione nel progetto. L'esperimento di ottimizzazione utilizza il builder di esperimenti Tuning Studio.
  4. Rivedere i risultati dell'esperimento e il modello ottimizzato. I risultati includono un grafico Loss Function e i dettagli del modello ottimizzato.
  5. Distribuire e testare il modello ottimizzato. Verificare il modello in Prompt Lab.

Informazioni sull'ottimizzazione di un modello di base

L'ottimizzazione del prompt regola il contenuto del prompt passato al modello. Il modello di base sottostante e i relativi parametri non vengono modificati. Viene modificato solo l'input della richiesta. Si ottimizza un modello con Tuning Studio per guidare un modello di base AI a restituire l'output desiderato.

Guarda questo video per vedere quando e perché dovresti sintonizzare un modello di fondazione.

Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.

Ulteriori informazioni su Tuning Studio

Guarda un video sulla messa a punto di un modello di fondazione

Guarda il video Guarda questo video per visualizzare un'anteprima dei passi in questa esercitazione. Potrebbero esserci lievi differenze nell'interfaccia utente mostrata nel video. Il video è destinato ad essere un compagno del tutorial scritto.

Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.

Prova un'esercitazione per ottimizzare un modello di base

In questa esercitazione, verranno completate le seguenti attività:




  • Utilizzare il video immagine - in - immagine

    Suggerimento: avviare il video, quindi, scorrendo l'esercitazione, il video passa alla modalità immagine - in - immagine. Chiudere il sommario video per la migliore esperienza con l'immagine in foto. È possibile utilizzare la modalità immagine - in - immagine in modo da poter seguire il video mentre si completano le attività in questa esercitazione. Fare clic sulle date / ore per ciascuna attività da seguire.

    La seguente immagine animata mostra come utilizzare le funzioni di immagine video e indice:

    Come usare il picture-in-picture e i capitoli

    Ottieni aiuto nella community

    Se hai bisogno di aiuto con questa esercitazione, puoi fare una domanda o trovare una risposta nel forum di discussione della comunitàCloud Pak for Data.

    Configurare le finestre del browser

    Per un'esperienza ottimale durante il completamento di questa esercitazione, apri Cloud Pak for Data in una finestra del browser e tieni aperta questa pagina dell'esercitazione in un'altra finestra del browser per passare facilmente tra le due applicazioni. Prendi in considerazione la possibilità di organizzare le due finestre del browser fianco a fianco per renderle più semplici da seguire.

    Esercitazione e IU affiancati

    Suggerimento: se si incontra un tour guidato mentre si completa questa esercitazione nell'interfaccia utente, fare clic su Forse in seguito.

    Torna all'inizio


  • video dell'esercitazione di anteprima Per visualizzare l'anteprima di questa attività, guardare il video a partire dalle 00:00.

    È necessario un progetto per memorizzare l'esperimento di ottimizzazione. Guarda un video per vedere come creare un progetto sandbox e associare un servizio. Quindi, seguire la procedura per verificare di disporre di un progetto esistente o creare un progetto.

    Verificare un progetto esistente o creare un nuovo progetto

    1. Dalla schermata home di watsonx , scorri alla sezione Projects . Se vedi degli eventuali progetti elencati, passa a Associare il servizio Watson Machine Learning.

      Se non vedi alcun progetto, puoi guardare questo video e quindi seguire la procedura per creare un progetto.

      Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.

    2. Fare clic su Crea un progetto sandbox. Quando il progetto viene creato, viene visualizzata la sandbox nella sezione Progetti .

    3. Aprire un progetto esistente o il nuovo progetto sandbox.

    Associa il servizio Watson Machine Learning al progetto

    Utilizzi Watson Machine Learning per ottimizzare il modello di base, quindi attieniti a questa procedura per associare la tua istanza del servizio Watson Machine Learning al tuo progetto.

    1. Nel progetto, fare clic sulla scheda Gestisci .

    2. Fare clic su Servizi & Integrazioni .

    3. Verificare se questo progetto dispone di un servizio Watson Machine Learning associato. Se non esiste alcun servizio associato, attenersi alla seguente procedura:

      1. Fare clic su Associa servizio.

      2. Seleziona la casella accanto alla tua istanza del servizio Watson Machine Learning .

      3. Fare clic su Associa.

      4. Se necessario, fare clic su Annulla per tornare alla pagina Servizi & Integrazioni .

    Per ulteriori informazioni o per guardare un video, consultare Creazione di un progetto e Aggiunta di servizi associati a un progetto.

    Icona Checkpoint Controlla i tuoi progressi

    La seguente immagine mostra la scheda Manage con il servizio associato. È ora possibile aggiungere il notebook di esempio al progetto.

    Scheda Gestisci nel progetto


    Torna all'inizio


  • video dell'esercitazione di anteprima Per visualizzare l'anteprima di questa attività, guardare il video a partire dalle 00:19.

    È possibile verificare il modello ottimizzato in Prompt Lab. Seguire questi passi per verificare il modello ottimizzato:

    1. Selezionare il modello ottimizzato.

      1. Fare clic sull'elenco a discesa del modello e selezionare Visualizza tutti i modelli di fondazione.
      2. Selezionare il modello flan-t5-xl-3b .
      3. Fare clic su Seleziona modello.
    2. Nella pagina Modalità strutturata , immettere Istruzione:

      Summarize customer complaints
      
    3. Fornire gli esempi e l'input di test.

      Input e output di esempio
      Input di esempio Output di esempio
      Ho dimenticato nella mia data iniziale che stavo usando il Capital One e questo debito era nelle loro mani e non è mai stato fatto. Recupero crediti, sotto - prodotto: debito della carta di credito, emissione: intrapresa o minacciata di intraprendere un'azione negativa o legale sotto - emissione
      Sono vittima di un furto di identità e questo debito non mi appartiene. Si prega di consultare il rapporto sul furto di identità e l'affidavit legale. Recupero crediti, dub - prodotto, non so, emissione. tentativi di recupero del debito non dovuto. Il debito sotto - emissione era il risultato di un furto di identità

    4. Nel campo di testo Prova , copia e incolla la seguente richiesta:

      After I reviewed my credit report, I am still seeing information that is reporting on my credit file that is not mine. please help me in getting these items removed from my credit file.
      
    5. Fare clic su Generaed esaminare i risultati.

    6. Fare clic su Salva lavoro> Salva con nome.

    7. Selezionare Modello di prompt.

    8. Per il nome, immettere Base model prompt.

    9. Selezionare Visualizza nel progetto dopo il salvataggio.

    10. Fare clic su Salva.

    Icona Checkpoint Controlla i tuoi progressi

    La seguente immagine mostra i risultati nel Prompt Lab.

    La seguente immagine mostra i risultati nel Prompt Lab.


    Torna all'inizio


  • video dell'esercitazione di anteprima Per visualizzare l'anteprima di questa attività, guardare il video a partire dalle 01:00.

    Devi aggiungere i dati di formazione al tuo progetto. Nella pagina hub della risorsa, è possibile trovare il dataset dei reclami del cliente. Questo dataset include dati fittizi di reclami tipici dei clienti relativi ai report di credito. Attenersi alla seguente procedura per aggiungere il dataset dall'hub di risorse al progetto:

    1. Accedere al dataset Reclami del cliente nella pagina dell'hub della risorsa.
    2. Fare clic su Aggiungi al progetto.
    3. Selezionare il progetto sandbox.
    4. Fare clic su Aggiungi.
    5. Fare clic su Visualizza progetto per visualizzare l'asset nel progetto.

    Icona Checkpoint Controlla i tuoi progressi

    La seguente immagine mostra l'asset di dati aggiunto al progetto. Il passo successivo consiste nel creare l'esperimento di ottimizzazione.

    La seguente immagine mostra l'asset di dati aggiunto al progetto. Il passo successivo è quello di creare l'esperimento di ottimizzazione.


    Torna all'inizio


  • video dell'esercitazione di anteprima Per visualizzare in anteprima questa attività, guardare il video a partire dalle 01:32.

    Ora si è pronti a creare un esperimento di ottimizzazione nel progetto sandbox che utilizza il dataset appena aggiunto al progetto. Attenersi alla seguente procedura per creare un esperimento di ottimizzazione:

    1. Torna alla schermata home di watsonx .

    2. Verificare che il progetto sandbox sia selezionato.

      Seleziona il progetto sandbox

    3. Fai clic su Tune a foundation model with labeled data.

    4. Per il nome, immettere:

      Summarize customer complaints tuned model
      
    5. Per la descrizione, immettere:

      Tuning Studio experiment to tune a foundation model to handle customer complaints.
      
    6. Fare clic su Crea. Viene visualizzato lo Studio di ottimizzazione.

    Icona Checkpoint Controlla i tuoi progressi

    La seguente immagine mostra l'esperimento di ottimizzazione aperto in Tuning Studio. Ora è possibile configurare l'esperimento di ottimizzazione.

    La seguente immagine mostra l'esperimento di ottimizzazione aperto in Tuning Studio. Ora è possibile configurare l'esperimento di ottimizzazione.


    Torna all'inizio


  • video dell'esercitazione di anteprima Per visualizzare l'anteprima di questa attività, guardare il video a partire dalle 01:47.

    In Tuning Studio, è possibile configurare l'esperimento di ottimizzazione. Il modello di base da regolare è completato per te. Attenersi alla seguente procedura per configurare l'esperimento di ottimizzazione:

    1. Per ottimizzare il modello di base, selezionare flan-t5-xl-3b.

    2. Selezionare Testo per il metodo di inizializzazione del prompt. Ci sono due opzioni:

      • Testo: utilizza il testo specificato.
      • Casuale: utilizza valori generati per l'utente come parte dell'esperimento di ottimizzazione.
    3. Per il campo Testo , immettere:

      Summarize the complaint provided into one sentence.
      

      La tabella riportata di seguito mostra un testo di esempio per ciascun tipo di attività:

      titolo
      Tipo di attività Esempio
      Classificazione Classificare se l'opinione di ciascun commento è positiva o negativa
      Generazione Permetti ai dipendenti di lavorare da casa qualche giorno alla settimana
      Riepilogo Riepiloga i punti principali di una trascrizione di una riunione

    4. Selezionare Riepilogo per il tipo di attività che corrisponde più strettamente a quello che si desidera che il modello esegua. Esistono tre tipi di attività:

      • Riepilogo genera un testo che descrive le idee principali espresse in un corpo di testo.
      • Generazione genera testo, ad esempio un'email promozionale.
      • Classificazione prevede le etichette di categoria dalle funzioni. Ad esempio, data una serie di commenti del cliente, è possibile etichettare ogni istruzione come una domanda o un problema. Quando si utilizza l'attività di classificazione, è necessario elencare le etichette di classe che si desidera vengano utilizzate dal modello. Specificare le stesse etichette utilizzate nei dati di training di ottimizzazione.
    5. Selezionare i dati di addestramento dal progetto.

      1. Fare clic su Seleziona da progetto.
      2. Fare clic su Asset dati.
      3. Seleziona il file customer reclami training data.json .
      4. Fai clic su Select asset.
      5. Fare clic su Avvia ottimizzazione.

    Icona Checkpoint Controlla i tuoi progressi

    La seguente immagine mostra l'esperimento di ottimizzazione configurato. Successivamente, esaminare i risultati e distribuire il modello ottimizzato.

    La seguente immagine mostra l'esperimento di ottimizzazione configurato.


    Torna all'inizio


  • video dell'esercitazione di anteprima Per visualizzare in anteprima questa attività, guardare il video a partire dalle 03:17.

    Una volta completata l'esecuzione dell'esperimento, viene visualizzato il modello ottimizzato e il grafico della funzione Perdita. La funzione di perdita misura la differenza tra i risultati previsti e quelli effettivi con ogni esecuzione di addestramento. Attenersi alla seguente procedura per visualizzare il grafico della funzione di perdita e il modello ottimizzato:

    1. Rivedere il grafico della funzione Perdita. Una curva di inclinazione verso il basso indica che il modello sta migliorando nella generazione dell'output previsto.

      Esperimento di ottimizzazione completato

    2. Sotto il grafico, fare clic sul modello ottimizzato Riepiloga reclami cliente .

    3. Scorrere i dettagli del modello.

    4. Fare clic su Distribuisci.

    5. Per il nome, immettere:

      Summarize customer complaints tuned model
      
    6. Per lo Spazio di distribuzione di destinazione, selezionare uno spazio di distribuzione esistente. Se non si dispone di uno spazio di distribuzione esistente, attenersi alla seguente procedura:

      1. Per lo Spazio di distribuzione di destinazione, selezionare Crea un nuovo spazio di distribuzione.

      2. Per il nome dello spazio di distribuzione, immettere:

        Foundation models deployment space
        ```   1. Select a storage service from the list.
        
      3. Selezionare il servizio di machine learning di cui è stato eseguito il provisioning dall'elenco.

      4. Fare clic su Crea.

      5. Fare clic su Chiudi.

      6. Per lo Spazio di distribuzione di destinazione, verifica che sia selezionata l'opzione Spazio di distribuzione dei modelli Foundation .

    7. Selezionare l'opzione Visualizza distribuzione nello spazio di distribuzione dopo la creazione .

    8. Fare clic su Crea.

    9. Nella pagina Distribuzioni , fare clic sulla distribuzione Riepiloga modello ottimizzato per i reclami dei clienti per visualizzare i dettagli.

    Icona Checkpoint Controlla i tuoi progressi

    La seguente immagine mostra la distribuzione nello spazio di distribuzione. Ora è possibile verificare il modello distribuito.

    La seguente immagine mostra la distribuzione nello spazio di distribuzione.


    Torna all'inizio


  • video dell'esercitazione di anteprima Per visualizzare un'anteprima di questa attività, guardare il video a partire dalle 04:00.

    È possibile verificare il modello ottimizzato in Prompt Lab. Seguire questi passi per verificare il modello ottimizzato:

    1. Dalla pagina di distribuzione del modello, fare clic su Apri nel laboratorio prompt, quindi selezionare il progetto sandbox. Viene visualizzato il prompt Lab.

    2. Selezionare il modello ottimizzato.

      1. Fare clic sull'elenco a discesa del modello e selezionare Visualizza tutti i modelli di fondazione.
      2. Selezionare il modello Modello ottimizzato per il riepilogo dei reclami del cliente .
      3. Fare clic su Seleziona modello.
    3. Nella pagina Modalità strutturata , immettere Istruzione: Summarize customer complaints

    4. Nella pagina Modalità strutturata , fornire gli esempi e verificare l'input.

      Input e output di esempio
      Input di esempio Output di esempio
      Ho dimenticato nella mia data iniziale che stavo usando il Capital One e questo debito era nelle loro mani e non è mai stato fatto. Recupero crediti, sotto - prodotto: debito della carta di credito, emissione: intrapresa o minacciata di intraprendere un'azione negativa o legale sotto - emissione
      Sono vittima di un furto di identità e questo debito non mi appartiene. Si prega di consultare il rapporto sul furto di identità e l'affidavit legale. Recupero crediti, dub - prodotto, non so, emissione. tentativi di recupero del debito non dovuto. Il debito sotto - emissione era il risultato di un furto di identità

    5. Nel campo di testo Prova , copia e incolla la seguente richiesta:

      After I reviewed my credit report, I am still seeing information that is reporting on my credit file that is not mine. please help me in getting these items removed from my credit file.
      
    6. Fare clic su Generaed esaminare i risultati.

    Icona Checkpoint Controlla i tuoi progressi

    La seguente immagine mostra i risultati nel Prompt Lab.

    La seguente immagine mostra i risultati nel Prompt Lab.


    Torna all'inizio

Passi successivi

Prova queste altre esercitazioni:

Ulteriori risorse

Argomento principale: Esercitazioni introduttive

Ricerca e risposta AI generativa
Queste risposte sono generate da un modello di lingua di grandi dimensioni in watsonx.ai basato sul contenuto della documentazione del prodotto. Ulteriori informazioni