Utilizza questa esercitazione per informazioni su come utilizzare il Prompt Lab in watsonx.ai. Di solito esistono più modi per sollecitare un foundation model per ottenere un risultato di successo. In Prompt Lab, è possibile sperimentare la richiesta di diversi modelli di base, esplorare i prompt di esempio e salvare e condividere i prompt migliori. Vedere Suggerimenti per il prompt per aiutarvi a eseguire con successo il prompt della maggior parte dei modelli di fondazione che generano testo.
- Servizi richiesti
- studio watsonx.ai
- runtime watsonx.ai
Il flusso di lavoro di base include le seguenti attività:
- Aprire un progetto. I progetti sono dove è possibile collaborare con altri per lavorare con i dati.
- Aprire Prompt Lab. Il Prompt Lab consente di sperimentare diversi modelli di base, esplorare i prompt di esempio e salvare e condividere i prompt migliori.
- Immettere il prompt nell'editor prompt. È possibile immettere le richieste in modalità strutturata e in formato libero.
- Selezionare il modello da utilizzare. È possibile inviare la richiesta a uno qualsiasi dei modelli disponibili in watsonx.ai.
- Salva il tuo lavoro come un asset di progetto. Il salvataggio del proprio lavoro come asset di progetto rende il proprio lavoro disponibile ai collaboratori del progetto corrente.
Leggete come si sollecita un foundation model
I modelli di fondazione sono modelli di IA molto grandi. Hanno miliardi di parametri e sono addestrati su terabyte di dati. I modelli di base possono eseguire una varietà di attività, tra cui la generazione di testo, codice o immagine, la classificazione, la conversazione e altro ancora. I modelli di linguaggio di grandi dimensioni sono un sottoinsieme di modelli di base utilizzati per attività relative al testo e al codice. In IBM watsonx.ai, esiste una raccolta di modelli di linguaggio di grandi dimensioni distribuiti che puoi utilizzare, nonché strumenti per sperimentare con i prompt.
Guardate un video su come sollecitare un foundation model
Guardate questo video per vedere un'anteprima dei passaggi di questa esercitazione. Potrebbero esserci lievi differenze nell'interfaccia utente mostrata nel video. Il video è destinato ad essere un compagno del tutorial scritto.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Provate un'esercitazione per richiedere un foundation model
In questa esercitazione, verranno completate le seguenti attività:
- Attività 1: apertura di un progetto
- Attività 2: utilizzare il Prompt Lab in modalità Freeform
- Attività 3: utilizzare il laboratorio prompt in modalità strutturata
- Attività 4: utilizzare i prompt di esempio
- Compito 5: scegliere un foundation model
- Attività 6: Regolazione dei parametri del modello
- Attività 7: salvare il lavoro
Suggerimenti per completare questa esercitazione
Di seguito sono riportati alcuni suggerimenti per completare correttamente questa esercitazione.
Utilizzare il video immagine - in - immagine
La seguente immagine animata mostra come utilizzare le funzioni di immagine video e indice:
Ottieni aiuto nella community
Se si ha bisogno di aiuto con questa esercitazione, è possibile porre una domanda o trovare una risposta nella sezione 'watsonx Forum di discussione della comunità.
Configurare le finestre del browser
Per un'esperienza ottimale durante il completamento di questa esercitazione, apri Cloud Pak for Data in una finestra del browser e tieni aperta questa pagina dell'esercitazione in un'altra finestra del browser per passare facilmente tra le due applicazioni. Prendi in considerazione la possibilità di organizzare le due finestre del browser fianco a fianco per renderle più semplici da seguire.
Attività 1: apertura di un progetto
È necessario un progetto per memorizzare gli asset di Prompt Lab.
Guarda un video per vedere come creare un progetto sandbox e associare un servizio. Quindi seguire la procedura per verificare di disporre di un progetto esistente o creare un progetto sandbox.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Dalla schermata home di watsonx , scorri alla sezione Projects . Se viene visualizzato un elenco di progetti, passare all' Attività 2. Se non viene visualizzato alcun progetto, attenersi alla seguente procedura per creare un progetto.
Fare clic su Crea un progetto sandbox. Quando il progetto viene creato, verrà visualizzato il progetto sandbox nella sezione Progetti .
Per ulteriori informazioni o per vedere un video, vedere Creazione di un progetto.
Controllare i progressi
La seguente immagine mostra la schermata iniziale con la sandbox elencata nella sezione Progetti. Si è ora pronti ad aprire il Prompt Lab.
Attività 2: utilizzare il Prompt Lab in modalità Freeform
Per avere un'anteprima di questo compito, guardate il video a partire da 00:03.
È possibile immettere il proprio testo di prompt in un editor di testo semplice in formato libero, quindi fare clic su Genera per inviare il prompt al modello. Attenersi alla seguente procedura per utilizzare il Prompt Lab in modalità Freeform:
Dalla schermata iniziale, fare clic su Apri in Prompt Lab .
Selezionare ciascuna casella di controllo per accettare i riconoscimenti, quindi fare clic su Ignora tour.
Fare clic sulla scheda Forma libera per richiedere un foundation model in modalità Forma libera.
Fare clic su Cambia modalità.
Copiare e incollare il testo seguente nel campo di testo, quindi fare clic su Genera per visualizzare l'output per Nome classe: Problema.
Classify this customer message into one of two classes: question, problem.
Class name: Question
Description: The customer is asking a technical question or a how-to question about our products or services.
Class name: Problem
Description: The customer is describing a problem they are having. They might say they are trying something, but it's not working. They might say they are getting an error or unexpected results.
Message: I'm having trouble registering for a new account.
Class name:
Controllare i progressi
Le seguenti immagini mostrano l'emissione generata per il prompt in modalità Freeform. Ora siete pronti a richiedere un foundation model in modalità strutturata.
Attività 3: utilizzare il Prompt Lab in modalità strutturata
Per vedere un'anteprima di questo compito, guardate il video a partire da 00:19.
È possibile immettere la richiesta in un formato strutturato. Il formato strutturato è utile per la richiesta di poche istantanee, quando la richiesta contiene più esempi. Attenersi alla seguente procedura per utilizzare il Prompt Lab in modalità strutturata:
Fare clic sulla pagina Strutturato .
Fare clic su Cambia modalità.
Nel campo Istruzione , copiare e incollare il seguente testo:
Given a message submitted to a customer-support chatbot for a cloud software company, classify the customer's message as either a question or a problem description so the chat can be routed to the correct support team.Nel campo Impostazione , copiare e incollare il testo seguente in ciascuna colonna:
Valori per il campo Impostazione Immissione Output Quando provo ad accedere, ricevo un errore. Problema Dove posso trovare i prezzi del piano? Domanda Qual è la differenza tra prova e paygo? Domanda La pagina di registrazione è stata arrestata in modo anomalo e ora non posso creare un nuovo account. Problema Quali regioni sono sostenute? Domanda Non riesco a ricordare la mia password. Problema Nel campo Prova , copia e incolla il testo seguente:
I'm having trouble registering for a new account.Fare clic su Genera per visualizzare l'emissione Problema.
Controllare i progressi
Le seguenti immagini mostrano l'output generato per la richiesta in modo strutturato. Ora si è pronti a provare i prompt di esempio.
Attività 4: utilizzare i prompt di esempio
Per avere un'anteprima di questo compito, guardate il video a partire da 00:33. Se non sei sicuro di come iniziare, i prompt di esempio possono iniziare. Attenersi alla seguente procedura per utilizzare i prompt di esempio:
- Aprire l'icona dei prompt di esempio "
per visualizzare l'elenco. - Scorrere l'elenco e fare clic sul prompt di esempio Generazione email di marketing .
- Visualizza il modello selezionato. Quando si carica un prompt di esempio, viene selezionato un modello appropriato.
- Aprire il pannello Parametri del modello '
. I parametri dei criteri di decodifica e di arresto appropriati vengono impostati automaticamente. - Fare clic su Genera per inoltrare il messaggio di esempio al modello e visualizzare l'output email di esempio.
Controllare i progressi
La seguente immagine mostra l'output generato da un prompt di esempio. Ora è possibile personalizzare l'output del prompt di esempio selezionando un modello e parametri diversi.
Compito 5: scegliere un foundation model
Per vedere un'anteprima di questo compito, guardate il video a partire da 01:04. È possibile inoltrare la stessa richiesta a un modello diverso. Se hai bisogno di generare l'output in un output strutturato specifico, come JSON, HTML o XML, puoi farlo scegliendo un modello che sia stato ottimizzato per la generazione di output strutturato, utilizzando pochi esempi nel tuo prompt o ottimizzando un modello. Seguire questi passaggi per scegliere un foundation model diverso:
- Fare clic su Modello> Visualizza tutti i modelli di fondazione.
- Fare clic su un modello per ulteriori informazioni su un modello e visualizzare i dettagli come l'architettura del modello, i dati di pre - addestramento, le informazioni di ottimizzazione e le prestazioni rispetto ai benchmark.
- Fare clic su Indietro per tornare all'elenco di modelli.
- Selezionare il foundation model flan-t5-xxl-11b o mt0-xxl-13b e fare clic su Seleziona modello.
- Passare con il mouse sulla colonna di output del modello e selezionare l'icona X per eliminare l'output precedente.
- Fare clic sullo stesso prompt di esempio, Generazione email di marketing, dall'elenco.
- Fare clic su Genera per creare l'output utilizzando il nuovo modello.
Controllare i progressi
La seguente immagine mostra l'output generato utilizzando un modello diverso. È ora possibile modificare i parametri del modello.
Attività 6: Regolazione dei parametri del modello
Per vedere un'anteprima di questo compito, guardate il video a partire da 01:28.
È possibile provare a modificare i parametri dei criteri di decodifica o di arresto. Seguire questa procedura per regolare i parametri del modello.
La seguente tabella definisce i parametri del modello disponibili per il foundation model flan-t5-xxl-11b.
| Parametri del modello | Significato |
|---|---|
| Decodifica | Impostare la decodifica su Greedy per selezionare sempre le parole con la probabilità più alta. Impostare la decodifica su Campionamento per personalizzare la variabilità della selezione delle parole. |
| Temperatura | Controlla la creatività del testo generato. Valori più elevati porteranno a output generati in modo più casuale. |
| Primi P (campionamento del nucleo) | Impostare su < 1.0 per utilizzare solo la serie più piccola di token più probabili con probabilità che si aggiungono a top_p o superiore. |
| Primi K | Impostare il numero di token del vocabolario con probabilità più elevata da conservare per i primi k - filtri. Valori più bassi rendono meno probabile che il modello si discosti dall'argomento. |
| Seed casuale | Controlla il campionamento casuale dei token generati quando il campionamento è abilitato. L'impostazione della verifica casuale sullo stesso numero per ogni generazione garantisce la ripetibilità sperimentale. |
| Penalità di ripetizione | Imposta una penalità di ripetizione per contrastare la tendenza del modello a ripetere il testo del prompt alla lettera o a rimanere bloccato in un loop. 1.00 indica nessuna penalità. |
| Interrompi sequenze | Impostare le sequenze di arresto su una o più stringhe per interrompere la generazione del testo se o quando vengono prodotte come parte dell'output. |
| Numero minimo token | Definire il numero minimo di token da generare. Le sequenze di arresto rilevate prima del numero minimo di token generati vengono ignorate. |
| Numero massimo token | Definire il numero massimo di token da creare. |
- Modificare il parametro Top K in
10per rendere il modello meno probabile che si disattivare l'argomento. - Fare clic su X per eliminare l'output del modello precedente.
- Fare clic sulla stessa richiesta di esempio dall'elenco.
- Fare clic su Genera per generare l'emissione utilizzando i nuovi parametri del modello.
- Fare clic sull'icona della cronologia della sessione "
dopo aver inviato più richieste per visualizzare la cronologia della sessione. - Fare clic su una qualsiasi voce per gestire una richiesta precedente, la specifica del modello e le impostazioni dei parametri, quindi fare clic su Ripristina.
- Modificare il prompt, modificare il modello o modificare i parametri dei criteri di decodifica e di arresto.
- Fare clic su Genera per creare l'output utilizzando le informazioni aggiornate.
Controllare i progressi
La seguente immagine mostra l'emissione generata utilizzando parametri di modello diversi. È ora possibile salvare il lavoro.
Attività 7: salvare il lavoro
Per vedere un'anteprima di questo compito, guardate il video a partire da 02:15.
È possibile salvare il lavoro in tre formati:
| Tipo di asset | Descrizione |
|---|---|
| Modello prompt | Salvare solo il prompt corrente, senza la relativa cronologia. |
| Sessione prompt | Salvare la cronologia e i dati dalla sessione corrente. |
| Blocco appunti | Salvare il prompt corrente come notebook. |
Per salvare il proprio lavoro, attenersi alla seguente procedura:
- Fare clic su Salva lavoro> Salva con nome.
- Selezionare Modello di prompt.
- Per il nome, immettere
Sample prompts. - Selezionare l'opzione Visualizza nel progetto dopo il salvataggio .
- Fare clic su Salva.
- Sulla scheda Asset del progetto, fare clic sull'asset Prompt di esempio per caricare tale prompt in Prompt Lab e tornare al lavoro.
- Fare clic sui prompt salvati '
per vedere i prompt salvati dal progetto sandbox.
Controllare i progressi
La seguente immagine mostra la scheda Asset del progetto con l'asset del modello di prompt:
L'immagine seguente mostra il prompt salvato nel Prompt Lab:
Passi successivi
Guarda questo video che mostra la modalità chat nel Prompt Lab.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Ora si è pronti a:
- Utilizzare Prompt Lab per richiedere modelli di base e salvare il proprio lavoro in un progetto.
- Provate l'esercitazione Prompt di un foundation model con il modello di generazione aumentata dal recupero
- Prova le altre esercitazioni del caso di utilizzowatsonx.ai.
Ulteriori risorse
Visualizza altri video.
Trova dataset di esempio, progetti, modelli, prompt e notebook nell'hub di risorse per ottenere un'esperienza pratica:
notebook
che potete aggiungere al vostro progetto per iniziare ad analizzare i dati e costruire i modelli.
Progetti che si possono importare contenenti quaderni, set di dati, prompt e altre risorse.
Set di dati che si possono aggiungere al progetto per perfezionare, analizzare e costruire modelli.
I prompt che si possono usare nel Prompt Lab per richiedere un foundation model.
Modelli di fondazione che si possono utilizzare nel Prompt Lab.
Argomento principale: Esercitazioni introduttive