Introduzione rapida: richiedi un modello di base con il modello di creazione incrementato di recupero
Utilizza questa esercitazione per informazioni su come utilizzare i modelli di base in IBM watsonx.ai per generare un output accurato basato sulle informazioni in una knowledge base applicando il pattern di generazione incrementato dal richiamo. I modelli di base possono generare un output che è di fatto inaccurato per una varietà di ragioni. Un modo per migliorare la precisione dell'output generato è fornire i fatti necessari come contesto nel testo del prompt. Questa esercitazione utilizza un notebook di esempio che utilizza il metodo del modello di generazione incrementato di richiamo per migliorare la precisione dell'output generato.
- Servizi richiesti
- Watson Studio
- Watson Machine Learning
Il flusso di lavoro di base include le seguenti attività:
- Aprire un progetto. I progetti sono dove è possibile collaborare con altri per lavorare con i dati.
- Aggiungere un notebook al progetto. È possibile creare un proprio notebook o aggiungere un notebook di esempio al progetto.
- Aggiungere e modificare il codice, quindi eseguire il notebook.
- Esaminare l'output del notebook.
Informazioni sul pattern di generazione aumentata del richiamo
È possibile scalare la tecnica di inclusione del contesto nei prompt utilizzando le informazioni in una knowledge base. Il modello di generazione aumentata di richiamo comprende tre fasi di base:
- Ricerca contenuto pertinente nella knowledge base
- Inserire il contenuto più pertinente nel prompt come contesto
- Invia il testo del prompt combinato al modello per generare l'output
Ulteriori informazioni sul pattern di generazione aumentata del richiamo
Guarda un video sull'utilizzo del pattern di generazione aumentata di recupero
Guarda questo video per visualizzare un'anteprima dei passi in questa esercitazione. Potrebbero esserci lievi differenze nell'interfaccia utente mostrata nel video. Il video è destinato ad essere un compagno del tutorial scritto.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Prova un'esercitazione per richiedere un modello di base con il pattern di creazione incrementato dal richiamo
In questa esercitazione, verranno completate le seguenti attività:
- Attività 1: apertura di un progetto
- Attività 2: aggiungere un notebook di esempio al progetto
- Attività 3: modifica del notebook
- Attività 4: eseguire il notebook ed esaminare l'output
Suggerimenti per completare questa esercitazione
Di seguito sono riportati alcuni suggerimenti per completare correttamente questa esercitazione.
Utilizzare il video immagine - in - immagine
La seguente immagine animata mostra come utilizzare le funzioni di immagine video e indice:
Ottieni aiuto nella community
Se hai bisogno di aiuto con questa esercitazione, puoi fare una domanda o trovare una risposta nel forum di discussione della comunitàwatsonx.
Configurare le finestre del browser
Per un'esperienza ottimale durante il completamento di questa esercitazione, apri Cloud Pak for Data in una finestra del browser e tieni aperta questa pagina dell'esercitazione in un'altra finestra del browser per passare facilmente tra le due applicazioni. Prendi in considerazione la possibilità di organizzare le due finestre del browser fianco a fianco per renderle più semplici da seguire.
Attività 1: apertura di un progetto
È necessario un progetto per memorizzare il notebook di esempio.
Guarda un video per vedere come creare un progetto sandbox e associare un servizio. Quindi seguire la procedura per verificare di disporre di un progetto esistente o creare un progetto sandbox.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Seguire la procedura per verificare di disporre di un progetto esistente o per creare un progetto.
Dalla schermata home di watsonx , scorri alla sezione Projects . Se vedi elencati dei progetti, vai a Associare il servizio Watson Machine Learning. Se non viene visualizzato alcun progetto, attenersi alla seguente procedura per creare un progetto.
Fare clic su Crea un progetto sandbox. Quando il progetto viene creato, verrà visualizzata la sandbox nella sezione Progetti .
Aprire un progetto esistente o il nuovo progetto sandbox.
Associa il servizio Watson Machine Learning al progetto
Utilizzerai Watson Machine Learning per richiedere il modello di base, quindi segui questa procedura per associare la tua istanza del servizio Watson Machine Learning al tuo progetto.
Nel progetto, fare clic sulla scheda Gestisci .
Fare clic su Servizi & Integrazioni .
Verificare se questo progetto dispone di un servizio Watson Machine Learning associato. Se non esiste alcun servizio associato, attenersi alla seguente procedura:
Fare clic su Associa servizio.
Seleziona la casella accanto alla tua istanza del servizio Watson Machine Learning .
Fare clic su Associa.
Se necessario, fare clic su Annulla per tornare alla pagina Servizi & Integrazioni .
Per ulteriori informazioni o per guardare un video, consultare Creazione di un progetto.
Controlla i tuoi progressi
La seguente immagine mostra la scheda Manage con il servizio associato. È ora possibile aggiungere il notebook di esempio al progetto.
Attività 2: aggiungere il notebook di esempio al progetto
Il notebook di esempio utilizza una piccola knowledge base e un componente di ricerca semplice per dimostrare il modello di base. Lo scenario utilizzato in questo notebook è per una società che vende semi per piantare in un giardino. Il sito web per un catalogo di semi online ha molti articoli per aiutare i clienti a pianificare il loro giardino e infine selezionare quali semi acquistare. Il nuovo widge viene aggiunto al sito per rispondere alle domande dei clienti sui contenuti degli articoli.
Guarda questo video per vedere come aggiungere un notebook di esempio ad un progetto, quindi segui i passaggi per aggiungere il notebook al tuo progetto.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Accedere al quaderno RAG: una semplice introduzione nell'hub Risorse.
Fare clic su Aggiungi al progetto.
Selezionare il progetto dall'elenco e fare clic su Aggiungi.
Immettere il nome e la descrizione del notebook (facoltativo).
Selezionare un ambiente di runtime per questo notebook.
Fare clic su Crea. Attendere il caricamento dell'editor del notebook.
Dal menu, fare clic su Kernel> Riavvia & Cancella output, quindi confermare facendo clic su Riavvia e Cancella tutti gli output per cancellare l'output dall'ultima esecuzione salvata.
Per ulteriori informazioni sui servizi associati, consultare Aggiunta di servizi associati.
Controlla i tuoi progressi
La seguente immagine mostra il blocco note aperto in modalità di modifica. Ora è possibile impostare i prerequisiti per l'esecuzione del notebook.
Attività 3: modifica del notebook
Per visualizzare un'anteprima di questa attività, guardare il video a partire dalle 00:57.
Prima di poter eseguire il notebook, è necessario configurare l'ambiente. Attenersi alla seguente procedura per verificare i prerequisiti del notebook:
Scorri fino alla sezione Per IBM watsonx on IBM Cloud nel blocco note per vedere i due prerequisiti per eseguire il blocco note.
Nella sezione Crea una chiave API IBM Cloud , devi passare le tue credenziali alla API Watson Machine Learning utilizzando una chiave API. Se non disponi già di una chiave API salvata, attieniti a questa procedura per creare una chiave API.
Accedi alla pagina delle chiavi API della consoleIBM Cloud.
Fai clic su Crea una chiave API IBM Cloud. Se hai delle chiavi API esistenti, il pulsante può essere etichettato come Crea.
Immettere un nome e una descrizione.
Fare clic su Crea.
Copia la chiave API.
Scarica la chiave API per un utilizzo futuro.
Esamina la sezione Associa un'istanza del servizio Watson Machine Learning al progetto corrente . Questo prerequisito è stato completato in Attività 1.
Scorri fino alla sezione Esegui la cella per fornire la chiave API IBM Cloud :
Fare clic su Esegui
per eseguire la cella.
Incollare la chiave API e premere
Enter
.
In Esegui la cella per impostare le credenziali per IBM watsonx su IBM Cloud, fai clic su Esegui icona
per eseguire e impostare le credenziali.
Controlla i tuoi progressi
Le immagini seguenti mostrano il notebook con i prerequisiti completati. Ora è possibile eseguire il notebook ed esaminare l'output.
Attività 4: esecuzione del notebook e revisione dell'output
Per visualizzare in anteprima questa attività, guardare il video a partire dalle 01:03.
Il notebook di esempio include informazioni sulla generazione aumentata del richiamo e su come è possibile adattare il notebook per il caso di utilizzo specifico. Seguire questa procedura per eseguire il notebook ed esaminare l'output:
Scorrere la sezione Passo 2: creare una Knowledge Base nel blocco note:
Fare clic su Esegui
per ognuna delle tre celle in tale sezione.
Rivedere l'output per le tre celle nella sezione. Il codice in queste celle imposta la knowledge base come una raccolta di due articoli. Questi articoli sono stati scritti come esempi per watsonx.ai, non sono veri articoli pubblicati altrove. Gli autori e le date di pubblicazione sono fittizi.
Scorrere la sezione Passo 3: creazione di un componente di ricerca semplice nel notebook:
Fare clic su Esegui
per ognuna delle due celle in tale sezione.
Esaminare l'emissione per le due celle nella sezione. Il codice in queste celle crea un componente di ricerca semplice. Molti articoli che discutono la generazione aumentata di recupero presuppongono che il componente di recupero utilizzi un database vettoriale. Tuttavia, per eseguire il modello di generazione aumentata del richiamo generale, qualsiasi metodo di ricerca e richiamo che possa restituire in modo affidabile il contenuto pertinente dalla knowledge base lo farà. In questo blocco note, il componente di ricerca è una funzione di ricerca banale che restituisce l'indice di uno o dell'altro dei due articoli nella knowledge base, basato su una semplice corrispondenza di espressione regolare.
Scorrere la sezione Passo 4: testo prompt qualifica nel blocco note:
Fare clic su Esegui
per ognuna delle due celle in tale sezione.
Esaminare l'emissione per le due celle nella sezione. Il codice in queste celle consente di creare il testo del prompt. Non c'è nessuno, la richiesta migliore per una determinata attività. Tuttavia, i modelli che sono stati ottimizzati, come bigscience/mt0-xxl-13b, google/flan-t5-xxl-11bo google/flan-ul2-20b, possono generalmente eseguire questa attività con un prompt di esempio. I metodi di decodifica conservativi tendono verso risposte succinte. Nel prompt, notare due segnaposto di stringa (contrassegnati con %s) che verranno sostituiti al momento della creazione:
- Il primo segnaposto sarà sostituito con il testo dell'articolo pertinente della knowledge base
- Il secondo segnaposto verrà sostituito con la domanda a cui rispondere
Scorri al Passo 5: genera l'output utilizzando la sezione Python library dei modelli di base nel notebook:
Fare clic su Esegui
per ognuna delle tre celle in tale sezione.
Rivedere l'output per le tre celle nella sezione. Il codice in queste celle genera output utilizzando la libreria Python . Puoi richiedere i modelli di base in watsonx.ai in modo programmatico utilizzando la libreria Python . Per ulteriori informazioni sulla libreria, consultare i seguenti argomenti:
Scorri fino alla sezione Passo 6: esegui il pull di tutti insieme per eseguire la generazione aumentata del richiamo nel notebook:
Fare clic su Esegui
per ognuna delle due celle in tale sezione. Questo codice estrae tutto insieme per eseguire la generazione aumentata di recupero.
Rivedere l'output per la prima cella nella sezione. Il codice in questa cella imposta gli elementi di input utente.
Per la seconda cella della sezione, digitare una domanda relativa ai pomodori o ai cetrioli per vedere la risposta e la fonte. Ad esempio,
Do I use mulch with tomatoes?
.Esamina la risposta alla tua domanda.
Controlla i tuoi progressi
La seguente immagine mostra il notebook completato.
Passi successivi
Guarda il video a partire dalle 02:55 per informazioni sulle considerazioni per l'applicazione del pattern di generazione aumentata del richiamo a una soluzione di produzione.
- Provare l'esercitazione Richiedi un modello base utilizzando Prompt Lab.
- Prova le altre esercitazioni del caso di utilizzowatsonx.ai.
Ulteriori risorse
Visualizza altri video.
Trova dataset di esempio, progetti, modelli, prompt e notebook nell'hub di risorse per ottenere un'esperienza pratica:
Notebooks che è possibile aggiungere al progetto per iniziare ad analizzare i dati e a creare modelli.
Progetti che è possibile importare contenenti notebook, dataset, prompt e altri asset.
Set di dati che è possibile aggiungere al proprio progetto per perfezionare, analizzare e creare modelli.
Richiedi che è possibile utilizzare in Prompt Lab per richiedere un modello di base.
Foundation models che è possibile utilizzare in Prompt Lab.
Argomento principale: Esercitazioni introduttive