Utilizza questa esercitazione per informazioni su come utilizzare i modelli di base in IBM watsonx.ai per generare un output accurato basato sulle informazioni in una knowledge base applicando il pattern di generazione incrementato dal richiamo. I modelli di base possono generare un output che è di fatto inaccurato per una varietà di ragioni. Un modo per migliorare la precisione dell'output generato è fornire i fatti necessari come contesto nel testo del prompt. Questa esercitazione utilizza un notebook di esempio che utilizza il metodo del modello di generazione incrementato di richiamo per migliorare la precisione dell'output generato.
- Servizi richiesti
- studio watsonx.ai
- runtime watsonx.ai
Il flusso di lavoro di base include le seguenti attività:
- Aprire un progetto. I progetti sono dove è possibile collaborare con altri per lavorare con i dati.
- Aggiungere un notebook al progetto. È possibile creare il proprio taccuino o aggiungere un taccuino di esempio al proprio progetto.
- Aggiungere e modificare il codice, quindi eseguire il notebook.
- Esaminare l'output del notebook.
Informazioni sul pattern di generazione aumentata del richiamo
È possibile scalare la tecnica di inclusione del contesto nei prompt utilizzando le informazioni in una knowledge base. Il modello di generazione aumentata di richiamo comprende tre fasi di base:
- Ricerca contenuto pertinente nella knowledge base
- Inserire il contenuto più pertinente nel prompt come contesto
- Invia il testo del prompt combinato al modello per generare l'output
Ulteriori informazioni sul pattern di generazione aumentata del richiamo
Guarda un video sull'utilizzo del pattern di generazione aumentata di recupero
Guardate questo video per vedere un'anteprima dei passaggi di questa esercitazione. Potrebbero esserci lievi differenze nell'interfaccia utente mostrata nel video. Il video è destinato ad essere un compagno del tutorial scritto.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Provate un'esercitazione per richiedere un foundation model con il modello di generazione aumentata dal reperimento
In questa esercitazione, verranno completate le seguenti attività:
- Attività 1: apertura di un progetto
- Attività 2: aggiungere un notebook di esempio al progetto
- Attività 3: modifica del notebook
- Attività 4: eseguire il notebook ed esaminare l'output
Suggerimenti per completare questa esercitazione
Di seguito sono riportati alcuni suggerimenti per completare correttamente questa esercitazione.
Utilizzare il video immagine - in - immagine
La seguente immagine animata mostra come utilizzare le funzioni di immagine video e indice:
Ottieni aiuto nella community
Se si ha bisogno di aiuto con questa esercitazione, si può porre una domanda o trovare una risposta nella sezione 'watsonx Forum di discussione della comunità.
Configurare le finestre del browser
Per un'esperienza ottimale durante il completamento di questa esercitazione, apri Cloud Pak for Data in una finestra del browser e tieni aperta questa pagina dell'esercitazione in un'altra finestra del browser per passare facilmente tra le due applicazioni. Prendi in considerazione la possibilità di organizzare le due finestre del browser fianco a fianco per renderle più semplici da seguire.
Attività 1: apertura di un progetto
È necessario un progetto per memorizzare il notebook di esempio.
Guarda un video per vedere come creare un progetto sandbox e associare un servizio. Quindi seguire la procedura per verificare di disporre di un progetto esistente o creare un progetto sandbox.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Seguire la procedura per verificare di disporre di un progetto esistente o per creare un progetto.
Dalla schermata home di watsonx , scorri alla sezione Projects . Se vengono elencati dei progetti, passare all'associazione del servizio watsonx.ai Runtime. Se non viene visualizzato alcun progetto, attenersi alla seguente procedura per creare un progetto.
Fare clic su Crea un progetto sandbox. Quando il progetto viene creato, verrà visualizzata la sandbox nella sezione Progetti .
Aprire un progetto esistente o il nuovo progetto sandbox.
Associare il servizio watsonx.ai Runtime al progetto
Si utilizzerà watsonx.ai Runtime per richiedere il foundation model, quindi seguire questi passaggi per associare l'istanza del servizio watsonx.ai Runtime al progetto.
Nel progetto, fare clic sulla scheda Gestisci .
Fare clic su Servizi & Integrazioni .
Controlla se questo progetto ha un servizio watsonx.ai Runtime associato. Se non esiste alcun servizio associato, attenersi alla seguente procedura:
Fare clic su Associa servizio.
Selezionare la casella accanto all'istanza del servizio watsonx.ai Runtime.
Fare clic su Associa.
Se necessario, fare clic su Annulla per tornare alla pagina Servizi & Integrazioni .
Per ulteriori informazioni o per vedere un video, vedere Creazione di un progetto.
Controllare i progressi
La seguente immagine mostra la scheda Manage con il servizio associato. È ora possibile aggiungere il notebook di esempio al progetto.
Attività 2: aggiungere il notebook di esempio al progetto
Il notebook di esempio utilizza una piccola knowledge base e un componente di ricerca semplice per dimostrare il modello di base. Lo scenario utilizzato in questo notebook è per una società che vende semi per piantare in un giardino. Il sito web per un catalogo di semi online ha molti articoli per aiutare i clienti a pianificare il loro giardino e infine selezionare quali semi acquistare. Il nuovo widge viene aggiunto al sito per rispondere alle domande dei clienti sui contenuti degli articoli.
Guarda questo video per vedere come aggiungere un notebook di esempio ad un progetto, quindi segui i passaggi per aggiungere il notebook al tuo progetto.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Accedere al quaderno RAG: una semplice introduzione nell'hub delle risorse.
Fare clic su Aggiungi al progetto.
Selezionare il progetto dall'elenco e fare clic su Aggiungi.
Immettere il nome e la descrizione del notebook (facoltativo).
Selezionare un ambiente di runtime per questo notebook.
Fare clic su Crea. Attendere il caricamento dell'editor del notebook.
Dal menu, fare clic su Kernel> Riavvia & Cancella output, quindi confermare facendo clic su Riavvia e Cancella tutti gli output per cancellare l'output dall'ultima esecuzione salvata.
Per ulteriori informazioni sui servizi associati, vedere Aggiunta di servizi associati.
Controllare i progressi
La seguente immagine mostra il blocco note aperto in modalità di modifica. Ora è possibile impostare i prerequisiti per l'esecuzione del notebook.
Attività 3: modifica del notebook
Per vedere un'anteprima di questo compito, guardate il video a partire da 00:57.
Prima di poter eseguire il notebook, è necessario configurare l'ambiente. Attenersi alla seguente procedura per verificare i prerequisiti del notebook:
Scorri fino alla sezione Per IBM watsonx on IBM Cloud nel blocco note per vedere i due prerequisiti per eseguire il blocco note.
Nella sezione Crea una chiave API IBM Cloud, è necessario passare le proprie credenziali all'API watsonx.ai Runtime utilizzando una chiave API. Se non disponi già di una chiave API salvata, attieniti a questa procedura per creare una chiave API.
Accedere alla pagina delle chiavi API della consoleIBM Cloud.
Fai clic su Crea una chiave API IBM Cloud. Se hai delle chiavi API esistenti, il pulsante può essere etichettato come Crea.
Immettere un nome e una descrizione.
Fare clic su Crea.
Copia la chiave API.
Scarica la chiave API per un utilizzo futuro.
Rivedere la sezione Associare un'istanza del servizio watsonx.ai Runtime al progetto corrente. Questo prerequisito è stato completato in Attività 1.
Scorri fino alla sezione Esegui la cella per fornire la chiave API IBM Cloud :
Fare clic sull'icona Esegui ' per eseguire la cella.
Incollare la chiave API e premere
Enter
.
In Esegui la cella per impostare le credenziali per IBM watsonx su IBM Cloud, fare clic sull'icona Esegui ' per eseguire la cella e impostare le credenziali.
Controllare i progressi
Le immagini seguenti mostrano il notebook con i prerequisiti completati. Ora è possibile eseguire il notebook ed esaminare l'output.
Attività 4: esecuzione del notebook e revisione dell'output
Per avere un'anteprima di questo compito, guardate il video a partire da 01:03.
Il notebook di esempio include informazioni sulla generazione aumentata del richiamo e su come è possibile adattare il notebook per il caso di utilizzo specifico. Seguire questa procedura per eseguire il notebook ed esaminare l'output:
Scorrere la sezione Passo 2: creare una Knowledge Base nel blocco note:
Fate clic sull'icona Esegui ' per ciascuna delle tre celle della sezione.
Rivedere l'output per le tre celle nella sezione. Il codice in queste celle imposta la knowledge base come una raccolta di due articoli. Questi articoli sono stati scritti come esempi per watsonx.ai, non sono veri articoli pubblicati altrove. Gli autori e le date di pubblicazione sono fittizi.
Scorrere la sezione Passo 3: creazione di un componente di ricerca semplice nel notebook:
Fate clic sull'icona Esegui ' per ciascuna delle due celle della sezione.
Esaminare l'emissione per le due celle nella sezione. Il codice in queste celle crea un componente di ricerca semplice. Molti articoli che discutono la generazione aumentata di recupero presuppongono che il componente di recupero utilizzi un database vettoriale. Tuttavia, per eseguire il modello di generazione aumentata del richiamo generale, qualsiasi metodo di ricerca e richiamo che possa restituire in modo affidabile il contenuto pertinente dalla knowledge base lo farà. In questo blocco note, il componente di ricerca è una funzione di ricerca banale che restituisce l'indice di uno o dell'altro dei due articoli nella knowledge base, basato su una semplice corrispondenza di espressione regolare.
Scorrere la sezione Passo 4: testo prompt qualifica nel blocco note:
Fate clic sull'icona Esegui ' per ciascuna delle due celle della sezione.
Esaminare l'emissione per le due celle nella sezione. Il codice in queste celle consente di creare il testo del prompt. Non c'è nessuno, la richiesta migliore per una determinata attività. Tuttavia, i modelli che sono stati ottimizzati, come bigscience/mt0-xxl-13b, google/flan-t5-xxl-11bo google/flan-ul2-20b, possono generalmente eseguire questa attività con un prompt di esempio. I metodi di decodifica conservativi tendono verso risposte succinte. Nel prompt, notare due segnaposto di stringa (contrassegnati con %s) che verranno sostituiti al momento della creazione:
- Il primo segnaposto sarà sostituito con il testo dell'articolo pertinente della knowledge base
- Il secondo segnaposto verrà sostituito con la domanda a cui rispondere
Scorri al Passo 5: genera l'output utilizzando la sezione Python library dei modelli di base nel notebook:
Fate clic sull'icona Esegui ' per ciascuna delle tre celle della sezione.
Rivedere l'output per le tre celle nella sezione. Il codice in queste celle genera output utilizzando la libreria Python . Puoi richiedere i modelli di base in watsonx.ai in modo programmatico utilizzando la libreria Python . Per ulteriori informazioni sulla libreria, consultare i seguenti argomenti:
Scorri fino alla sezione Passo 6: esegui il pull di tutti insieme per eseguire la generazione aumentata del richiamo nel notebook:
Fate clic sull'icona Esegui ' per ciascuna delle due celle della sezione. Questo codice estrae tutto insieme per eseguire la generazione aumentata di recupero.
Rivedere l'output per la prima cella nella sezione. Il codice in questa cella imposta gli elementi di input utente.
Per la seconda cella della sezione, digitare una domanda relativa ai pomodori o ai cetrioli per vedere la risposta e la fonte. Ad esempio,
Do I use mulch with tomatoes?
.Esamina la risposta alla tua domanda.
Controllare i progressi
La seguente immagine mostra il notebook completato.
Passi successivi
- Guardate il video a partire da 02:55 per conoscere le considerazioni da fare per applicare il modello di generazione con recupero e incremento in una soluzione di produzione.
- Provate l'esercitazione Prompt di un foundation model utilizzando Prompt Lab.
- Prova le altre esercitazioni del caso di utilizzowatsonx.ai.
Ulteriori risorse
Visualizza altri video.
Trova dataset di esempio, progetti, modelli, prompt e notebook nell'hub di risorse per ottenere un'esperienza pratica:
note che potete aggiungere al vostro progetto per iniziare ad analizzare i dati e costruire i modelli.
Progetti che si possono importare contenenti quaderni, set di dati, prompt e altre risorse.
Set di dati che si possono aggiungere al progetto per perfezionare, analizzare e costruire modelli.
I prompt che si possono usare nel Prompt Lab per richiedere un foundation model.
Modelli di fondazione che si possono utilizzare nel Prompt Lab.
Argomento principale: Esercitazioni introduttive