0 / 0
Torna alla versione inglese della documentazione
Introduzione rapida: prova il caso d'uso end-to-end watsonx.ai
Ultimo aggiornamento: 23 gen 2025
Introduzione rapida: prova il caso d'uso end-to-end watsonx.ai

Questa esercitazione si concentra su un caso di utilizzo di esempio nel settore finanziario. Golden Bank deve implementare un processo di analisi delle promozioni di marketing per incrementare le vendite dei propri prodotti di investimento.

Servizi richiesti
watsonx.ai compresi watsonx.ai Runtime e watsonx.ai Studio

Scenario: Processo di promozione del marketing bancario

Per raggiungere questo obiettivo, il tipico processo potrebbe essere il seguente:

  1. L'ingegnere dei dati visualizza e prepara i dati di marketing della banca per verificare il formato corretto per addestrare il modello.
  2. L'ingegnere ML costruisce un modello di apprendimento automatico per prevedere l'efficacia delle loro promozioni.
  3. L'ingegnere ML distribuisce e testa il modello.
  4. Il data scientist scrive il codice Python per trovare promozioni simili per i concorrenti della banca.
  5. L'ingegnere pronto:
    • Costruisce modelli di prompt per eseguire compiti di riassunto e di risposta alle domande.
    • Confronta le prestazioni di più prompt per determinare se è necessario un retraining.
    • Sintonizza il sito foundation model con i dati di riqualificazione per fornire le migliori prestazioni e il miglior rapporto qualità-prezzo.
    • Crea una pipeline per semplificare il processo di riqualificazione.

Flusso di lavoro attività di base utilizzando watsonx.ai

Watsonx.ai può aiutare a completare ogni fase di questo processo. Il flusso di lavoro di base include le seguenti attività:

  1. Aprire un progetto. I progetti sono dove è possibile collaborare con altri per lavorare con i dati.
  2. Aggiungere dati al progetto. È possibile aggiungere file CSV o dati da un'origine dati remota tramite una connessione.
  3. Preparare i dati di addestramento in Data Refinery.
  4. Addestrare un modello con i dati di addestramento. Per addestrare il modello si possono usare vari strumenti, come AutoAI, SPSS Modeler, o i notebook Jupyter.
  5. Distribuire e testare il modello in un progetto o in uno spazio di distribuzione.
  6. Raccogliere e analizzare i dati relativi al modello in un taccuino Jupyter.
  7. Promuovere un foundation model in Prompt Lab.
  8. Confrontare le prestazioni dei prompt in Evaluation Studio.
  9. Sintonizzare il sito foundation model in Tuning Studio.
  10. Automatizzare il ciclo di vita di un modello con le Pipeline.

Informazioni su watsonx.ai

Per trasformare i tuoi processi di business con soluzioni basate sull'intelligenza artificiale, la tua azienda deve integrare sia il machine learning che l'intelligenza artificiale generativa nel tuo framework operativo. Watsonx.ai fornisce i processi e le tecnologie per consentire alla tua azienda di sviluppare e distribuire modelli di machine learning e soluzioni AI generative.

Ulteriori informazioni su watsonx.ai

Ulteriori informazioni sui casi di utilizzo watsonx.ai

Guarda un video su watsonx.ai

Guarda il video Guardate questo video per vedere in anteprima i passaggi di questa esercitazione. L'interfaccia utente mostrata nel video potrebbe presentare lievi differenze. Il video è destinato ad essere un compagno del tutorial scritto.

Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.


Prova un'esercitazione per watsonx.ai

In questa esercitazione, verranno completate le seguenti attività:





Suggerimenti per completare questa esercitazione
Di seguito sono riportati alcuni suggerimenti per completare correttamente questa esercitazione.

Utilizzare il video immagine - in - immagine

Suggerimento: avviare il video, quindi, scorrendo l'esercitazione, il video passa alla modalità immagine - in - immagine. Chiudere il sommario video per la migliore esperienza con l'immagine in foto. È possibile utilizzare la modalità immagine - in - immagine in modo da poter seguire il video mentre si completano le attività in questa esercitazione. Fare clic sulle date / ore per ciascuna attività da seguire.

La seguente immagine animata mostra come utilizzare le funzioni di immagine video e indice:

Come usare il picture-in-picture e i capitoli

Ottieni aiuto nella community

Se hai bisogno di aiuto con questo tutorial, puoi porre una domanda o trovare una risposta nel forum di discussione della community watsonx.

Configurare le finestre del browser

Per un'esperienza ottimale durante il completamento di questa esercitazione, apri Cloud Pak for Data in una finestra del browser e tieni aperta questa pagina dell'esercitazione in un'altra finestra del browser per passare facilmente tra le due applicazioni. Prendi in considerazione la possibilità di organizzare le due finestre del browser fianco a fianco per renderle più semplici da seguire.

Esercitazione e IU affiancati

Suggerimento: se si incontra un tour guidato mentre si completa questa esercitazione nell'interfaccia utente, fare clic su Forse in seguito.



Attività 1: creare un progetto di esempio

video dell'esercitazione di anteprima Per vedere un'anteprima di questo compito, guardate il video a partire da 00:51.

Questa esercitazione utilizza un progetto di esempio che contiene il set di dati, il blocco note e i modelli di prompt per eseguire l'analisi. Per creare un progetto basato su un esempio, attenersi alla seguente procedura:

  1. Dalla schermata iniziale, fare clic sull'icona Crea un nuovo progetto Crea un nuovo progetto.

  2. Selezionare il campione.

  3. Cercate Getting started with watsonx.ai, selezionate il progetto di esempio e fate clic su Avanti.

  4. Scegliere un' istanza del servizio di archiviazione oggetti esistente o crearne una nuova.

  5. Fare clic su Crea.

  6. Attendere il completamento dell'importazione del progetto, quindi fare clic su Visualizza nuovo progetto.

  7. Associare un servizio watsonx.ai Runtime al progetto. Per ulteriori informazioni, vedere watsonx.ai Runtime.

    1. Quando il progetto si apre, fai clic sulla scheda Manage e seleziona la pagina Services and integrations .

    2. Nella scheda IBM services, fare clic su Associate service.

    3. Selezionare l'istanza di watsonx.ai Runtime. Se non si dispone ancora di un'istanza del servizio watsonx.ai Runtime che sia già stata fornita, seguire questi passaggi:

      1. Fare clic su Nuovo servizio.

      2. Selezionare watsonx.ai Runtime.

      3. Fare clic su Crea.

      4. Selezionare la nuova istanza del servizio dall'elenco.

    4. Fare clic su Associa servizio.

    5. Se necessario, fare clic su Annulla per tornare alla pagina Servizi & Integrazioni .

  8. Fare clic sulla scheda Asset nel progetto per visualizzare gli asset di esempio.

Per ulteriori informazioni o per vedere un video, vedere Creazione di un progetto.

Per ulteriori informazioni sui servizi associati, vedere Aggiunta di servizi associati.

Icona Checkpoint Controlla i tuoi progressi

La seguente immagine mostra la scheda Asset del progetto. Ora è possibile visualizzare i dati di addestramento.

alt text




Compito 2: Visualizzare e preparare i dati

I dati rappresentano campagne di marketing diretto (telefonate) di un istituto bancario portoghese. L'obiettivo della classificazione è prevedere se il cliente sottoscriverà (sì/no) un deposito a termine (colonna current_outcome). Questo set di dati si basa su un set di dati provenienti dal Repository UCI Machine Learning.

Compito 2a: Visualizzare i dati

video dell'esercitazione di anteprima Per un'anteprima di questo compito, guardate il video a partire da 01:24.

In primo luogo, si visualizzano i dati per vedere se ci sono anomalie evidenti. Seguite questi passaggi per visualizzare i dati:

  1. Aprire il bank-marketing-data.csv set di dati. Le colonne contengono informazioni sui potenziali clienti.
  2. Fare clic sull'icona Visualizza informazioni sulla risorsa Visualizza informazioni sull'asset per chiudere il riquadro Informazioni su questa risorsa.
  3. Fare clic sulla scheda Visualizzazione .
    1. Selezionare la colonna current_outcome come Colonne da visualizzare. Questa colonna indica se la persona contattata ha accettato l'offerta corrente; questa colonna è la colonna di destinazione quando si costruisce il modello.
    2. Fare clic su Aggiungi un'altra colonna e selezionare la colonna Risultato_precedente. Questa colonna indica se la persona contattata ha accettato l'offerta precedente. Si noti che i tipi di grafico con un punto blu sono i grafici suggeriti.
    3. Selezionare il tipo di grafico ad albero. Questo grafico mostra un confronto tra le persone che hanno accettato un'offerta precedente e se le stesse persone hanno accettato l'offerta attuale.
    4. Passare il mouse sul nodo principale per visualizzare il numero totale di record del set di dati.
    5. Allo stesso modo, passate il mouse sui nodi no e per vedere i totali.
    6. Passare il mouse sul nodo non etichettato per visualizzare il numero totale di record nel set di dati in cui il campo current_outcome è nullo.

Icona Checkpoint Controlla i tuoi progressi

L'immagine seguente mostra una visualizzazione del file bank-marketing-data.csv. Ora si è pronti a preparare i dati di allenamento.

Visualizzazione dei dati di formazione

Compito 2b: Preparare i dati

video dell'esercitazione di anteprima Per vedere un'anteprima di questo compito, guardate il video a partire da 02:40.

Poiché current_outcome è la colonna di destinazione, è necessario preparare il set di dati per rimuovere le righe con valori nulli. Per preparare il set di dati, procedere come segue

  1. Fare clic su Prepara dati per aprire Data Refinery.
  2. Chiudere il riquadro Informazioni su questa risorsa.
  3. Selezionare la colonna current_outcome.
  4. Fare clic su Nuovo passo > Rimuovi righe vuote.
  5. Fai clic su Applica.
  6. Fare clic sulla scheda Profilo per verificare l'azione.
  7. Scorrere la colonna current_outcome per vedere che tutti i valori sono "sì" o "no".

Icona Checkpoint Controlla i tuoi progressi

L'immagine seguente mostra la colonna current_outcome della scheda Profilo. Ora è possibile creare il modello utilizzando questi dati di addestramento.

La colonna current_outcome della scheda Profilo

Task 2c: Salvare i dati raffinati

video dell'esercitazione di anteprima Per vedere un'anteprima di questo compito, guardate il video a partire da 03:08.

Per salvare i dati raffinati, è necessario specificare il nome del file per il set di dati di destinazione, quindi creare ed eseguire un lavoro. Per salvare i dati raffinati, procedere come segue

  1. Specificare il nome del file:

    1. Fare clic sull'icona Impostazioni Impostazioni.
    2. Fare clic sulla pagina Set di dati di destinazione.
    3. Fare clic su Modifica proprietà.
    4. Cambia il nome della risorsa dati * in bank-marketing-data-prepared.csv.
    5. Fare clic su Salva.
    6. Fai clic su Applica.
  2. Creare ed eseguire il lavoro:

    1. Dalla barra degli strumenti, fare clic sull'icona Lavori e selezionare Salva e crea un lavoro.
      Salva e crea un lavoro

    2. Digitare il seguente nome, Bank marketing data, e fare clic su Avanti.

    3. Nella pagina Configura, selezionare un ambiente di runtime e fare clic su Avanti.

    4. Nella pagina Pianificazione, accettare i valori predefiniti e fare clic su Avanti.

    5. Nella pagina Notifica, mantenere le notifiche disattivate per questo lavoro e fare clic su Avanti.

    6. Rivedere i dettagli e fare clic su Crea ed esegui per eseguire immediatamente il lavoro.

  3. Quando il lavoro viene creato, fare clic sul link dei dettagli del lavoro nella notifica per visualizzare il lavoro nel progetto. In alternativa, è possibile navigare nella scheda Lavori del progetto e fare clic sul nome del lavoro per aprirlo.

  4. Quando lo stato del lavoro è Completato, utilizzare il percorso di navigazione del progetto per tornare alla scheda Attività del progetto.

  5. Fare clic sulla sezione Dati > Asset di dati per visualizzare l'output del flusso Data Refinery e aprire il file bank-marketing-data-prepared.csv per verificare i valori.

Icona Checkpoint Controlla i tuoi progressi

L'immagine seguente mostra il file bank-marketing-data-prepared.csv. Ora è possibile creare il modello utilizzando questi dati di addestramento.

Anteprima del file bank-marketing-data-prepared.csv




Attività 3: addestrare il modello

video dell'esercitazione di anteprima Per un'anteprima di questo compito, guardate il video a partire da 03:58.

Per addestrare il modello si possono usare vari strumenti, come AutoAI, SPSS Modeler, o i notebook Jupyter. In questa esercitazione, si addestrerà un modello di classificazione binaria predittiva con AutoAI. Seguire questa procedura per creare l'esperimento AutoAI :

  1. Tornare alla scheda Assets del progetto, quindi fare clic su New asset > Build machine learning models or Retrieval-augmented generation patterns automatically.

  2. Nella pagina Costruisci modelli di apprendimento automatico o Modelli di generazione ottimizzata per il recupero automatico, digitare il nome: Bank marketing experiment

  3. Fare clic su Crea.

  4. Selezionare Costruisci modelli di apprendimento automatico come attività per questo esperimento.

  5. Nella pagina Aggiungi origine dati , aggiungere i dati di addestramento:

    1. Fare clic su Seleziona dal progetto.

    2. Selezionare Attività dati > bank-marketing-data-prepared.csv, quindi fare clic su Seleziona attività.

  6. Per creare un'analisi delle serie temporali? selezionare No.

  7. Selezionare l' esito corrente per la colonna Previsione.

  8. Fai clic su Run experiment. Mentre il modello si allena, viene visualizzata un'infografica che mostra il processo di costruzione delle condutture.
    Crea pipeline modello

    Per un elenco di algoritmi, o stimatori, disponibili con ciascuna tecnica di apprendimento automatico in AutoAI,, vedere: AutoAI implementation details.

  9. Al termine dell'esperimento, è possibile visualizzare le pipeline classificate in una classifica.

    Classifica delle pipeline

  10. Fate clic sul confronto tra le pipeline per vedere le differenze.

    Grafico metrico di confronto pipeline

  11. Nella classifica delle pipeline, fare clic sulla pipeline più votata per visualizzarne i dettagli.

  12. Esaminare la pagina di valutazione del modello per vedere le prestazioni del modello nel grafico della curva ROC e nella tabella delle misure di valutazione del modello.

  13. Salvare il modello.

    1. Fare clic su Salva con nome.

    2. Selezionare Modello.

    3. Per il nome del modello, digitare: Bank marketing prediction model

    4. Fare clic su Crea. Ciò salva la pipeline come modello nel tuo progetto.

  14. Una volta salvato il modello, fare clic sul collegamento Visualizza nel progetto nella notifica per visualizzare il modello nel progetto. In alternativa, è possibile passare alla scheda Asset nel progetto e fare clic sul nome del modello nella sezione Modelli .

Icona Checkpoint Controlla i tuoi progressi

La seguente immagine mostra il modello.

La seguente immagine mostra il modello.




Attività 4: distribuzione del modello

Il compito successivo è quello di promuovere il modello in uno spazio di distribuzione e quindi creare una distribuzione online.

Task 4a: Promuovere i dati di test in uno spazio di distribuzione

video dell'esercitazione di anteprima Per un'anteprima di questo compito, guardate il video a partire da 05:34.

Il progetto di esempio include i dati di test. Si promuovono tali dati di test in uno spazio di distribuzione, in modo da poter utilizzare i dati di test per verificare il modello distribuito. Attenersi alla seguente procedura per promuovere i dati di test in uno spazio di distribuzione:

  1. Tornare alla scheda Asset del progetto.

  2. Fare clic sul menu Overflow Menu di overflow per la risorsa bank-marketing-test-data.csv e scegliere Promuovi nello spazio.

  3. Scegliere uno spazio di distribuzione esistente. Se non si dispone di uno spazio di distribuzione:

    1. Fare clic su Crea un nuovo spazio di distribuzione.

    2. Per il nome, digitare: Bank marketing promotion space

    3. Selezionare un servizio di archiviazione.

    4. Selezionare un servizio di machine learning.

    5. Fare clic su Crea.

    6. Chiudere la notifica quando lo spazio è pronto.

  4. Selezionare il nuovo spazio di distribuzione dall'elenco.

  5. Fare clic su Promuovi.

  6. Fare clic su Chiudi per tornare alla scheda Attività del progetto.

Icona Checkpoint Controlla i tuoi progressi

La seguente immagine mostra la pagina Promuovi allo spazio .

La seguente immagine mostra la pagina Promuovi a spazio.

Attività 4b: Promuovere il modello in uno spazio di distribuzione

video dell'esercitazione di anteprima Per vedere un'anteprima di questo compito, guardate il video a partire da 06:11.

Prima di poter distribuire il modello, è necessario promuoverlo in uno spazio di distribuzione. Attenersi alla seguente procedura per promuovere il modello a uno spazio di distribuzione:

  1. Fare clic sul menu Overflow Menu di overflow per la risorsa dati del modello di previsione del marketing bancario e scegliere Promuovi nello spazio.

  2. Selezionare lo stesso spazio di distribuzione dall'elenco.

  3. Fare clic su Promuovi.

  4. Seleziona l'opzione Vai al modello nello spazio dopo averlo promosso .

  5. Fare clic su Promuovi.

Nota: se non hai selezionato l'opzione per andare al modello nello spazio dopo averlo promosso, puoi utilizzare il menu di navigazione per passare a Distribuzioni per selezionare il tuo spazio di distribuzione e il modello.

Icona Checkpoint Controlla i tuoi progressi

La seguente immagine mostra il modello nello spazio di installazione.

La seguente immagine mostra il modello nello spazio di distribuzione.

Attività 4c: creare e verificare una distribuzione del modello

video dell'esercitazione di anteprima Per vedere un'anteprima di questo compito, guardate il video a partire da 06:21.

Ora che il modello è nello spazio di distribuzione, attenersi alla seguente procedura per creare la distribuzione del modello:

  1. Con il modello aperto, fare clic su Nuova distribuzione.

    1. Selezionare In linea come Tipo di distribuzione.

    2. Per il nome dell'installazione client, digitare: Bank marketing model deployment

    3. Fare clic su Crea.

  2. Una volta completata la distribuzione, fare clic sul nome della distribuzione per visualizzare la pagina dei dettagli della distribuzione.

  3. Nella scheda Riferimento API, esaminare l'endpoint del punteggio, che può essere utilizzato per accedere a questo modello in modo programmatico nelle applicazioni.

  4. Verificare il modello.

    1. Fare clic sulla scheda Test . È possibile testare il modello distribuito dalla pagina dei dettagli di distribuzione in due modi: test con un modulo o test con codice JSON. In questo caso, si seleziona il file CSV promosso dal progetto campione allo spazio di distribuzione.

    2. Per individuare i dati di test, fare clic su Cerca nello spazio.

    3. Selezionare Attività dati > bank-marketing-test-data.csv.

    4. Fare clic su Conferma.

    5. Fare clic su Previsione e rivedere le previsioni per i 60 record dei dati di prova. Il modello restituisce un sì per ogni cliente per il quale il modello prevede che il cliente della banca sottoscriverà un deposito a termine.

Icona Checkpoint Controlla i tuoi progressi

La seguente immagine mostra i risultati del test dal modello distribuito.

La seguente immagine mostra i risultati del test dal modello distribuito.




Compito 5: Raccogliere i programmi di marketing dei concorrenti

video dell'esercitazione di anteprima Per un'anteprima di questo compito, guardate il video a partire da 07:01.

Sebbene Prompt Lab sia in grado di lavorare con testo strutturato e non strutturato, è essenziale assicurarsi di inserire i dati giusti che il modello può elaborare. È possibile farlo in un notebook Jupyter con il codice Python.

Poiché i modelli di fondazione hanno un limite al numero di token che possono elaborare in un singolo prompt (noto come finestra di contesto), potrebbe essere necessario frammentare o riassumere i dati per rientrare in questo limite. Questa fase garantisce che i dati di input siano in un formato che il sito foundation model può elaborare efficacemente senza perdere informazioni essenziali.

Attenersi alla seguente procedura per eseguire il notebook:

  1. Nel Menu di navigazione Menu di navigazione, scegliere Progetti > Visualizza tutti i progetti.
  2. Aprite il progetto Getting started with watsonx.ai.
  3. Fai clic sulla scheda Assets.
  4. Fate clic sul menu Overflow Menu di overflow per il blocco note Estrai e taglia il testo dai programmi concorrenti e scegliete Modifica.
  5. Completare la sezione Configurazione .
    1. Fare clic sull'icona Esegui Esegui per la prima cella per importare le librerie.
    2. Ottenere le chiavi API necessarie:
      1. Segui il collegamento per creare un account e una chiave API su TheNewsAPI.
      2. Incolla la chiave API nella variabile thenewsapi_key .
      3. Segui il collegamento per creare un account e una chiave API in ArticlExtractor.
      4. Incolla la chiave API nella variabile extract_key .
    3. Eseguire la cella per impostare le due variabili chiave API.
  6. Eseguire le celle nella sezione Definire la funzione per ottenere gli URL degli articoli di notizie .
    • La prima cella di questa sezione definisce una funzione per ottenere i dati da TheNewsAPI's Top Stories e impostare i parametri per assicurarsi di ottenere notizie rilevanti.
    • La seconda cella di questa sezione definisce una funzione per ottenere un elenco di URL in base alla risposta.
  7. Eseguire le celle nella sezione Definire la funzione per estrarre il testo delle notizie .
    • La prima cella definisce una funzione per estrarre il testo di una notizia da uno specifico sito URL utilizzando ArticlExtractor API.
    • La seconda cella definisce una funzione per combinare il testo delle notizie da tutti gli URL degli articoli ottenuti TheNewsAPI.
  8. Eseguire la cella nella sezione Definire la funzione per suddivide in blocchi il testo delle notizie .
    • La prima cella di questa sezione definisce una funzione che utilizza LangChain per dividere il testo in caratteri tenendo conto del contesto del testo delle notizie. Per assicurarsi che foundation model possa recepire le informazioni dal testo, è necessario assicurarsi che il token non superi i limiti della finestra dei token contestuali.
    • La seconda cella di questa sezione mostra la risposta. Si può notare che l'output finale dei dati è pronto per essere inserito in Prompt Lab. LangChain’s il divisore di testo divide il testo lungo in blocchi o frasi semanticamente significativi e li combina nuovamente come un intero testo da elaborare. È possibile regolare la dimensione massima dei blocchi.

Icona Checkpoint Controlla i tuoi progressi

La seguente immagine mostra il notebook completato. Ora si ha il testo spezzettato da usare per richiedere il comando foundation model.

Il notebook completato




Compito 6: sollecitare il foundation model

Ora che l'articolo di cronaca è stato opportunamente suddiviso, si possono costruire i propri modelli di prompt nel sito Prompt Lab, oppure si possono usare i modelli di prompt del progetto di esempio. Il progetto di esempio include modelli di prompt di esempio per attività di riepilogo e di risposta alle domande. Seguire i seguenti passi per richiedere il sito foundation model nel sito Prompt Lab :

Compito 6a: Compito di riassunto

video dell'esercitazione di anteprima Per un'anteprima di questo compito, guardate il video a partire da 09:32.

Per prima cosa, provate il modello di prompt di riepilogo.

  1. Tornare alla scheda Asset del progetto.

  2. Fare clic sul modello di richiesta Riepilogo promozioni bancarie. Questo apre il modello di prompt nel sito Prompt Lab.

  3. Fare clic su Modifica per aprire il modello di prompt in modalità di modifica.

    Per l'attività di riassunto, si utilizza il testo di un articolo di cronaca in formato chunked come esempio di input e le note che il professionista del marketing è solito scrivere manualmente per spiegare le offerte promozionali come esempio di output. Questo per assicurarsi che l'output sia simile a quello che il team di marketing potrebbe scrivere da solo.

  4. Si noti che l'indirizzo foundation model utilizzato per questo prompt è XX.

  5. Fare clic su Genera per visualizzare i risultati di riepilogo.

  6. Prova con un testo di input e output diverso dall'articolo di notizie suddiviso in parti nel notebook.

Compito 6b: Compito di risposta alle domande

video dell'esercitazione di anteprima Per un'anteprima di questo compito, guardate il video a partire da 10:15.

Successivamente, provate il modello di risposta alle domande.

  1. Fare clic sui prompt salvati Prompt salvati per visualizzare i prompt salvati dal progetto.

  2. Fate clic sul modello di domanda Risposta banca promozioni dall'elenco dei prompt salvati.

  3. Fare clic su Modifica per aprire il modello di prompt in modalità di modifica.

    Per l'attività di risposta alle domande, utilizzare le domande come esempio di input e le risposte nel livello di dettaglio richiesto e nel formato preferito come esempio di output.

  4. Notate che il sito foundation model utilizzato per questo prompt è flan-t5-xxl-11b.

  5. Fare clic su Genera per visualizzare i risultati di riepilogo.

  6. Sperimentare con un testo di input e output diverso.

Task 6c: Regolare i parametri del modello

video dell'esercitazione di anteprima Per un'anteprima di questo compito, guardate il video a partire da 10:37.

Nel sito Prompt Lab, è possibile regolare le impostazioni di decodifica per ottimizzare l'output del modello per l'attività specifica:

  • Decodifica
    • Greedy: seleziona sempre le parole con la probabilità più alta
    • Campionamento: personalizza la variabilità della selezione delle parole
  • Penalità di ripetizione: quanta ripetizione è consentita
  • Criteri di arresto: una o più stringhe che causeranno l'arresto della creazione del testo se prodotto

Questa flessibilità consente un elevato grado di personalizzazione, assicurando che il modello operi con i parametri più adatti ai requisiti e ai vincoli dell'attività.

Nel sito Prompt Lab è possibile impostare limitazioni ai token per assicurarsi che i compiti rimangano all'interno dell'ambito operativo del modello. Questa impostazione aiuta a bilanciare la completezza della risposta con i limiti tecnici del modello, ottenendo un'elaborazione efficiente ed efficace dei compiti.

Task 6d: Chattare con i documenti

video dell'esercitazione di anteprima Per avere un'anteprima di questo compito, guardate il video a partire da 10:45.

È inoltre possibile utilizzare la modalità Chat per chiedere a foundation model di utilizzare un documento PDF di esempio che fornisce i fatti. L'aggiunta di uno o più documenti crea un indice vettoriale in memoria che foundation model utilizzerà per rispondere alla domanda.

  1. Fare clic su Nuova richiesta.
  2. Fare clic su Chat.
  3. Opzionale: Selezionare un modello, ad esempio, llama-3-1-8b-instruct.
  4. Fare clic sull'icona Carica documenti Caricare i documenti e scegliere Aggiungi documenti.
  5. Fare clic su Seleziona dal progetto.
    1. Selezionare la banca CD Rates.pdf.
    2. Fare clic su Seleziona.
  6. Nella pagina Ground gen AI con documenti vettoriali, verificare il nome e fare clic su Crea.
  7. Nel campo Digita qualcosa, digitare Which bank has the best APY for a term deposit and what is the rate?, quindi fare clic sull'icona Invia Invia per visualizzare la risposta.

Icona Checkpoint Controlla i tuoi progressi

L'immagine seguente mostra il sito Prompt Lab.

Il Prompt Lab



Passi successivi

Prova con i notebook di prompt

Dal sito Prompt Lab, è possibile salvare il lavoro in formato notebook:

  1. Caricare un modello di prompt salvato.
  2. Fare clic su Salva lavoro> Salva con nome.
  3. Selezionare il taccuino Standard. Si noti che è anche possibile salvare il lavoro come notebook di distribuzione che può essere distribuito come servizio AI.
  4. Immettere un nome.
  5. Fare clic su Salva, quindi esplorare il blocco appunti della richiesta.
  6. Ripetere questi passi per l'altro modello di prompt.

Sintonizzare un foundation model

Si potrebbe voler mettere a punto il sito foundation model per migliorare le prestazioni del modello rispetto alla sola ingegneria preventiva o ridurre i costi distribuendo un modello più piccolo che abbia prestazioni simili a un modello più grande. Vedere l'esercitazione Tune a foundation model.

Confrontare le prestazioni di pronto intervento

È possibile utilizzare Evaluation Studio per confrontare più richieste. Con Evaluation Studio, potete valutare e confrontare le vostre risorse di IA generativa con metriche quantitative e criteri personalizzabili che si adattano ai vostri casi d'uso. Valutare le prestazioni di più asset contemporaneamente e visualizzare analisi comparative dei risultati per identificare le soluzioni migliori. Vedere l'esercitazione sulle prestazioni del prompt di confronto.

Automatizzare il ciclo di vita di un modello con le Pipeline

È possibile creare una pipeline end-to-end per fornire dati concisi, pre-elaborati e aggiornati memorizzati in un'origine dati esterna. L'editor Orchestration Pipelines fornisce un'interfaccia grafica per l'orchestrazione di un flusso end-to-end di risorse, dalla creazione alla distribuzione. Assemblare e configurare una pipeline per creare, addestrare, distribuire e aggiornare modelli di machine learning e script Python. Vedere l'esercitazione Automatizzare il ciclo di vita di un modello con le pipeline.

Ulteriori risorse

Argomento principale: Esercitazioni introduttive