Docs
...
Managing payload data

Gestione dei dati del payload per watsonx.governance

Ultimo aggiornamento: 21 nov 2024
Gestione dei dati del payload per watsonx.governance

Devi fornire i dati del payload per configurare la deviazione v2 e le valutazioni di qualità AI generative in watsonx.governance.

I dati del payload contengono tutte le transazioni modello. Puoi registrare i dati del payload con watsonx.governance per abilitare le valutazioni. Per registrare i dati del payload, watsonx.governance deve ricevere le richieste di calcolo del punteggio.

Registrazione dei dati del payload

Quando si invia una richiesta di calcolo del punteggio, watsonx.governance elabora le transazioni del modello per abilitare le valutazioni del modello. Watsonx.governance calcola il punteggio dei dati e li memorizza come record in una tabella di registrazione payload all'interno del data mart watsonx.governance .

La tabella di registrazione del payload contiene le seguenti colonne quando si valutano i modelli di prompt:

  • Colonne richieste:
    • Variabili di prompt: contiene i valori per le variabili create per i modelli di prompt
    • generated_text: contiene l'output generato dal foundation model
  • Colonne facoltative:
    • input_token_count: contiene il numero di token nel testo di input
    • generated_token_count: contiene il numero di token nel testo generato
    • prediction_probability: contiene il valore aggregato delle probabilità di log dei token generati che rappresentano l'output vincente

La tabella può includere anche colonne ID e data / ora per memorizzare i dati come record di calcolo del punteggio.

È possibile visualizzare la tabella di registrazione del payload accedendo al database specificato per il data mart o utilizzando l'SDKPython, come mostrato nell'esempio seguente:

Output di esempio SDK Python della tabella di registrazione del payload

Invio dei dati di payload

Se si utilizza IBM watsonx.ai Runtime come provider di apprendimento automatico, watsonx.governance registra automaticamente i dati del payload quando il modello viene valutato.

Dopo aver configurato le valutazioni, è anche possibile utilizzare un endpoint di registrazione del payload per inviare richieste di calcolo del punteggio per eseguire valutazioni su richiesta. Per i modelli di produzione, è anche possibile caricare i dati del payload con un file CSV per inviare richieste di calcolo del punteggio. Per ulteriori informazioni, consultare Invio di transazioni modello.

Ulteriori informazioni

Registrazione payload

Argomento principale: Gestione dei dati per la valutazione dei modelli