Tracciare un modello di prompt in un caso di utilizzo AI per acquisire e condividere i fatti relativi all'asset per aiutare a raggiungere gli obiettivi di governance e conformità.
Modelli di prompt di traccia
Un modello di richiesta è l'input di richiesta salvato per un foundation model. Un modello di richiesta può includere variabili in modo che possano essere eseguite con opzioni diverse. Ad esempio, se si dispone di un prompt che riepiloga le note della riunione per il progetto X, è possibile definire una variabile in modo che lo stesso prompt possa essere eseguito per il progetto Y.
È possibile aggiungere un modello di prompt salvato a un caso di utilizzo AI per tenere traccia dei dettagli per il modello di prompt. Oltre alla registrazione dei dettagli relativi alle informazioni di creazione del modello di prompt e ai dettagli del modello di origine, il foglio di factsheet tiene traccia delle informazioni dalle valutazioni del modello di prompt per catturare le metriche delle prestazioni. È possibile valutare i modelli di prompt prima o dopo l'avvio della traccia di un modello di prompt.
Prima di iniziare
Prima di poter tenere traccia di un modello di prompt, queste condizioni devono essere soddisfatte.
- Essere un amministratore o un editor per il progetto che contiene il modello di prompt.
- Il modello di prompt deve contenere almeno una variabile. Per ulteriori informazioni, consultare Creazione di prompt riutilizzabili.
Guarda questo video per vedere come tenere traccia di un modello di prompt in un caso di utilizzo AI.
Questo video fornisce un metodo visivo per apprendere i concetti e le attività in questa documentazione.
Traccia di un modello di prompt in un caso di utilizzo AI
È possibile aggiungere un modello di prompt a un caso di uso AI da uno spazio o un progetto.
- Aprire il progetto o lo spazio che contiene il modello di prompt che si desidera gestire.
- Dal menu di azione per l'asset, fare clic su Visualizza caso di utilizzo AI
. - Se questo modello di prompt non fa già parte di un caso di utilizzo AI, viene richiesto di Traccia nel caso di utilizzo AI. Quando si avvia la traccia di un modello di prompt, questo è bloccato e non è più possibile modificarlo. Per apportare modifiche, è necessario creare un nuovo modello di prompt.
- Selezionare un caso di utilizzo AI esistente o seguire le richieste per crearne uno nuovo.
- Scegliere un approccio esistente o creare un nuovo approccio. Un approccio rappresenta un aspetto di una soluzione completa. Ogni approccio crea una serie di versioni per tutti gli asset nello stesso approccio.
- Scegliere uno schema di numerazione della versione. Tutti gli asset in un approccio condividono una versione comune. Seleziona da:
- Sperimentale se prevedi di eseguire l'aggiornamento frequentemente.
- Stabile se gli asset non cambiano rapidamente.
- Personalizzato se si desidera avviare un nuovo numero di versione. La numerazione delle versioni deve seguire lo schema major.minor.patch.
Quando la traccia è abilitata, tutti i collaboratori per il caso d'uso possono esaminare i dettagli per il modello di prompt.
I dettagli vengono acquisiti per ogni fase del ciclo di vita per un modello di prompt.
- Sviluppa fornisce informazioni su come è stato definito il prompt, tra cui il prompt stesso, la data di creazione, il foundation model utilizzato, i parametri del prompt impostati e le variabili definite.
- Valuta visualizza le metriche della dimensione dalla valutazione del modello di prompt.
- Utilizza fornisce i dettagli relativi al modo in cui il modello di prompt viene distribuito per uso produttivo.
Requisiti per i modelli di richiesta di tracciamento
Considerate questi requisiti per la gestione dei modelli di prompt per la governance dall'interfaccia utente.
- È possibile creare solo distribuzioni di modelli di prompt che fanno riferimento a distribuzioni di modelli nello stesso progetto o spazio in cui è stata creata la distribuzione del modello. Se si promuove un modello che fa riferimento a un modello distribuito in uno spazio, una copia dell'asset del modello viene aggiunta automaticamente allo spazio. È necessario distribuire il modello nello spazio prima di distribuire il modello di prompt.
- Se si esporta un modello di richiesta che fa riferimento a un modello distribuito, l'asset del modello associato viene esportato automaticamente con il modello di richiesta. Quando si importa il modello in un nuovo contenitore, viene importato anche il modello. Il modello deve essere distribuito nel nuovo contenitore prima di distribuire il modello di prompt.
Visualizzazione del foglio informativo per un modello di prompt tracciato
Fare clic sul nome del modello di prompt in un caso d'uso AI per visualizzare il foglio informativo associato.
Il factsheet per un modello di prompt raccoglie questo tipo di dati:
- Governance raccoglie informazioni di base come il nome del caso di utilizzo AI, la descrizione, il nome dell'avvicinamento e i dati della versione.
- Modello di fondazione visualizza il nome del foundation model, l'ID della licenza e l'editore del modello.
- Modello prompt mostra il nome del prompt, l'ID, l'input del prompt e le variabili.
- I parametri prompt raccolgono le opzioni di configurazione per il modello di prompt, incluso il metodo di decodifica e i criteri di arresto.
- Valutazione visualizza i dati dalla valutazione, inclusi gli avvisi e i dati di metrica dalla valutazione. Ad esempio, questo modello di prompt mostra i dati delle metriche per le valutazioni della qualità sul modello di prompt. Una soglia di allarme è stata attivata dalla valutazione: "
- Convalida mostra i dati relativi alla modalità di valutazione del modello di richiesta, incluso il dataset utilizzato per la convalida, gli avvisi attivati e i dati della metrica di valutazione.
- Allegati mostra informazioni sugli allegati che supportano il caso di utilizzo.
Spostamento di un modello di prompt attraverso le fasi del ciclo di vita
Quando un modello di prompt viene tracciato, è possibile visualizzare i dettagli dalla creazione del modello di prompt e dalla valutazione delle prestazioni rispetto alle metriche appropriate. La fase successiva del ciclo di vita consiste nel _convalidare il template di prompt. Ciò implica la verifica del modello di prompt con nuovi dati. Se si è il tecnico del prompt che ha il compito di convalidare l'asset, attenersi alla seguente procedura per convalidare il modello di prompt e acquisire i dati di convalida nel factsheet associato.
- Dal progetto contenente il modello di prompt, esportare il progetto in un file ZIP compresso.
- Creare un nuovo progetto e popolarlo con il file ZIP esportato.
- Caricare i dati di validazione, valutare il modello di prompt e salvare i risultati nel progetto di validazione.
- Dal progetto, promuovere il modello di prompt a uno spazio di distribuzione nuovo o esistente designato come fase di produzione . Lo stage viene assegnato al momento della creazione dello spazio e non può essere aggiornato; pertanto, se non si dispone di uno spazio di produzione, è necessario creare un nuovo spazio.
- Dopo aver promosso il modello di prompt a uno spazio di distribuzione, sarà possibile configurare il monitoraggio continuo.
- I dettagli dal monitoraggio del modello di prompt in uno spazio di produzione vengono visualizzati nello stadio del ciclo di vita Operate del caso di utilizzo AI.
Ulteriori informazioni
- Seguire l'esercitazione Avvio rapido: valutare e tenere traccia di un modello di prompt per valutare e tenere traccia di un modello di prompt di esempio.
- Consultare Distribuzione di un modello di prompt per i dettagli sulla preparazione di un modello di prompt per la produzione.
- Consultare Valutazione dei modelli di prompt per i dettagli sulla valutazione di un modello di prompt per le dimensioni, ad esempio l'accuratezza o per verificare la presenza di discorsi odiosi o abusivi.
Argomento principale Traccia degli asset in un caso di utilizzo AI