Distribuzione delle funzioni Python nel runtime watsonx.ai
È possibile distribuire funzioni Python in watsonx.ai Runtime nello stesso modo in cui si distribuiscono i modelli. I tuoi strumenti e le tue applicazioni possono utilizzare il client watsonx.ai Python o l'API REST per inviare i dati alle tue funzioni distribuite nello stesso modo in cui inviano i dati ai modelli distribuiti. La distribuzione delle funzioni di Python ti consente di nascondere i dettagli (come le credenziali). È anche possibile pre - elaborare i dati prima di inoltrarli ai modelli. Inoltre, è possibile gestire errori e includere chiamate a più modelli, tutti all'interno della funzione distribuita invece che nella tua applicazione.
Notebook di esempio per la creazione e la distribuzione di funzioni Python
Per esempi su come creare e distribuire le funzioni Python utilizzando la watsonx.ai Python, fai riferimento a questi notebook di esempio:
| Nome di esempio | Framework | Tecniche dimostrate |
|---|---|---|
| Prevedi il business per le auto | Ibrido (Tensorflow) | Imposta una definizione AI Prepara i dati Crea un modello Keras utilizzando Tensorflow Distribuisci e calcola il punteggio del modello Definisci, archivia e distribuisci una funzione Python |
| Distribuire la funzione Python per la specifica software | Principale | Crea una funzione Python Crea un servizio web Punteggi il modello |
I notebook mostrano le sei fasi per la creazione e la distribuzione di una funzione:
- Definire la funzione.
- Autenticare e definire uno spazio.
- Memorizzare la funzione nel repository.
- Ottenere la specifica software.
- Distribuire la funzione memorizzata.
- Inviare i dati alla funzione per l'elaborazione.
Per i collegamenti ad altri notebook di esempio che utilizzano la libreria clientPython watsonx.ai, consultare la sezione Utilizzo del runtime watsonx.ai in un notebook.
Aumentare la scalabilità per una funzione
Quando si distribuisce una funzione da uno spazio di distribuzione o in modo programmatico, per impostazione predefinita viene distribuita una singola copia della funzione. Per aumentare la scalabilità, è possibile aumentare il numero di repliche modificando la configurazione della distribuzione. Più repliche consentono un volume maggiore di richieste di calcolo del punteggio.
Il seguente esempio utilizza l'API client Python per impostare il numero di repliche su 3.
change_meta = {
client.deployments.ConfigurationMetaNames.HARDWARE_SPEC: {
"name":"S",
"num_nodes":3}
}
client.deployments.update(<deployment_id>, change_meta)
Ulteriori informazioni
- Per ulteriori informazioni sulla definizione di una funzione Python distribuibile, vedi la sezione Requisiti generali per le funzioni distribuibili in Scrittura e archiviazione delle funzioni Python distribuibili.
- È possibile distribuire una funzione da uno spazio di distribuzione tramite l'interfaccia utente. Per ulteriori informazioni, consultare Spazi di distribuzione.
Argomento principale: Gestione delle distribuzioni predittive