Distribuzione delle funzioni di Python
È possibile distribuire funzioni Python in watsonx.ai Runtime nello stesso modo in cui si distribuiscono i modelli. I tuoi strumenti e le tue applicazioni possono utilizzare il client watsonx.ai Python o l'API REST per inviare i dati alle tue funzioni distribuite nello stesso modo in cui inviano i dati ai modelli distribuiti. La distribuzione delle funzioni di Python ti consente di nascondere i dettagli (come le credenziali). È anche possibile pre - elaborare i dati prima di inoltrarli ai modelli. Inoltre, è possibile gestire errori e includere chiamate a più modelli, tutti all'interno della funzione distribuita invece che nella tua applicazione.
Notebook di esempio per la creazione e la distribuzione di funzioni Python
Per esempi su come creare e distribuire funzioni Python utilizzando la libreria client Python watsonx.ai, fare riferimento a questi notebook di esempio pubblicati nell'hub delle risorse:
- Prevedere il business delle auto
- Distribuire la funzione Python per le specifiche del software
È possibile accedere all'hub risorse selezionando hub risorse dal menu di navigazione principale.
I notebook mostrano le sei fasi per la creazione e la distribuzione di una funzione:
- Definire la funzione
- Autenticare e definire uno spazio
- Memorizzare la funzione nel repository
- Ottenere le specifiche del software
- Distribuire la funzione memorizzata
- Inviare i dati alla funzione per l'elaborazione
Per i collegamenti ad altri notebook di esempio che utilizzano la libreria clientPython watsonx.ai, consultare la sezione Utilizzo del runtime watsonx.ai in un notebook.
Aumentare la scalabilità per una funzione
Quando si distribuisce una funzione da uno spazio di distribuzione o in modo programmatico, per impostazione predefinita viene distribuita una singola copia della funzione. Per aumentare la scalabilità, è possibile aumentare il numero di repliche modificando la configurazione della distribuzione. Più repliche consentono un volume maggiore di richieste di calcolo del punteggio.
Il seguente esempio utilizza l'API client Python per impostare il numero di repliche su 3.
change_meta = {
client.deployments.ConfigurationMetaNames.HARDWARE_SPEC: {
"name":"S",
"num_nodes":3}
}
client.deployments.update(<deployment_id>, change_meta)
Ulteriori informazioni
- Per ulteriori informazioni sulla definizione di una funzione Python distribuibile, vedi la sezione Requisiti generali per le funzioni distribuibili in Scrittura e archiviazione delle funzioni Python distribuibili.
- È possibile distribuire una funzione da uno spazio di distribuzione tramite l'interfaccia utente. Per ulteriori informazioni, consultare Spazi di distribuzione.
Argomento principale: Gestione delle distribuzioni predittive