Piani Watson Machine Learning e utilizzo del calcolo

Piani Watson Machine Learning

I piani Watson Machine Learning regolano la modalità di fatturazione per i modelli addestrati e distribuiti con Watson Machine Learning e per i prompt utilizzati con i modelli di base. Scegli un piano in base alle tue necessità:

• Lite è un piano gratuito con capacità limitata. Scegliere questo piano se si sta valutando Watson Machine Learning e si desidera provare le funzioni. Il piano Lite non supporta l'esecuzione di un esperimento di ottimizzazione del modello di base su watsonx.
• Essentials è un piano pay - as - you - go che ti offre la flessibilità di creare, distribuire e gestire modelli in base alle tue necessità.
• Standard è un piano aziendale ad alta capacità progettato per supportare tutte le esigenze di machine learning di un'organizzazione. Le ore di unità di capacità sono fornite a tariffa fissa, mentre il consumo di unità di risorsa è pay - as - you - go.

Per i dettagli del piano e i prezzi, vedi IBM Cloud Machine Learning.

CUH (Capacity Unit Ore), token e RU (Resource Unit)

Per scopi di misurazione e fatturazione, i modelli di machine learning e le distribuzioni o i modelli di base vengono misurati con queste unità:

• Capacity Unit Hours (CUH) misura il consumo di risorse di calcolo per unità oraria per scopi di utilizzo e fatturazione. CUH misura tutte le attività di Watson Machine Learning ad eccezione dell'inferenza del modello Foundation.

• Unità di risorsa (RU) misurano il consumo del modello di base. L'inferenza è il processo di richiamo del modello di base per generare l'output in risposta a un prompt. Ogni RU equivale a 1.000 token. Un token è un'unità di testo di base (in genere 4 caratteri o 0.75 parole) utilizzata nell'input o nell'output per un prompt del modello di base. Scegliere un piano che corrisponda ai propri requisiti di utilizzo.

• Un limite di frequenza monitora e limita il numero di richieste di deduzione al secondo elaborate per modelli di base per una determinata istanza del piano Watson Machine Learning . Il limite di frequenza è più elevato per i piani a pagamento rispetto al piano Lite gratuito.

Che cosa viene misurato per il consumo di CUH o RU?

Le risorse, misurate con CUH (Capacity Unit Ore) o RU (Resource Unit), vengono utilizzate per l'esecuzione degli asset e non per l'utilizzo degli strumenti. Cioè, non è previsto alcun costo di consumo per la definizione di un esperimentoAutoAI, ma è previsto un costo per l'esecuzione dell'esperimento per addestrare le pipeline dell'esperimento. Allo stesso modo, non è previsto alcun addebito per la creazione di uno spazio di distribuzione o la definizione di un lavoro di distribuzione, ma è previsto un addebito per l'esecuzione di un lavoro di distribuzione o l'inferenza rispetto a un asset installato. Gli asset che vengono eseguiti continuamente, come i notebook Jupyter, gli asset RStudio e gli script Bash, consumano le risorse per tutto il tempo in cui sono attivi.

Tassi di fatturazione unità di risorsa per classe di modelli

Tariffe di fatturazione delle unità di risorsa per i modelli di base

Per i modelli seguenti, la frequenza di fatturazione è la stessa per i token di input e output.

Tariffe di fatturazione dell'unità di risorsa per i modelli di integrazione

I modelli di incorporazione trasformano le frasi in vettori per confrontare e recuperare in modo più accurato il testo simile.

Tassi di consumo CUH per tipo di asset

Utilizzo CUH per distribuzione e tipo di framework

Il consumo di CUH viene calcolato utilizzando queste formule:

Ad esempio, considerare un lavoro di distribuzione batch Decision Optimization che viene eseguito per 15 minuti. Il consumo di risorse viene calcolato in questo modo: 15 minuti = 0.25 ore, su 2 nodi e con 2 vCPU e 8 GB di RAM. Questa combinazione risulta in una frequenza CUH di 30, quindi ogni volta che il lavoro viene eseguito consuma 0.25 * 2 * 30, che equivale a 15 CUH.

Traccia dell'utilizzo di CUH o RU in un progetto

Per monitorare l'utilizzo di CUH o RU in un progetto:

1. Passare alla scheda Gestisci per un progetto.

2. Fare clic su Risorse per esaminare un riepilogo del consumo di risorse per gli asset nel progetto o nello spazio o per esaminare i dettagli del consumo di risorse per determinati asset.

   

Monitoraggio dell'utilizzo di CUH per un account

Puoi tenere traccia dell'utilizzo del runtime per un account nella pagina Runtime di ambiente se sei l'amministratore o il proprietario dell'account IBM Cloud o il proprietario del servizio Watson Machine Learning . Per i dettagli, consultare Monitoraggio delle risorse.

Monitoraggio del consumo di CUH per il machine learning in un notebook

Per calcolare le ore dell'unità di capacità in un notebook, utilizzare:

CP =  client.service_instance.get_details()
CUH = CUH["entity"]["usage"]["capacity_units"]["current"]/(3600*1000)
print(CUH)

Ad esempio:

'capacity_units': {'current': 19773430}

19773430/(3600*1000)

restituisce 5.49 CUH

Per i dettagli, vedere la sezione Istanze di servizio delIBMWatson Machine Learning API documentazione.