Watson Machine Learning-Pläne und -Rechenleistungsnutzung

Watson Machine Learning-Pläne

Watson Machine Learning -Pläne regeln, wie Ihnen Modelle in Rechnung gestellt werden, die Sie mit Watson Machine Learning trainieren und bereitstellen, und für Eingabeaufforderungen, die Sie mit Basismodellen verwenden. Wählen Sie einen Ihren Anforderungen entsprechenden Plan aus:

• Lite ist ein kostenloser Plan mit begrenzter Kapazität. Wählen Sie diesen Plan aus, wenn Sie Watson Machine Learning evaluieren und die Funktionalität testen. Der Lite-Plan unterstützt nicht die Ausführung eines Experiments zur Basismodelloptimierung unter watsonx.
• Essentials ist ein nutzungsabhängiger Plan, der Ihnen die Flexibilität bietet, Modelle zu erstellen, bereitzustellen und zu verwalten, die Ihren Anforderungen entsprechen.
• Standard ist ein Unternehmensplan mit hoher Kapazität, der alle Anforderungen eines Unternehmens an maschinelles Lernen unterstützt. Kapazitätseinheitenstunden werden zu einem Pauschalbetrag bereitgestellt, während der Verbrauch von Ressourceneinheiten nutzungsabhängige Bezahlung ist.

Informationen zu Tarifdetails und zur Preisgestaltung finden Sie unter IBM Cloud Machine Learning.

Kapazitätseinheitenstunden (CUH), Token und Ressourceneinheiten (RU)

Für Mess-und Abrechnungszwecke werden Modelle für maschinelles Lernen und Bereitstellungen oder Basismodelle mit den folgenden Einheiten gemessen:

• Kapazitätseinheitenstunden (CUH) messen die Nutzung von Rechenressourcen pro Stunde zu Nutzungs-und Abrechnungszwecken. CUH misst die gesamte Watson Machine Learning -Aktivität mit Ausnahme der Foundation Model-Inferenz.

• Ressourceneinheiten (RU) messen den Inferenzverbrauch des Basismodells. Inferenzen sind der Prozess, bei dem das Basismodell aufgerufen wird, um als Antwort auf eine Eingabeaufforderung eine Ausgabe zu generieren. Jede RU entspricht 1.000 Tokens. Ein Token ist eine Basistexteinheit (normalerweise 4 Zeichen oder 0.75 Wörter), die in der Eingabe oder Ausgabe für eine Basismodelleingabeaufforderung verwendet wird. Wählen Sie einen Plan aus, der Ihren Nutzungsanforderungen entspricht.

• Eine Ratenbegrenzung überwacht und beschränkt die Anzahl der Inferenzanforderungen pro Sekunde, die für Basismodelle für eine bestimmte Watson Machine Learning -Planinstanz verarbeitet werden. Die Ratenbegrenzung ist für gebührenpflichtige Pläne höher als für den kostenlosen Lite-Plan.

Was wird für den CUH-oder RU-Verbrauch gemessen?

Ressourcen, unabhängig davon, ob sie mit Kapazitätseinheitenstunden (CUH) oder Ressourceneinheiten (RU) gemessen werden, werden für die Ausführung von Assets und nicht für die Arbeit in Tools verbraucht. Das heißt, dass für die Definition eines Experiments in AutoAI, keine Verbrauchsgebühr anfällt, aber für die Durchführung des Experiments zum Trainieren der Experimentierpipelines eine Gebühr erhoben wird. In ähnlicher Weise fallen keine Kosten für die Erstellung eines Bereitstellungsbereichs oder die Definition eines Bereitstellungsjobs an, aber es fallen Kosten für die Ausführung eines Bereitstellungsjobs oder die Inferenz für eine implementierte Anlage an. Assets, die kontinuierlich ausgeführt werden, wie z. B. Jupyter-Notebooks, RStudio-Assets und Bash-Scripts, verbrauchen Ressourcen, solange sie aktiv sind.

Abrechnungssätze für Ressourceneinheiten nach Modellklasse

Abrechnungssätze für Ressourceneinheiten für Basismodelle

Bei den folgenden Modellen ist der Abrechnungssatz für Eingabe-und Ausgabetoken identisch.

Fakturierungssätze für Ressourceneinheiten für Einbettungsmodelle

Durch das Einbetten von Modellen werden Sätze in Vektoren umgewandelt, um ähnlichen Text genauer zu vergleichen und abzurufen.

CUH-Verbrauchsraten nach Assettyp

CUH-Verbrauch nach Implementierungs-und Framework-Typ

Der CUH-Verbrauch wird mit Hilfe dieser Formeln berechnet:

Angenommen, Sie haben einen Decision Optimization -Stapelbereitstellungsjob, der 15 Minuten lang ausgeführt wird. Die Ressourcenauslastung wird folgendermaßen berechnet: 15 Minuten = 0.25 Stunden, auf 2 Knoten und mit 2 vCPU und 8 GB RAM. Diese Kombination führt zu einer CUH-Rate von 30, sodass bei jeder Ausführung des Jobs 0.25 * 2 * 30 verbraucht wird, was 15 CUH entspricht.

CUH-oder RU-Nutzung in einem Projekt verfolgen

So überwachen Sie den Verbrauch von CUH oder RU in einem Projekt:

1. Navigieren Sie zur Registerkarte Verwalten für ein Projekt.

2. Klicken Sie auf Ressourcen , um eine Zusammenfassung der Ressourcennutzung für Assets im Projekt oder Bereich oder Details zur Ressourcennutzung für bestimmte Assets anzuzeigen.

   

CUH-Nutzung für ein Konto verfolgen

Sie können die Laufzeitnutzung für ein Konto auf der Seite Umgebungslaufzeiten verfolgen, wenn Sie der IBM Cloud-Kontoeigner oder -Administrator oder der Watson Machine Learning-Serviceeigentümer sind. Details finden Sie unter Ressourcen überwachen.

CUH-Verbrauch für maschinelles Lernen in einem Notebook verfolgen

Verwenden Sie Folgendes, um die Kapazitätseinheitenstunden in einem Notebook zu berechnen:

CP =  client.service_instance.get_details()
CUH = CUH["entity"]["usage"]["capacity_units"]["current"]/(3600*1000)
print(CUH)

Beispiel:

'capacity_units': {'current': 19773430}

19773430/(3600*1000)

Rückgabe: 5,49 CUH

Details finden Sie im Abschnitt zu den Serviceinstanzen in der IBM Watson Machine Learning-API-Dokumentation.