Abrechnungsdetails für generative AI-Assets
Erfahren Sie, wie die Nutzung von generativen KI-Assets anhand von Ressourceneinheiten (RU), Stundensätzen oder einem Pauschalpreis gemessen wird.
Die Arbeit mit generativen KI-Assets mit watsonx.ai Runtime setzt voraus, dass Sie watsonx.ai verwenden. Weitere Informationen über watsonx.ai finden Sie unter Übersicht über IBM watsonx.ai.
Überprüfen Sie die Details, wie die Ressourcen gemessen werden:
- Ressourceneinheiten zur Messung von Schlussfolgerungsaktivitäten für Fundamentmodelle, bereitgestellt von watsonx.ai.
- Stundensätze für benutzerdefinierte Basismodelle, die Sie mit watsonx.ai importieren und einsetzen.
- Stundensätze für kuratierte Foundation-Modelle, die bei Bedarf auf dedizierter Hardware bereitgestellt werden.
- Pauschalpreise pro Seite für die Textextraktion aus Dokumenten.
Eine Ressourceneinheit wird zur Messung der folgenden Ressourcen verwendet:
- Token, die für die Ableitung von foundation model verwendet werden, um Text oder Texteinbettungen zu generieren.
- Datenpunkte, die von einer Zeitreihe foundation model für die Vorhersage zukünftiger Werte verwendet werden.
Ressourceneinheitsmessung für die Ableitung von Fundamentmodellen
Eine Liste der unterstützten Grundmodelle für die Texterstellung und deren Preise finden Sie unter "Unterstützte Grundmodelle ". Eine Liste der unterstützten Encoder-Modelle für die Neusortierung und Generierung von Texteinbettungen sowie deren Preise finden Sie unter "Unterstützte Encoder-Modelle ".
Bei der Messung der foundation model -Inferenz entspricht eine Ressourceneinheit (RU) 1.000 Token aus dem Input und Output der foundation model. Ein Token ist eine grundlegende Texteinheit (normalerweise 4 Zeichen oder 0.75 Wörter), die in der Eingabe oder Ausgabe für eine foundation model -Eingabeaufforderung oder für die Eingabe in ein Einbettungsmodell verwendet wird.
Jedem von IBM watsonx.ai bereitgestellten foundation model wird ein Inferenzpreis für Input und Output zugewiesen. Der Preis ergibt sich aus einem Vielfachen des Basispreises für ein EVU (00.0001$). Ein Modell mit einem Preis von 00.0006 $ hat zum Beispiel einen Multiplikator von 6 mal dem Basissatz.
Einem zeitnah abgestimmten foundation model wird derselbe Preis zugewiesen wie dem zugrunde liegenden foundation model. Informationen über abgestimmte Gründungsmodelle finden Sie unter Tuning Studio. Die Abstimmung eines Modells im Tuning Studio verbraucht Kapazitätsstunden (CUH). Weitere Informationen finden Sie unter Details zur Abrechnung von Assets für maschinelles Lernen.
Ressourceneinheitsmessung für die Ableitung von Zeitreihen-Grundmodellen
Bei der Messung der foundation model -Prognose entspricht eine Ressourceneinheit (RU) 1.000 Datenpunkten in der foundation model -Eingabe und -Ausgabe. Ein Datenpunkt ist eine Einheit von Eingabe- und Ausgabecontent, der als eine oder mehrere Zahlen ausgedrückt wird.
Abrechnungsklassen nach Multiplikator
Wenn Sie die Modellnutzung mit der watsonx.ai API überwachen, werden die Modellpreise wie folgt nach Preisstufen aufgelistet:
| Modell der Preisstufe | Ressourcentyp | Preis pro RU in USD | Multiplikator Basissatz |
|---|---|---|---|
| Klasse 1 | Token | $0.0006 | 6 |
| Klasse 2 | Token | $0.0018 | 18. |
| Klasse 3 | Token | $0.0050 | 50 |
| Klasse C1 | Token | $0.0001 | 1 |
| Klasse 5 | Token | $0.00025 | 2.5 |
| Klasse 7 | Token | $0.016 | 160 |
| Klasse 8 | Token | $0.00015 | 1.5 |
| Klasse 9 | Token | $0.00035 | 3.5 |
| Klasse 10 | Token | $0.0020 | 20 Jahre |
| Klasse 11 | Token | $0.000005 | 0.05 |
| Klasse 12 | Token | $0.0002 | 2 |
| Klasse 13 | Token | $0.00071 | 7.1 |
| Klasse 14 | Datenpunkte | $0.00013 | 1.3 |
| Klasse 15 | Datenpunkte | $0.00038 | 3.8 |
Bestimmte Modelle, wie z. B. der Mistral Large, haben spezielle Preise, die nicht durch einen Multiplikator bestimmt werden. Die Preise sind in unterstützten Modellen aufgeführt.
Berechnung des Ressourceneinheitspreises von Token pro Modell
Zur Berechnung der Kosten für die Inferenz des foundation model teilen Sie die Gesamtzahl der während des Monats verbrauchten Token durch 1000 und runden auf die nächsten 1000 auf, um die Gesamtzahl der EVU zu erhalten. Multiplizieren Sie die Gesamtzahl der EVUs mit dem Modellpreis, um die Gesamtnutzungsgebühren zu erhalten. Der Modellpreis variiert je nach Modell und kann auch für Eingabe- oder Ausgabe-Token für ein bestimmtes Modell variieren.
Die Grundformel lautet wie folgt:
Total tokens used/1000 = Resource Units (RU) consumed RU consumed x model price = Total usage charge
Der Grundpreis für ein EVU beträgt 00.0001$. Der Preis für jedes foundation model ist ein Vielfaches des Grundpreises.
Berechnung der Ressourceneinheit von Datenpunkten pro Modell
Verwenden Sie die folgenden Gleichungen, um Gebühren für die Prognose mit einer Zeitreihe zu berechnen: foundation model
- Eingabeberechnung:
context length x number of series x number of channels - Outputberechnung:
prediction length x number of series x number of channels
Diese Gleichungen verwenden die folgenden Parameter:
- Die Kontextlänge bezieht sich auf die Anzahl der historischen Datenpunkte, die eine Zeitreihe foundation model als Eingabe für Vorhersagen verwendet.
- Eine Reihe ist eine Sammlung von Beobachtungen, die nacheinander im Laufe der Zeit gemacht werden. Wenn man beispielsweise die Aktienkurse vieler Unternehmen vergleicht, ist die beobachtete Aktienkursentwicklung für jedes Unternehmen eine separate Reihe.
- Kanäle sind die spezifischen Merkmale oder Variablen, die innerhalb eines Zeitreihendatensatzes gemessen werden.
- Die Vorhersagelänge ist die Anzahl der zukünftigen Datenpunkte, die das Modell vorhersagen soll.
Weitere Informationen zu diesen Werten finden Sie unter "Prognose zukünftiger Datenwerte ".
| Ressourcentyp | Modell der Preisstufe | Preis in USD pro RE |
|---|---|---|
| Eingabedatenpunkte | Klasse 14 | $0.00013 |
| Ausgangsdatenpunkte | Klasse 15 | $0.00038 |
Das folgende Beispiel zeigt, wie die Kosten für eine Zeitreihenprognoseanforderung mit den folgenden Parametern berechnet werden:
| Parameter | Beispielmenge |
|---|---|
| Länge des Kontexts (Modell granite-ttm-1536-96-r2 ) | 1.536 |
| Kanäle | 10 |
| Serie | 1000 |
| Länge der Vorhersage | 96 |
Gesamtzahl der Eingabedatenpunkte: 15.360.000 (Kontextlänge von 1.536, 10 Kanäle, für 1.000 Serien)
15,360,000 / 1,000 = 15,360 x 0.00013 = 1.9968Gesamtzahl der ausgegebenen Datenpunkte: 960.000 (Prognose für 96 Zeitpunkte, 10 Kanäle, für 1.000 Serien)
960,000 / 1,000 = 960 x 0.00038 = 0.3648Gesamtpreis für die Zeitreihenprognose: 2.36 (Eingabekosten: 1.9968 + Ausgabekosten: 0.3648 )
1.9968 + 0.3648 = 2.3616
Stundensätze für individuelle Gründungsmodelle
Für die Bereitstellung von benutzerdefinierten Basismodellen ist der Standardplan erforderlich.
Die Gebührensätze richten sich nach der Hardwarekonfiguration des Modells und gelten für das Hosting und die Inferenz des Modells. Die Gebühren beginnen, wenn das Modell erfolgreich eingesetzt wird, und laufen weiter, bis das Modell gelöscht wird.
| Konfigurationsgröße | Abrechnungssatz pro Stunde in USD |
|---|---|
| Klein | $5.22 |
| Mittel | $10.40 |
| Groß | $20.85 |
Einzelheiten zur Auswahl einer Konfiguration für ein benutzerdefiniertes foundation model finden Sie unter Planung der Bereitstellung eines benutzerdefinierten foundation model.
Stündliche Abrechnungssätze für Bereitstellungsmodelle auf Anfrage
Stellen Sie die Basismodelle bei Bedarf bereit, wenn Sie eine gehostete Lösung wünschen, die ausschließlich für die Nutzung durch Ihr Unternehmen reserviert ist. Nur Kollegen, denen Sie Zugriff auf die Bereitstellung gewähren, können auf das foundation model zugreifen. Eine dedizierte Bereitstellung bedeutet schnellere und reaktionsschnellere Interaktionen und ermöglicht Eingabeaufforderungen mit größeren Kontextfenstern. Die Gebührensätze werden pro Modell festgelegt und gelten für das Hosting und die Inferenz des Modells. Die Aufladung beginnt, wenn das Modell eingesetzt wird, und dauert an, bis das Modell gelöscht wird.
Weitere Informationen zur Bereitstellung von foundation model on demand, einschließlich der Preise, finden Sie unter "Unterstützte Stiftungsmodelle in watsonx.ai ".
Preise pro Seite für die Extraktion von Dokumententext
Verwenden Sie die Methode der Dokumentenextraktion der watsonx.ai REST API, um stark strukturierte PDF-Dateien mit Diagrammen und Tabellen in ein AI-Modell-freundliches JSON-Dateiformat zu konvertieren. Weitere Informationen finden Sie unter Extrahieren von Text aus Dokumenten.
Die Abrechnung erfolgt pauschal pro bearbeitete Seite. Eine Seite kann eine Textseite (bis zu 1800 Zeichen), ein Bild oder ein .tiff-Frame sein. Der Abrechnungssatz hängt von der Art Ihres Tarifs ab.
| Plantyp | Preis pro Seite in USD |
|---|---|
| Wesentlich | $0.038 |
| Standardwert | $0.030 |
Weitere Informationen
- Einzelheiten zu den Preisen für maschinelle Lernressourcen finden Sie unter Abrechnungssätze für maschinelle Lernressourcen.
- Weitere Informationen zur Nachverfolgung der Zuweisung und des Verbrauchs von Computerressourcen finden Sie unter "Laufzeitnutzung ".
- Weitere Informationen zu den einzelnen Modellen finden Sie unter Unterstützte Stiftungsmodelle.
- Weitere Informationen zur regionalen Verfügbarkeit der einzelnen Modelle finden Sie unter "Regionale Verfügbarkeit für Stiftungsmodelle ".
Übergeordnetes Thema: watsonx.ai Laufzeitpläne