Erstellen Sie eine Batchbereitstellung zum Verarbeiten von Eingabedaten aus einer Datei, einer Datenverbindung oder verbundenen Daten in einem Speicherbucket und schreiben Sie die Ausgabe an ein ausgewähltes Ziel.
Batchbereitstellung erstellen
Im Gegensatz zu einer Onlinebereitstellung, bei der Daten direkt an die Endpunkt-URL für das Echtzeitscoring oder die Verarbeitung übergeben werden, bietet eine Batchbereitstellung mehr Kontrolle über den Scoring-Prozess. Gehen Sie wie folgt vor, um einen Stapelbereitstellungsjob zu erstellen:
- Organisieren Sie Ihre Ressourcen in einem Bereitstellungsbereich. Sie können das bereitstellbare Asset hochstufen oder hinzufügen und optional Datendateien oder Datenverbindungen für das Scoring der Bereitstellung hinzufügen.
- Wenn Sie das Asset bereitstellen, wie z. B. ein Modell für maschinelles Lernen, wählen Sie 'Batch' als Bereitstellungstyp aus.
- Erstellen und konfigurieren Sie einen Stapelbereitstellungsjob. Sie müssen die Eingabedaten für die Bereitstellung, die Position zum Schreiben der Ausgabe, Details zur Ausführung des Jobs nach einem Zeitplan oder nach Bedarf angeben. Sie können auch optionale Einstellungen wie Hardwarekonfigurationsdetails oder Optionen für Benachrichtigungen konfigurieren.
- Bei der Ausführung des Jobs werden die Eingabedaten an den Implementierungsendpunkt übergeben und die Ausgabe in die Ausgabedatei geschrieben. Sie können die Ausgabe auf der Seite 'Assets' des Space anzeigen oder herunterladen, nachdem der Job erfolgreich abgeschlossen wurde.
Implementierbare Assettypen für Batchbereitstellungen
Sie können Batchbereitstellungen für die folgenden Assettypen erstellen:
- Funktionen
- Modelle
- AutoAI -Modelle
- Decision Optimization-Modelle
- PMML-Modelle
- PyTorch-Onnx
- Scikit-learn-Modelle
- Spark MLlib
- SPSS Modeler -Modelle
- Tensorflow -Modelle
- XGBoost-Modelle
- Scripts
Sie können keine R Shiny-Anwendungsressourcen bereitstellen auf watsonx.ai.
Methoden zum Erstellen einer Batchbereitstellung
Sie können eine Batchbereitstellung auf eine der folgenden Arten erstellen:
- Verwenden Sie einen No-Code-Ansatz, um eine Batchbereitstellung aus einem Bereitstellungsbereich zu erstellen.
- Verwenden Sie Code, um eine Batchbereitstellung programmgesteuert in Notebooks zu erstellen.
Erstellen einer Batch-Bereitstellung über die Benutzeroberfläche
Gehen Sie wie folgt vor, um eine Batchbereitstellung zu erstellen und zu testen.
Vorbereitende Schritte
Sie müssen Ihre Anmeldedaten für die Aufgabe einrichten, indem Sie einen API-Schlüssel erstellen. Weitere Informationen finden Sie unter Verwalten von Berechtigungsnachweisen für Aufgaben.
Batchbereitstellung erstellen
Führen Sie die folgenden Schritte aus, um Ihre Batchbereitstellung aus einem Bereitstellungsbereich zu erstellen:
Klicken Sie auf der Registerkarte Assets in Ihrem Bereitstellungsbereich auf den Namen des Modells.
Klicken Sie auf Neue Bereitstellung.
Wählen Sie Batch als Bereitstellungstyp aus.
Geben Sie einen Namen und eine optionale Beschreibung für Ihre Implementierung ein.
Wählen Sie eine Hardwarespezifikationaus.
Einschränkung:Sie können keine angepassten Hardwarespezifikationen in der Benutzerschnittstelle in einem Bereitstellungsbereich erstellen oder auswählen. Weitere Informationen zur Erstellung und Auswahl einer Hardwarespezifikation finden Sie unter Hardwarespezifikationen für Implementierungen verwalten.
Klicken Sie auf Erstellen. Wenn sich der Status in Bereitgestelltändert, wird Ihre Bereitstellung erstellt.
Batchbereitstellung testen
Zum Testen einer Batchbereitstellung aus Ihrem Bereitstellungsbereich müssen Sie einen Batch-Job erstellen, um Daten zur Verarbeitung zu übergeben.
- Klicken Sie auf Neuer Job , um einen Batch-Job für die implementierte Anlage zu erstellen.
- Befolgen Sie die Eingabeaufforderungen, um den Job zu definieren und Eingabedaten sowie Details für die Ausführung des Jobs anzugeben.
- Speichern Sie den Job manuell oder nach einem angegebenen Zeitplan und führen Sie ihn aus.
Weitere Informationen zum Erstellen, Ausführen und Verwalten von Jobs finden Sie unter Jobs in einem Bereitstellungsbereich erstellen.
Endpunkt für eine Batchbereitstellung abrufen
Sie müssen die Endpunkt-URL abrufen, um über Ihre Anwendungen auf Ihre Batchbereitstellung zuzugreifen. Führen Sie die folgenden Schritte aus, um die Endpunkt-URL für Ihre Batchbereitstellung abzurufen:
- Klicken Sie in Ihrem Bereitstellungsbereich auf den Namen Ihrer Batchbereitstellung.
- Klicken Sie auf der Seite mit den Bereitstellungsdetails auf den Namen Ihres Batch-Jobs.
Wenn Sie keinen vorhandenen Batch-Job für Ihre Batchbereitstellung haben, müssen Sie einen erstellen. Weitere Informationen finden Sie unter Jobs in einem Bereitstellungsbereich erstellen.
- Auf der Detailseite für Batch-Jobs können Sie auf die Endpunkt-URL für Ihre Batchbereitstellung zugreifen. Klicken Sie auf die Kopie
Symbol, um die Endpunkt-URL in Ihre Zwischenablage zu kopieren.
Auf Batchbereitstellungsdetails zugreifen
Sie können die Konfigurationsdetails anzeigen, beispielsweise die Hardware- und Softwarespezifikationen. Sie können außerdem die Bereitstellungs-ID abrufen, die Sie in API-Aufrufen aus einem Endpunkt verwenden können.
Führen Sie die folgenden Schritte aus, um die Details für Ihre Batchbereitstellung zu überprüfen oder zu aktualisieren:
- Klicken Sie auf der Registerkarte Implementierungen Ihres Bereichs auf einen Bereitstellungsnamen.
- Klicken Sie auf die Registerkarte Bereitstellungsdetails , um auf Informationen zuzugreifen, die sich auf Ihre Batchbereitstellung beziehen.
Batchbereitstellung über das Programm mithilfe von Notebooks erstellen
Sie können eine Stapelbereitstellung programmgesteuert erstellen, indem Sie Folgendes verwenden:
Um auf Beispiel-Notebooks zuzugreifen, die zeigen, wie man mit dem watsonx.ai Runtime Python Deployments erstellt und verwaltet, siehe watsonx.ai Runtime Python Beispiele und Beispiele.
Stapelbereitstellung programmgesteuert testen
Zum programmgesteuerten Testen Ihrer Stapelbereitstellung müssen Sie einen Stapeljob erstellen und ausführen. Nach der erfolgreichen Ausführung des Batch-Scoring werden die Ergebnisse in eine Datei geschrieben.
Endpunkt für eine Batchbereitstellung programmgesteuert abrufen
So rufen Sie die Endpunkt-URL Ihrer Batchbereitstellung aus einem Notebook ab:
- Listen Sie die Bereitstellungen auf, indem Sie die Python -Clientmethode
client.deployments.list()aufrufen. - Suchen Sie die Zeile mit Ihrer Implementierung. Die Implementierungsendpunkt-URL wird in der Spalte
urlaufgelistet.
Weitere Informationen
- Weitere Informationen zum Testen Ihrer Stapelbereitstellung durch Erstellen eines Stapeljobs finden Sie unter Jobs in Bereitstellungsbereichen erstellen.
- Informationen zum Zugriff auf Beispielnotebooks für Stapelbereitstellungen finden Sie unter:
Übergeordnetes Thema: Vorhersagebereitstellungen verwalten