Mit IBM watsonx.ai Runtime können Sie Modelle, Skripte und Funktionen für maschinelles Lernen einsetzen. Nachdem Sie Bereitstellungen erstellt haben, können Sie sie testen und verwalten und Ihre Assets für die Bereitstellung in Vorproduktions-und Produktionsumgebungen vorbereiten, um Vorhersagen und Einblicke zu generieren.
Service Der Administrator muss den watsonx.ai Runtime Service auf der Cloud Pak for Data as a Service Plattform bereitstellen, um dessen Fähigkeiten zu nutzen.
Implementierungsprozess
Der typische Prozess für die Implementierung eines Assets lautet wie folgt:
- Implementierungstyp auswählen: Wählen Sie einen Implementierungstyp für den Assettyp aus, den Sie implementieren wollen.
- Bereitstellung erstellen: Je nach Assettyp können Sie eine Online-, Stapel-, Anwendungs-oder freigegebene Bereitstellung erstellen.
- Testbereitstellung: Sie können Ihre Bereitstellungen testen, indem Sie Testdaten eingeben, JSON-Nutzdaten bereitstellen oder einen Batch-Job erstellen.
- Implementierungsendpunkt abrufen: Um Ihre Implementierung in einer Anwendung verwenden zu können, müssen Sie den Endpunkt Ihrer Implementierung abrufen. Der Modellendpunkt bietet Zugriff auf eine Schnittstelle zum Aufrufen und Verwalten von Modellbereitstellungen.
Die folgende Abbildung zeigt den Prozess für die Bereitstellung von KI-Assets:
Bereitstellungstypen
Die gängigsten Typen von Implementierungen sind:
Onlinebereitstellung: Erstellen Sie eine Onlinebereitstellung, um Eingabedaten in Echtzeit zu verarbeiten. Um die Onlinebereitstellung in Echtzeit zu testen, können Sie neue Kundendaten an den Bereitstellungsendpunkt übergeben, um eine Vorhersage in Echtzeit zu erhalten.
Stapelbereitstellung: Erstellen Sie eine Stapelbereitstellung, um einen großen Stapel von Eingabedaten aus einer Datenquelle zu verarbeiten und die Ausgabe an ein ausgewähltes Ziel zu schreiben. Sie können den Stapelbereitstellungsjob konfigurieren und den Job nach einem Zeitplan oder bei Bedarf ausführen.
Typen implementierbarer Assets
Der Typ des Assets, das Sie implementieren, bestimmt den Implementierungstyp, den Sie erstellen können. Python -Funktionen, -Scripts und -Modelle wie AutoAI oder Decision Optimization unterstützen beispielsweise Online-und Batchbereitstellungen. Sie können Onlinebereitstellungen jedoch nur für Modelle erstellen, die aus einer Datei importiert werden. Die verschiedenen Typen implementierbarer Assets sind:
- watsonx.ai Runtime-Assets: Sie können watsonx.ai Runtime-Assets für maschinelles Lernen wie Python, R Shiny-Anwendungen, NLP-Modelle, Skripte und mehr mit watsonx.ai Runtime bereitstellen.
- Decision Optimization: Sie können Decision Optimization mit watsonx.ai Runtime bereitstellen.
Möglichkeiten zur Implementierung von Assets
Sie können Ihre Assets wie folgt implementieren und verwalten:
Implementieren und verwalten Sie Assets in einem Bereitstellungsbereich mit einem No-Code-Ansatz.
Implementieren und verwalten Sie Assets programmgesteuert mithilfe eines angepassten Codeansatzes.
Assets in Bereitstellungsbereichen implementieren und verwalten
Erstellen Sie einen Bereitstellungsbereich für die Zusammenarbeit mit Stakeholdern und implementieren und verwalten Sie Assets in einem Bereitstellungsbereich.
Zum Verwalten Ihrer Assets in einem Bereitstellungsbereich müssen Sie Ihre Assets aus einem Projekt in Ihren Bereitstellungsbereich hochstufen. Sie können auch Assets aus Ihrem Bereitstellungsbereich importieren oder exportieren.
Verwenden Sie das Bereitstellungsdashboard , um eine zusammengefasste Ansicht Ihrer Bereitstellungen abzurufen und die Bereitstellungsaktivität zu überwachen.
Assets programmgesteuert implementieren und verwalten
Sie können Assets mit Hilfe der Python oder der watsonx.ai Runtime API bereitstellen und verwalten. Weitere Informationen finden Sie unter Programmatische Bereitstellung von KI-Assets.
Frameworks und Softwarespezifikationen für Bereitstellungen verwalten
Softwarespezifikationen und Frameworks enthalten Pakete mit entsprechenden Paketversionen.
Sie können vordefinierte Softwarespezifikationen verwenden oder angepasste Softwarespezifikationen erstellen, indem Sie neue Pakete zu vorhandenen Frameworks hinzufügen, neue Pakete erstellen oder Paketversionen in Softwarespezifikationen aktualisieren.
Weitere Informationen
Übergeordnetes Thema: KI-Assets implementieren und verwalten