Assets in Bereitstellungsbereichen implementieren und verwalten

Erstellen Sie einen Bereitstellungsbereich, um mit Stakeholdern zusammenzuarbeiten und Ihre KI-Assets bereitzustellen und zu verwalten. Zum Verwalten Ihrer Assets in einem Bereitstellungsbereich müssen Sie Ihre Assets aus einem Projekt in Ihren Bereitstellungsbereich hochstufen. Sie können auch Assets aus Ihrem Bereitstellungsbereich importieren oder exportieren. Weitere Informationen finden Sie in Bereitstellungsbereiche.

Die folgende Abbildung zeigt die typischen Aktivitäten zum Implementieren von KI-Assets:

Möglichkeiten zur Implementierung von Assets

Sie können Ihre Assets wie folgt implementieren und verwalten:

• Methode ohne Code verwenden: Sie können eine Methode ohne Code verwenden, um Assets in einem Bereitstellungsbereich bereitzustellen und zu verwalten. Weitere Informationen finden Sie unter Assets in Bereitstellungsbereichen implementieren und verwalten .

• Verwenden Sie einen Ansatz mit angepasstem Code . Sie können einen Ansatz mit angepasstem Code verwenden, um Assets programmgesteuert zu implementieren und zu verwalten, indem Sie Folgendes verwenden:

  • Python-Client

  • Watson Machine Learning-API

  Weitere APIs für Cloud Pak for Data as a Service finden Sie unter APIs fürCloud Pak for Data.

Bereitstellungstypen

Abhängig von den Anforderungen Ihrer Organisation können Sie eine Online-oder Stapelbereitstellung erstellen:

• Onlinebereitstellung: Erstellen Sie eine Onlinebereitstellung, um Eingabedaten in Echtzeit zu verarbeiten. Um die Onlinebereitstellung in Echtzeit zu testen, können Sie neue Kundendaten an den Bereitstellungsendpunkt übergeben, um eine Vorhersage in Echtzeit zu erhalten. Sie können Ihre Online-Implementierung testen, indem Sie Testdaten in einem Formular oder über JSON-Code eingeben. Weitere Informationen finden Sie unter Onlinebereitstellungen in Watson Machine Learning.

• Stapelbereitstellung: Erstellen Sie eine Stapelbereitstellung, um einen großen Stapel von Eingabedaten aus einer Datenquelle zu verarbeiten und die Ausgabe an ein ausgewähltes Ziel zu schreiben. Zum Testen Ihrer Batchbereitstellung müssen Sie einen Batchbereitstellungsjob erstellen. Sie können den Stapelbereitstellungsjob konfigurieren, indem Sie Details zu den Eingabedaten und zur Ausgabedatei sowie Informationen zur Ausführung des Jobs nach einem Zeitplan oder auf Anforderung bereitstellen. Weitere Informationen finden Sie unter Batchbereitstellungen in Watson Machine Learning.

• Anwendungsbereitstellung: Erstellen Sie eine Anwendungsbereitstellung, um Ihre Anwendungsassets, wie z. B. R Shiny-Anwendungen, bereitzustellen. Weitere Informationen finden Sie unter Shiny-Apps in Watson Machine Learning.

Implementierungsendpunkte abrufen

Um Ihr bereitgestelltes Asset in Anwendungen für die Erstellung von Prognosen zu verwenden, rufen Sie die Endpunkt-URL für Ihre Online- oder Batch-Bereitstellung ab. Der Modellendpunkt bietet Zugriff auf eine Schnittstelle zum Aufrufen und Verwalten von Modellbereitstellungen.

Weitere Informationen finden Sie unter Endpunkt für eine Onlinebereitstellung abrufen oder Endpunkt für eine Batchbereitstellung abrufen.

Typen implementierbarer Assets

Sie können bestimmte Assets nur verwenden, um Online-oder Stapelbereitstellungen zu erstellen. Sowohl Online-als auch Batch-Bereitstellungen unterstützen beispielsweise die Bereitstellung von Assets wie Python -Funktionen, -Scripts und -Modellen wie AutoAI oder Decision Optimization . Sie können Onlinebereitstellungen jedoch nur für Modelle erstellen, die aus einer Datei importiert werden. Die verschiedenen Typen implementierbarer Assets sind:

• Basismodellassets: Sie können Basismodellassets wie optimierte Modell-oder Eingabeaufforderungsvorlagenassets mit watsonx.aibereitstellen. Weitere Informationen finden Sie unter Basismodellassets bereitstellen.
• Machine Learning -Assets: Sie können Machine Learning -Assets für maschinelles Lernen wie Python -Funktionen, R Shiny-Anwendungen, NLP-Modelle, Scripts und mehr mit Watson Machine Learningbereitstellen. Weitere Informationen finden Sie unter Machine Learning -Assets bereitstellen.
• Decision Optimization -Modelle: Sie können Decision Optimization -Modell mit Watson Machine Learningbereitstellen.

Bereitstellungen verwalten

Sie können auf die Leistung für Ihre Bereitstellung in Ihrem Bereitstellungsbereich zugreifen, sie aktualisieren, skalieren, löschen und überwachen:

• Zugriff auf eine Bereitstellung: Sie haben Zugriff auf Details zu Ihrer Bereitstellung, wie z. B. den Stagetyp, der beschreibt, ob der Bereitstellungsbereich für Vorproduktions-oder Produktionszwecke vorgesehen ist.
• Bereitstellung aktualisieren: Sie können Ihre Bereitstellungsdetails wie Bereitstellungsname, Softwarespezifikation usw. aktualisieren. Weitere Informationen finden Sie unter Bereitstellung aktualisieren.
• Skalierung einer Bereitstellung: Sie können mehrere Kopien Ihrer Bereitstellung erstellen, um die Skalierbarkeit und Verfügbarkeit für eine größere Anzahl von Scoring-Anforderungen zu verbessern. Weitere Informationen finden Sie unter Bereitstellung skalieren.
• Bereitstellung löschen: Löschen Sie Ihre Bereitstellung, wenn Sie sie nicht mehr benötigen, um Ressourcen freizugeben. Weitere Informationen finden Sie unter Bereitstellung löschen.
• Bereitstellungsleistung überwachen: Sie können Ihre Bereitstellungen auswerten, um die Leistung zu messen und Modellvorhersagen zu verstehen, indem Sie eine Watson OpenScale -Instanz bereitstellen und Überwachungen für Fairness, Qualität, Drift und Erklärbarkeit konfigurieren.

Bereitstellungsaktivität überwachen

Verwenden Sie das Dashboard 'Bereitstellungen', um eine zusammengefasste Ansicht Ihrer Bereitstellungen abzurufen und die Bereitstellungsaktivität zu überwachen. Sie können das Dashboard verwenden, um den Status Ihrer Batchbereitstellungsjobs zu überwachen, z. B. aktive Ausführungen und abgeschlossene Ausführungen basierend auf dem Jobzeitplan, den Sie bei der Erstellung des Jobs definiert haben. Sie können auch Informationen zur Anzahl der erfolgreichen und fehlgeschlagenen Onlineimplementierungen abrufen. Weitere Informationen finden Sie unter Dashboard 'Bereitstellungen'.

Laufzeitumgebungen für Implementierungen verwalten

Laufzeitumgebungen stellen die erforderlichen Funktionen für die Ausführung Ihrer Implementierung bereit.

Sie können vordefinierte Laufzeitumgebungen verwenden oder angepasste Laufzeitumgebungen erstellen, um je nach Anwendungsfall weitere Komponenten einzuschließen. Um eine benutzerdefinierte Laufzeitumgebung für Ihre Bereitstellung zu erstellen, müssen Sie eine Dockerfile erstellen und ein Basis-Image hinzufügen. Außerdem können Sie die docker -Befehle hinzufügen, um die Laufzeitumgebung für Ihre Implementierung zu erstellen. Weitere Informationen finden Sie unter Anpassen der Laufzeiten für die Bereitstellung von Watson Machine Learning.

Frameworks und Softwarespezifikationen für Bereitstellungen verwalten

Softwarespezifikationen und Frameworks enthalten Pakete mit entsprechenden Versionen der Pakete.

Je nach Anwendungsfall können Sie vordefinierte Softwarespezifikationen verwenden oder angepasste Softwarespezifikationen erstellen. Sie können beispielsweise neue Pakete zu vorhandenen Frameworks hinzufügen, neue Pakete erstellen oder Paketversionen aus den Softwarespezifikationen ersetzen.

Sie müssen die Softwarespezifikationen Ihres Modells nach der Einstellung der Unterstützung auf die neueste Version aktualisieren, um einen fortgesetzten Service sicherzustellen. Wenn ein Framework veraltet ist, wird die Unterstützung für dieses Framework in einem zukünftigen Release entfernt.

Weitere Informationen finden Sie unter Frameworks und Softwarespezifikationen in Watson Machine Learning.

Weitere Informationen

Einsatzbereiche

Übergeordnetes Thema: KI-Assets implementieren und verwalten