Framework

Ein Framework enthält eine Reihe wiederverwendbarer Algorithmen, Tools und Bibliotheken zur Entwicklung von Modellen für maschinelles Lernen, auf denen Sie für bestimmte Anwendungsanforderungen aufbauen können. Frameworks beschreiben das Framework für maschinelles Lernen oder Deep Learning, das zum Erstellen des Modells verwendet wird. Sie können beliebte Frameworks wie Tensorflow, das sowohl Deep Learning als auch traditionelle Machine Learning-Algorithmen unterstützt, mit watsonx.ai Runtime für eine effizientere Entwicklung nutzen.

Modelltyp

Der Modelltyp gibt das Machine Learning-oder Deep Learning-Framework und die Frameworkversion an, die zum Erstellen des Machine Learning-Modells verwendet wird. Modelle für maschinelles Lernen oder Deep Learning, die Sie mit demselben Framework erstellen, sind möglicherweise nicht versionsübergreifend kompatibel. Wenn Sie Ihr Modell beispielsweise mit dem Modelltyp pytorch-onnx_1.10 erstellt haben, müssen Sie Ihr Modell mit pytorch Version 1.10 erstellen und im ONNX-Format speichern.

Softwarespezifikation

Software-Spezifikationen definieren die Programmiersprache und die Version, die Sie für die Erstellung eines Modells oder einer Funktion verwenden. Sie können Softwarespezifikationen verwenden, um die Software zu konfigurieren, die zum Ausführen Ihrer Modelle und Funktionen verwendet wird. Sie können auch die zu verwendende Softwareversion definieren und Ihre eigenen Erweiterungen einschließen. Sie können beispielsweise Conda-YML-Dateien oder angepasste Bibliotheken verwenden.

Plattform

Plattform beschreibt die Hardwareplattform, auf der Sie Ihr Modell für maschinelles Lernen mit einer unterstützten Softwarespezifikation bereitstellen können. Je nach Framework, mit dem Sie Ihr Modell erstellt haben, können Sie watsonx.ai Runtime verwenden, um Ihr Modell auf Zs390x), Power (PPC) oder x86 einzusetzen.

Lebenszyklus von unterstützten Frameworks und Softwarespezifikationen

Frameworks, Softwarespezifikationen und Modelltypen, die unterstützt werden, wenn Sie eine Installation oder ein Upgrade auf die neueste Version von watsonx durchführen, durchlaufen in zukünftigen Releases von watsonxdie folgenden Phasen der Einstellung der Unterstützung, der Einengung und der Einstellung:

1. Unterstützt: Die Laufzeitumgebung, die der Softwarespezifikation entspricht, wird unterstützt, wenn Sie Cloud Pak for Datainstallieren oder ein Upgrade auf die neueste Version durchführen.

   Zum Beispiel wird die Softwarespezifikation " runtime-24.1-py3.11 in Cloud Pak for Data Version 5.0 unterstützt. Wenn Sie in diesem Fall eine neue watsonx.ai Runtime Service-Instanz installieren oder darauf aktualisieren, können Sie Modelle für maschinelles Lernen erstellen oder bereitstellen, die " runtime-24.1-py3.11 verwenden.

   Weitere Informationen finden Sie unter Unterstützte Bereitstellungsframeworks und Softwarespezifikationen.

2. Veraltet: Die Laufzeitumgebung, die der Softwarespezifikation entspricht, wird unterstützt, wenn Sie watsonx.aiinstallieren oder ein Upgrade auf die neueste Version durchführen, aber in einem bevorstehenden Release entfernt werden.

   Das foundation model " mixtral-8x7b-instruct-v01-q ist zum Beispiel in watsonx.ai hinterlegt. Wenn Sie in diesem Fall eine neue watsonx.ai Runtime Service-Instanz installieren, können Sie Modelle für maschinelles Lernen erstellen oder bereitstellen, die " mixtral-8x7b-instruct-v01-q verwenden. Die Unterstützung für mixtral-8x7b-instruct-v01-q wird jedoch in einem kommenden Release eingestellt.

3. Eingestellt: Die Laufzeitumgebung, die der Softwarespezifikation entspricht, wird nicht unterstützt, wenn Sie watsonx.aiinstallieren oder ein Upgrade auf die neueste Version durchführen.

   Die Unterstützung für granite-13b-chat-v1 in watsonx.aiwird beispielsweise eingestellt. Wenn Sie in diesem Fall eine neue watsonx.ai Runtime Service-Instanz installieren oder auf diese aktualisieren, können Sie keine Modelle für maschinelles Lernen erstellen oder bereitstellen, die eine auf Python 3.9 basierende Software-Spezifikation verwenden.

Veraltete Frameworks und Softwarespezifikationen verwalten

Aktualisieren Sie Softwarespezifikationen und Frameworks in Ihren Modellen, wenn sie veraltet sind. Manchmal können Sie Ihre Assets nahtlos aktualisieren. In anderen Fällen müssen Sie Ihre Assets erneut trainieren oder erneut implementieren.

Weitere Informationen finden Sie unter Veraltete Softwarespezifikationen oder Frameworks verwalten.

Übergeordnetes Thema: Bereitstellen von Assets mit watsonx.ai Runtime