Bereitstellen eines benutzerdefinierten Basismodells

Letzte Aktualisierung: 23. Apr. 2025
Bereitstellen eines benutzerdefinierten Basismodells

Sie können ein benutzerdefiniertes Basismodell hochladen und bereitstellen, um es mit den Inferenzfunktionen von watsonx.ai zu verwenden.

Neben der Arbeit mit Foundation-Modellen, die von IBM kuratiert wurden, können Sie jetzt auch Ihre eigenen Foundation-Modelle einsetzen. Nachdem die Modelle bereitgestellt wurden, erstellen Sie Prompts, die auf die benutzerdefinierten Modelle von Prompt Lab schließen lassen.

Der Einsatz eines benutzerdefinierten Basismodells bietet Ihnen die Flexibilität, die für Ihren Anwendungsfall geeigneten KI-Lösungen zu implementieren.

Wenn Sie ein Modell eines Drittanbieters verwenden, ist es am besten, das Modell direkt vom Modellersteller zu beziehen. Ein Ort, an dem man neue Modelle findet, ist Hugging Face, ein Repository für Open-Source-Grundmodelle, das von vielen Modellbauern genutzt wird.

In diesem Video sehen Sie, wie Sie ein benutzerdefiniertes Basismodell bereitstellen.

Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Aufgaben in dieser Dokumentation.

Importieren von benutzerdefinierten Foundation-Modellen in einen Bereitstellungsbereich

Der Prozess der Bereitstellung eines Basismodells und seiner Verfügbarkeit für die Inferenz umfasst Aufgaben, die von einem ModelOps Ingenieur und einem Prompt Ingenieur ausgeführt werden.

Der ModelOps-Ingenieur muss das Modell zunächst in den Cloud-Speicher hochladen (entweder intern oder extern). Um ein benutzerdefiniertes Basismodell bereitzustellen, muss der ModelOps Ingenieur ein Basismodell-Asset erstellen oder in den Kontext des Bereitstellungsprojekts oder -bereichs verschieben.

Nach der Bereitstellung des Modells in der Produktion kann der Prompt-Ingenieur das benutzerdefinierte Basismodell über die API Prompt Lab oder watsonx.ai aufrufen.

Die folgende Grafik zeigt den Ablauf der Aufgaben, die typischerweise von einem ModelOps-Ingenieur und einem Prompt-Ingenieur durchgeführt werden:

Prozessübersicht für die Bereitstellung eines benutzerdefinierten Gründungsmodells

Modell vorbereiten

Um das Modell vorzubereiten, muss der ModelOps-Ingenieur die folgenden Aufgaben durchführen:

  1. Überprüfen Sie die Überlegungen und Anforderungen für den Einsatz eines benutzerdefinierten Gründungsmodells.
  2. Speichern Sie die Modelldateien im Cloud Object Storage.
  3. Erstellen Sie ein Modell-Asset.

Bereitstellen eines benutzerdefinierten Basismodells

Nach der Vorbereitung des Modells muss der ModelOps-Ingenieur die folgenden Aufgaben durchführen:

  1. Erstellen Sie die Bereitstellung für das benutzerdefinierte Basismodell.
  2. Verwaltung oder Aktualisierung der Bereitstellung.

Aufrufen des benutzerdefinierten Stiftungsmodells

Wenn das Modell bereitgestellt ist, kann der Prompt-Ingenieur damit beginnen, das benutzerdefinierte Basismodell über die Prompt Lab oder watsonx.ai API aufzurufen. Siehe Verwendung des benutzerdefinierten Stiftungsmodells zur Erzeugung von Prompt-Ausgaben.

Hinweis: Nur Mitglieder des Projekts oder Bereichs, in dem das benutzerdefinierte Basismodell bereitgestellt wird, können es anfordern. Das Modell ist für Nutzer anderer Projekte oder Räume nicht verfügbar.

Nächste Schritte

Weitere Informationen

Übergeordnetes Thema: Bereitstellung von Foundation Model Assets