Bereitstellen eines benutzerdefinierten Basismodells
Sie können ein benutzerdefiniertes Basismodell hochladen und bereitstellen, um es mit den Inferenzfunktionen von watsonx.ai zu verwenden.
Benutzerdefinierte Fundamentmodelle sind nur in watsonx Bereitstellungen auf IBM Cloud verfügbar. watsonx bereitstellungen auf AWS können keine benutzerdefinierten Foundation-Modelle verwenden.
Neben der Arbeit mit Foundation-Modellen, die von IBM kuratiert wurden, können Sie jetzt auch Ihre eigenen Foundation-Modelle einsetzen. Nachdem die Modelle bereitgestellt wurden, erstellen Sie Prompts, die auf die benutzerdefinierten Modelle von Prompt Lab schließen lassen.
Der Einsatz eines benutzerdefinierten Basismodells bietet Ihnen die Flexibilität, die für Ihren Anwendungsfall geeigneten KI-Lösungen zu implementieren.
Wenn Sie ein Modell eines Drittanbieters verwenden, ist es am besten, das Modell direkt vom Modellersteller zu beziehen. Ein Ort, an dem man neue Modelle findet, ist Hugging Face, ein Repository für Open-Source-Grundmodelle, das von vielen Modellbauern genutzt wird.
In diesem Video sehen Sie, wie Sie ein benutzerdefiniertes Basismodell bereitstellen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Aufgaben in dieser Dokumentation.
Importieren von benutzerdefinierten Foundation-Modellen in einen Bereitstellungsbereich
Der Prozess der Bereitstellung eines Basismodells und seiner Verfügbarkeit für die Inferenz umfasst Aufgaben, die von einem ModelOps Ingenieur und einem Prompt Ingenieur ausgeführt werden.
Der ModelOps-Ingenieur muss das Modell zunächst in den Cloud-Speicher hochladen (entweder intern oder extern). Um ein benutzerdefiniertes Basismodell bereitzustellen, muss der ModelOps Ingenieur ein Basismodell-Asset erstellen oder in den Kontext des Bereitstellungsprojekts oder -bereichs verschieben.
Nach der Bereitstellung des Modells in der Produktion kann der Prompt-Ingenieur das benutzerdefinierte Basismodell über die API Prompt Lab oder watsonx.ai aufrufen.
Die folgende Grafik zeigt den Ablauf der Aufgaben, die typischerweise von einem ModelOps-Ingenieur und einem Prompt-Ingenieur durchgeführt werden:
Modell vorbereiten
Um das Modell vorzubereiten, muss der ModelOps-Ingenieur die folgenden Aufgaben durchführen:
Bereitstellen eines benutzerdefinierten Basismodells
Nach der Vorbereitung des Modells muss der ModelOps-Ingenieur die folgenden Aufgaben durchführen:
Aufrufen des benutzerdefinierten Stiftungsmodells
Wenn das Modell bereitgestellt ist, kann der Prompt-Ingenieur damit beginnen, das benutzerdefinierte Basismodell über die Prompt Lab oder watsonx.ai API aufzurufen. Siehe Verwendung des benutzerdefinierten Stiftungsmodells zur Erzeugung von Prompt-Ausgaben.
Nächste Schritte
Weitere Informationen
- Entwicklung generativer KI-Lösungen mit Basismodellen (watsonx.ai)
- Abrechnungssätze für individuelle Fundamentmodelle
Übergeordnetes Thema: Bereitstellung von Foundation Model Assets