Bereitstellen eines benutzerdefinierten Basismodells
Letzte Aktualisierung: 23. Apr. 2025
Bereitstellen eines benutzerdefinierten Basismodells
Sie können ein benutzerdefiniertes Basismodell hochladen und bereitstellen, um es mit den Inferenzfunktionen von watsonx.ai zu verwenden.
Neben der Arbeit mit Foundation-Modellen, die von IBM kuratiert wurden, können Sie jetzt auch Ihre eigenen Foundation-Modelle einsetzen. Nachdem die Modelle bereitgestellt wurden, erstellen Sie Prompts, die auf die benutzerdefinierten Modelle von Prompt Lab schließen lassen.
Der Einsatz eines benutzerdefinierten Basismodells bietet Ihnen die Flexibilität, die für Ihren Anwendungsfall geeigneten KI-Lösungen zu implementieren.
Wenn Sie ein Modell eines Drittanbieters verwenden, ist es am besten, das Modell direkt vom Modellersteller zu beziehen. Ein Ort, an dem man neue Modelle findet, ist Hugging Face, ein Repository für Open-Source-Grundmodelle, das von vielen Modellbauern genutzt wird.
In diesem Video sehen Sie, wie Sie ein benutzerdefiniertes Basismodell bereitstellen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Aufgaben in dieser Dokumentation.
Importieren von benutzerdefinierten Foundation-Modellen in einen Bereitstellungsbereich
Copy link to section
Der Prozess der Bereitstellung eines Basismodells und seiner Verfügbarkeit für die Inferenz umfasst Aufgaben, die von einem ModelOps Ingenieur und einem Prompt Ingenieur ausgeführt werden.
Der ModelOps-Ingenieur muss das Modell zunächst in den Cloud-Speicher hochladen (entweder intern oder extern). Um ein benutzerdefiniertes Basismodell bereitzustellen, muss der ModelOps Ingenieur ein Basismodell-Asset erstellen oder in den Kontext des Bereitstellungsprojekts oder -bereichs verschieben.
Nach der Bereitstellung des Modells in der Produktion kann der Prompt-Ingenieur das benutzerdefinierte Basismodell über die API Prompt Lab oder watsonx.ai aufrufen.
Die folgende Grafik zeigt den Ablauf der Aufgaben, die typischerweise von einem ModelOps-Ingenieur und einem Prompt-Ingenieur durchgeführt werden:
Modell vorbereiten
Copy link to section
Um das Modell vorzubereiten, muss der ModelOps-Ingenieur die folgenden Aufgaben durchführen:
Hinweis: Nur Mitglieder des Projekts oder Bereichs, in dem das benutzerdefinierte Basismodell bereitgestellt wird, können es anfordern. Das Modell ist für Nutzer anderer Projekte oder Räume nicht verfügbar.
Über den Einsatz von Cookies auf dieser WebsiteUnsere Websites benötigen einige Cookies, um ordnungsgemäß zu funktionieren (erforderlich). Darüber hinaus können mit Ihrer Zustimmung weitere Cookies verwendet werden, um die Nutzung der Website zu analysieren, die Benutzerfreundlichkeit zu verbessern und Werbung zu schalten.Weitere Informationen finden Sie in Ihren Cookie-Benutzervorgaben. Durch den Besuch unserer Website erklären Sie sich mit der Verarbeitung von Informationen einverstanden, wie in der IBMDatenschutzbestimmung beschrieben.Um eine reibungslose Navigation zu ermöglichen, werden Ihre Cookie-Präferenzen über die hier aufgeführten IBM Web-Domains hinweg gemeinsam genutzt.