Sie können ein benutzerdefiniertes foundation model zur Verwendung mit den Inferenzfunktionen watsonx.ai hochladen und bereitstellen.
Neben der Arbeit mit Foundation-Modellen, die von IBM kuratiert wurden, können Sie jetzt auch Ihre eigenen Foundation-Modelle einsetzen. Nachdem die Modelle bereitgestellt wurden, erstellen Sie Prompts, die auf die benutzerdefinierten Modelle aus dem Prompt-Labor schließen lassen.
Durch die Bereitstellung eines benutzerdefinierten foundation model erhalten Sie die Flexibilität, die KI-Lösungen zu implementieren, die für Ihren Anwendungsfall geeignet sind.
Wenn Sie ein Modell eines Drittanbieters verwenden, ist es am besten, das Modell direkt vom Modellersteller zu beziehen. Eine Quelle für neue Modelle ist Hugging Face , ein Repository für Open-Source-Grundlagenmodelle, das von vielen Modellbauern verwendet wird.
Sehen Sie sich dieses Video an, um zu erfahren, wie Sie ein benutzerdefiniertes foundation model bereitstellen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Aufgaben in dieser Dokumentation.
Importieren von benutzerdefinierten Foundation-Modellen in einen Bereitstellungsbereich
Der Prozess zum Bereitstellen eines foundation model und zu seiner Verfügbarkeit für Inferenzen umfasst Aufgaben, die von einem ModelOps -Ingenieur und einem Prompt-Ingenieur ausgeführt werden.
Der ModelOps-Ingenieur muss das Modell zunächst in den Cloud-Speicher hochladen (entweder intern oder extern). Um ein benutzerdefiniertes foundation model bereitzustellen, muss der ModelOps Ingenieur ein foundation model Asset erstellen oder in den Bereitstellungsprojekt- oder Space-Kontext befördern.
Nachdem das Modell in der Produktion bereitgestellt wurde, kann der Prompt-Ingenieur das benutzerdefinierte foundation model über die Prompt Lab- oder watsonx.ai -API anfordern.
Die folgende Grafik zeigt den Ablauf der Aufgaben, die typischerweise von einem ModelOps-Ingenieur und einem Prompt-Ingenieur durchgeführt werden:
Modell vorbereiten
Um das Modell vorzubereiten, muss der ModelOps-Ingenieur die folgenden Aufgaben durchführen:
Bereitstellen eines benutzerdefinierten foundation model
Nach der Vorbereitung des Modells muss der ModelOps-Ingenieur die folgenden Aufgaben durchführen:
Eingabeaufforderung für das benutzerdefinierte foundation model
Wenn das Modell bereitgestellt ist, kann der Prompt-Ingenieur mit der Eingabeaufforderung für das benutzerdefinierte foundation model über die Prompt Lab- oder watsonx.ai -API beginnen. Siehe „Verwenden des benutzerdefinierten foundation model zum Generieren einer Eingabeaufforderungsausgabe“ .
Nächste Schritte
Weitere Informationen
- Entwicklung generativer KI-Lösungen mit Basismodellen (watsonx.ai)
- Abrechnungssätze für individuelle Fundamentmodelle
Übergeordnetes Thema: Bereitstellen foundation model Modellressourcen