Implementieren Sie ein optimiertes Modell, damit Sie es einem Geschäftsworkflow hinzufügen und mit der Verwendung von Basismodellen auf sinnvolle Weise beginnen können.
Vorbereitende Schritte
Das Tuning-Experiment, mit dem Sie das foundation model abgestimmt haben, muss abgeschlossen sein. Weitere Informationen finden Sie unter Abstimmung eines foundation model.
Sie müssen Ihre Anmeldedaten für die Aufgabe einrichten, indem Sie einen API-Schlüssel erstellen. Weitere Informationen finden Sie unter Verwalten von Berechtigungsnachweisen für Aufgaben.
ein optimiertes Modell zu implementieren
Führen Sie die folgenden Schritte aus, um ein optimiertes Modell bereitzustellen:
Erweitern Sie im Navigationsmenü Projekteund klicken Sie anschließend auf Alle Projekte.
Klicken Sie hier, um Ihr Projekt zu öffnen.
Klicken Sie auf der Registerkarte Assets auf den Assettyp Experimente .
Klicken Sie hier, um das Optimierungsexperiment für das Modell zu öffnen, das Sie implementieren möchten.
Suchen Sie in der Liste Optimierte Modelle nach dem abgeschlossenen Optimierungsexperiment und klicken Sie anschließend auf Neue Bereitstellung.
Benennen Sie das optimierte Modell.
Der Name des Optimierungsexperiments wird als Name des optimierten Modells verwendet, wenn Sie ihn nicht ändern. Hinter dem Namen befindet sich eine Zahl in runden Klammern, die die Bereitstellungen zählt. Die Zahl beginnt bei 1 und wird jedes Mal, wenn Sie dieses Optimierungsexperiment implementieren, um 1 erhöht.
Optional: Fügen Sie eine Beschreibung und Tags hinzu.
Wählen Sie für den Einsatzcontainer eine der folgenden Optionen:
- Dieses Projekt: Stellt das abgestimmte Modell bereit und fügt es zu Ihrem Projekt hinzu, wo Sie das abgestimmte Modell testen können. Sie können die abgestimmte Modellbereitstellung jederzeit in einen Bereitstellungsbereich verschieben. Wählen Sie diese Option, wenn Sie das abgestimmte Modell vor dem Einsatz in der Produktion weiter testen möchten.
- Einsatzbereich: Versetzt das abgestimmte Modell in einen Bereitstellungsbereich und stellt das abgestimmte Modell bereit. Ein Bereitstellungsbereich ist von dem Projekt getrennt, in dem Sie das Asset erstellen. Diese Trennung ermöglicht es Ihnen, Assets aus mehreren Projekten in einen Bereich zu verschieben und Assets in mehr als einem Bereich einzusetzen. Wählen Sie diese Option, wenn das getunte Modell für die Produktion freigegeben werden soll.
Weitere Informationen zu dieser Option finden Sie unter Verwendung eines Bereitstellungsraums.
Tipp: Wählen Sie die Option zur Ansicht nach der Erstellung. Andernfalls müssen Sie weitere Schritte ausführen, um Ihr bereitgestelltes Modell zu finden.
Klicken Sie auf Bereitstellen.
Nachdem das abgestimmte Modell bereitgestellt wurde, wird eine Kopie des abgestimmten Modells in Ihrem Projekt als Modell-Asset gespeichert.
Verwendung eines Bereitstellungsraums
Wenn Sie einen Bereitstellungsbereich als Container für Ihr abgestimmtes Modell wählen, wird das abgestimmte Modell in einen Bereitstellungsbereich verschoben und dann bereitgestellt. Ein Bereitstellungsbereich ist den folgenden Services zugeordnet, die er zum Implementieren von Assets verwendet:
watsonx.ai Runtime: Ein Produkt mit Tools und Services, mit denen Sie Modelle für maschinelles Lernen erstellen, trainieren und einsetzen können. Dieser Service hostet Ihr gedrehte Modell.
IBM Cloud Object Storage: Eine sichere Plattform für die Speicherung strukturierter und unstrukturierter Daten. Ihr bereitgestelltes Modell-Asset wird in einem Cloud Object Storage Bucket gespeichert, das mit Ihrem Projekt verknüpft ist.
Weitere Informationen finden Sie in Bereitstellungsbereiche.
Um einen Bereitstellungsbereich zu verwenden, führen Sie die folgenden Schritte aus:
Nachdem Sie Einsatzbereich als Einsatzcontainer gewählt haben, wählen Sie im Feld Ziel-Einsatzbereich einen Einsatzbereich.
Der Bereitstellungsbereich muss einer Machine Learning-Instanz zugeordnet sein, die sich in demselben Konto wie das Projekt befindet, in dem das optimierte Modell erstellt wurde.
Wenn Sie keinen Bereitstellungsbereich haben, wählen Sie Neuen Bereitstellungsbereich erstellenaus und befolgen Sie die Schritte unter Bereitstellungsbereiche erstellen.
Fügen Sie im Feld Bereitstellungsname eine Beschriftung für die Implementierung hinzu.
Der Bereitstellungsname wird in der URL für den API-Endpunkt verwendet, der Ihre Implementierung identifiziert. Das Hinzufügen eines Namens ist hilfreich, da der von Ihnen hinzugefügte lesbare Name eine lange, vom System generierte ID ersetzt, die andernfalls zugeordnet wird.
Der Bereitstellungsname abstrahiert auch die Bereitstellung aus den zugehörigen Serviceinstanzdetails. Anwendungen können auf diesen Namen verweisen, wodurch die zugrunde liegende Serviceinstanz geändert werden kann, ohne dass sich dies auf Benutzer auswirkt.
Der Name kann bis zu 36 Zeichen lang sein. Die unterstützten Zeichen sind [a-z,0-9, _].
Der Name muss in der IBM Cloud -Region eindeutig sein. Möglicherweise werden Sie aufgefordert, den Serving-Namen zu ändern, wenn der ausgewählte Name bereits verwendet wird.
Implementiertes Modell testen
Der wahre Test Ihres optimierten Modells ist, wie es auf Eingaben reagiert, die auf optimierte Muster folgen.
Sie können das optimierte Modell auf einer der folgenden Seiten testen:
- Projekt: Nützlich, wenn Sie Ihr Modell während der Entwicklungs- und Testphase testen wollen, bevor Sie es in die Produktion überführen.
- Bereitstellungsbereich: Nützlich, wenn Sie Ihr Modell programmgesteuert testen möchten. Auf der Registerkarte API-Referenz finden Sie Informationen zu den verfügbaren Endpunkten und Codebeispielen. Sie können die Eingabe auch als Text übergeben und auswählen, ob die Ausgabe oder ein Datenstrom zurückgegeben werden soll, wenn die Ausgabe generiert wird. Die Eingabeaufforderungsparameter für den Eingabetext können jedoch nicht geändert werden.
- Prompt Lab: Nützlich, wenn Sie ein Werkzeug mit einer intuitiven Benutzeroberfläche für die Eingabeaufforderung von Gründungsmodellen verwenden möchten. Sie können die Eingabeaufforderungsparameter für jede Eingabe anpassen. Sie können die Eingabeaufforderung auch als Notebook speichern, damit Sie programmgesteuert damit interagieren können.
Testen des Bereitstellungsmodells in einem Projekt
Um Ihr abgestimmtes Modell im Projekt zu testen, führen Sie die folgenden Schritte durch:
Klicken Sie in Ihrem Projekt auf die Registerkarte Einrichtungen.
Klicken Sie auf den Namen Ihres bereitgestellten Modells.
Klicken Sie auf die Registerkarte Test .
Fügen Sie im Feld Eingabedaten eine Eingabeaufforderung hinzu, die dem Eingabeaufforderungsmuster folgt, das Ihr optimiertes Modell erkennt, und klicken Sie anschließend auf Generieren.
Sie können auf Parametereinstellungen anzeigen klicken, um die Eingabeaufforderungsparameter anzuzeigen, die standardmäßig auf das Modell angewendet werden. Zum Ändern der Eingabeaufforderungsparameter müssen Sie das Eingabeaufforderungslabor aufrufen.
Testen des Bereitstellungsmodells in einem Bereitstellungsraum
Um Ihr abgestimmtes Modell in einem Bereitstellungsraum zu testen, führen Sie die folgenden Schritte durch:
Wählen Sie im Navigationsmenü Implementierungenaus.
Klicken Sie auf den Namen des Bereitstellungsbereichs, in dem das optimierte Modell bereitgestellt wurde.
Klicken Sie auf den Namen Ihres bereitgestellten Modells.
Klicken Sie auf die Registerkarte Test .
Fügen Sie im Feld Eingabedaten eine Eingabeaufforderung hinzu, die dem Eingabeaufforderungsmuster folgt, das Ihr optimiertes Modell erkennt, und klicken Sie anschließend auf Generieren.
Sie können auf Parametereinstellungen anzeigen klicken, um die Eingabeaufforderungsparameter anzuzeigen, die standardmäßig auf das Modell angewendet werden. Zum Ändern der Eingabeaufforderungsparameter müssen Sie das Eingabeaufforderungslabor aufrufen.
Testen des Bereitstellungsmodells in Prompt Lab
Um Ihr abgestimmtes Modell in Prompt Lab zu testen, führen Sie die folgenden Schritte aus:
Führen Sie die Schritte des vorherigen Verfahrens aus, um das bereitgestellte Modell entweder im Projekt- oder im Bereitstellungsbereich zu öffnen.
Klicken Sie im Projekt auf Öffnen in Prompt Lab. Wenn Sie in einem Bereitstellungsbereich arbeiten, werden Sie aufgefordert, das Projekt auszuwählen, in dem Sie mit dem Modell arbeiten möchten.
Prompt Lab wird geöffnet und das von Ihnen eingesetzte getunte Modell wird im Feld Modell ausgewählt.
Fügen Sie im Abschnitt Versuchen eine Eingabeaufforderung zum Feld Eingabe hinzu, die dem Eingabeaufforderungsmuster folgt, für dessen Erkennung Ihr optimiertes Modell trainiert wurde, und klicken Sie anschließend auf Generieren.
Weitere Informationen zur Verwendung des Eingabeaufforderungseditors finden Sie unter Prompt Lab.
Weitere Informationen
Übergeordnetes Thema: Bereitstellung von foundation model Assets