Ein Fundament programmatisch abstimmen
Sie können eine Reihe von Grundmodellen in watsonx.ai programmgesteuert abstimmen, um sie dann für Ihren Anwendungsfall anzupassen.
Entwicklungsmöglichkeiten
Sie können Foundation-Modelle mithilfe dieser Programmiermethoden abstimmen:
Alternativ können Sie grafische Tools aus der Benutzeroberfläche von watsonx.ai verwenden, um Fundamentmodelle zu optimieren. Siehe Tuning Studio.
REST-API
Die schnelle Abstimmung eines Fundamentmodells mithilfe der API ist eine komplexe Aufgabe. Die Musterhefte von Python vereinfachen den Prozess. Sie können ein Musternotizbuch als Vorlage für Ihre eigenen Notizbücher verwenden, um sie schnell abstimmen zu können. Siehe "Ein Fundamentmodell programmatisch abstimmen ".
Unterstützte Stiftungsmodelle
Siehe "Auswahl eines Fundamentmodells zum Abstimmen ".
Um eine Liste der Grundlagenmodelle zu erhalten, die eine schnelle Abstimmung programmgesteuert unterstützen, können Sie die folgende Anfrage verwenden:
curl -X GET \
'https://{hostname}/ml/v1/foundation_model_specs?version=2025-02-20&filters=function_prompt_tune_trainable'
Vorgehensweise
Auf hoher Ebene umfasst die schnelle Abstimmung eines Fundamentmodells mithilfe der API die folgenden Schritte:
Erstellen Sie eine Aufgabe mit Berechtigung.
Ein Aufgaben-Berechtigungsnachweis ist ein API-Schlüssel, der zur Authentifizierung von lang andauernden Aufträgen verwendet wird, die durch die Schritte gestartet werden, die Sie in diesem Verfahren ausführen. Sie müssen die Berechtigung für die Aufgabe nicht in der API-Anfrage angeben. Ein von Ihnen erstellter Aufgaben-Berechtigungsnachweis muss im Berechtigungsnachweis-Dienst für Ihre
user_id
undaccount_id
vorhanden sein. Siehe "Erstellen von Aufgaben-Berechtigungen ".Erstellen Sie eine Trainingsdatendatei, die Sie zur Feinabstimmung des Grundmodells verwenden können.
Weitere Informationen zu den Anforderungen an die Trainingsdatendatei finden Sie unter "Datenformate für Tuning-Foundation-Modelle ".
Laden Sie Ihre Trainingsdatendatei hoch.
Sie können die Datei hinzufügen, indem Sie einen der folgenden Asset-Typen erstellen:
Verbindungsasset
Hinweis : Für das Prompt-Tuning-Training wird derzeit nur der Verbindungstyp Cloud Object Storage unterstützt.
Siehe "Dateien aus der API referenzieren ".
Sie verwenden die Verbindungs-ID und die Details der Trainingsdatendatei, wenn Sie den Abschnitt
training_data_references
zur Dateirequest.json
hinzufügen, die Sie im nächsten Schritt erstellen.Datenasset
Um ein Daten-Asset zu erstellen, verwenden Sie die Data and AI Common Core API, um ein Daten-Asset zu definieren.
Sie werden die Asset-ID und die Details der Trainingsdatendatei verwenden, wenn Sie den Abschnitt
training_data_references
der REST-Anfrage hinzufügen, die Sie im nächsten Schritt erstellen.
Weitere Informationen zu den unterstützten Möglichkeiten, auf eine Trainingsdatendatei zu verweisen, finden Sie unter Datenreferenzen.
Verwenden Sie die API watsonx.ai, um ein Schulungsexperiment zu erstellen.
Siehe "Schulung erstellen ".
Sie können Parameter für das Experiment in der
TrainingResource
-Nutzlast angeben. Weitere Informationen zu verfügbaren Parametern finden Sie unter "Parameter für die Abstimmung von Fundamentmodellen ".Geben Sie für
task_id
eine der Aufgaben an, die in der Antwort auf die Methode "Liste der verfügbaren Stiftungsmodelle" als für das Stiftungsmodell unterstützt aufgeführt sind.Speichern Sie das optimierte Modell im Repository-Dienst, um eine
asset_id
zu generieren, die auf das optimierte Modell verweist.Um das abgestimmte Modell zu speichern, verwenden Sie die watsonx.ai Runtime (ehemals Watson Machine Learning ) API, um ein neues Modell zu erstellen.
Verwenden Sie die API watsonx.ai, um eine Bereitstellung für das optimierte Modell zu erstellen.
Siehe "Einsatz erstellen "
Um ein angepasstes Modell abzuleiten, müssen Sie den Inferenzendpunkt verwenden, der die eindeutige ID der Bereitstellung enthält, die das angepasste Modell hostet. Weitere Informationen finden Sie in den Inferenzmethoden im Abschnitt "Einsätze ".
Übergeordnetes Thema: Generative KI-Lösungen programmieren