0 / 0

Ein Fundament programmatisch abstimmen

Letzte Aktualisierung: 26. Feb. 2025
Ein Fundament programmatisch abstimmen

Sie können eine Reihe von Grundmodellen in watsonx.ai programmgesteuert abstimmen, um sie dann für Ihren Anwendungsfall anzupassen.

Entwicklungsmöglichkeiten

Sie können Foundation-Modelle mithilfe dieser Programmiermethoden abstimmen:

Alternativ können Sie grafische Tools aus der Benutzeroberfläche von watsonx.ai verwenden, um Fundamentmodelle zu optimieren. Siehe Tuning Studio.

REST-API

Die schnelle Abstimmung eines Fundamentmodells mithilfe der API ist eine komplexe Aufgabe. Die Musterhefte von Python vereinfachen den Prozess. Sie können ein Musternotizbuch als Vorlage für Ihre eigenen Notizbücher verwenden, um sie schnell abstimmen zu können. Siehe "Ein Fundamentmodell programmatisch abstimmen ".

Unterstützte Stiftungsmodelle

Siehe "Auswahl eines Fundamentmodells zum Abstimmen ".

Um eine Liste der Grundlagenmodelle zu erhalten, die eine schnelle Abstimmung programmgesteuert unterstützen, können Sie die folgende Anfrage verwenden:

curl -X GET \
  'https://{hostname}/ml/v1/foundation_model_specs?version=2025-02-20&filters=function_prompt_tune_trainable'
Hinweis:Sie können ein benutzerdefiniertes Fundamentmodell nicht zur Abstimmung auffordern.

Vorgehensweise

Auf hoher Ebene umfasst die schnelle Abstimmung eines Fundamentmodells mithilfe der API die folgenden Schritte:

  1. Erstellen Sie eine Aufgabe mit Berechtigung.

    Ein Aufgaben-Berechtigungsnachweis ist ein API-Schlüssel, der zur Authentifizierung von lang andauernden Aufträgen verwendet wird, die durch die Schritte gestartet werden, die Sie in diesem Verfahren ausführen. Sie müssen die Berechtigung für die Aufgabe nicht in der API-Anfrage angeben. Ein von Ihnen erstellter Aufgaben-Berechtigungsnachweis muss im Berechtigungsnachweis-Dienst für Ihre user_id und account_id vorhanden sein. Siehe "Erstellen von Aufgaben-Berechtigungen ".

  2. Erstellen Sie eine Trainingsdatendatei, die Sie zur Feinabstimmung des Grundmodells verwenden können.

    Weitere Informationen zu den Anforderungen an die Trainingsdatendatei finden Sie unter "Datenformate für Tuning-Foundation-Modelle ".

  3. Laden Sie Ihre Trainingsdatendatei hoch.

    Sie können die Datei hinzufügen, indem Sie einen der folgenden Asset-Typen erstellen:

    • Verbindungsasset

      Hinweis : Für das Prompt-Tuning-Training wird derzeit nur der Verbindungstyp Cloud Object Storage unterstützt.

      Siehe "Dateien aus der API referenzieren ".

      Sie verwenden die Verbindungs-ID und die Details der Trainingsdatendatei, wenn Sie den Abschnitt training_data_references zur Datei request.json hinzufügen, die Sie im nächsten Schritt erstellen.

    • Datenasset

      Um ein Daten-Asset zu erstellen, verwenden Sie die Data and AI Common Core API, um ein Daten-Asset zu definieren.

      Sie werden die Asset-ID und die Details der Trainingsdatendatei verwenden, wenn Sie den Abschnitt training_data_references der REST-Anfrage hinzufügen, die Sie im nächsten Schritt erstellen.

    Weitere Informationen zu den unterstützten Möglichkeiten, auf eine Trainingsdatendatei zu verweisen, finden Sie unter Datenreferenzen.

  4. Verwenden Sie die API watsonx.ai, um ein Schulungsexperiment zu erstellen.

    Siehe "Schulung erstellen ".

    Sie können Parameter für das Experiment in der TrainingResource -Nutzlast angeben. Weitere Informationen zu verfügbaren Parametern finden Sie unter "Parameter für die Abstimmung von Fundamentmodellen ".

    Geben Sie für task_id eine der Aufgaben an, die in der Antwort auf die Methode "Liste der verfügbaren Stiftungsmodelle" als für das Stiftungsmodell unterstützt aufgeführt sind.

  5. Speichern Sie das optimierte Modell im Repository-Dienst, um eine asset_id zu generieren, die auf das optimierte Modell verweist.

    Um das abgestimmte Modell zu speichern, verwenden Sie die watsonx.ai Runtime (ehemals Watson Machine Learning ) API, um ein neues Modell zu erstellen.

  6. Verwenden Sie die API watsonx.ai, um eine Bereitstellung für das optimierte Modell zu erstellen.

    Siehe "Einsatz erstellen "

Um ein angepasstes Modell abzuleiten, müssen Sie den Inferenzendpunkt verwenden, der die eindeutige ID der Bereitstellung enthält, die das angepasste Modell hostet. Weitere Informationen finden Sie in den Inferenzmethoden im Abschnitt "Einsätze ".

Übergeordnetes Thema: Generative KI-Lösungen programmieren