Sie müssen Nutzdaten bereitstellen, um die Drift v2 und abgeleitete KI-Qualitätsbewertungen in watsonx.governancezu konfigurieren.
Nutzdaten enthalten alle Modelltransaktionen. Sie können Nutzdaten mit watsonx.governance protokollieren, um Auswertungen zu aktivieren. Zur Protokollierung von Nutzdaten muss watsonx.governance Scoring-Anforderungen empfangen.
Nutzdaten protokollieren
Wenn Sie eine Scoring-Anforderung senden, verarbeitet watsonx.governance Ihre Modelltransaktionen, um Modellevaluierungen zu aktivieren. Watsonx.governance bewertet die Daten und speichert sie als Datensätze in einer Nutzdatenprotokollierungstabelle im Datamart watsonx.governance .
Die Nutzdatenprotokollierungstabelle enthält die folgenden Spalten, wenn Sie Eingabeaufforderungsvorlagen auswerten:
- Erforderliche Spalten:
- Eingabeaufforderungsvariable (n): Enthält die Werte für die Variablen, die für Eingabeaufforderungsvorlagen erstellt werden.
generated_text
: Enthält die Ausgabe, die vom foundation model erzeugt wird
- Optionale Spalten:
input_token_count
: Enthält die Anzahl der Tokens im Eingabetextgenerated_token_count
: Enthält die Anzahl der Tokens im generierten Textprediction_probability
: Enthält den Gesamtwert der Protokollwahrscheinlichkeiten von generierten Tokens, die die Gewinnerausgabe darstellen.
Die Tabelle kann auch Zeitmarken-und ID-Spalten enthalten, um Ihre Daten als Scoring-Datensätze zu speichern.
Sie können Ihre Nutzlastprotokollierungstabelle anzeigen, indem Sie auf die Datenbank zugreifen, die Sie für den Data Mart angegeben haben, oder indem Sie das Python SDK verwenden, wie im folgenden Beispiel gezeigt:
Nutzdaten senden
Wenn Sie IBM watsonx.ai Runtime als Anbieter für maschinelles Lernen verwenden, protokolliert watsonx.governance automatisch die Nutzdaten, wenn Ihr Modell bewertet wird.
Nachdem Sie Bewertungen konfiguriert haben, können Sie auch einen Endpunkt für Nutzdatenprotokollierung verwenden, um Scoring-Anforderungen zum Ausführen bedarfsgesteuerter Bewertungen zu senden. Bei Produktionsmodellen können Sie auch Nutzdaten mit einer CSV-Datei hochladen, um Scoring-Anforderungen zu senden. Weitere Informationen finden Sie unter Modelltransaktionen senden.
Weitere Informationen
Übergeordnetes Thema: Verwaltung von Daten für Modellevaluierungen