Datenkurationsrisiko für KI

Zurück zur englischen Version der Dokumentation

Risiken im Zusammenhang mit der Eingabe

Trainings-und Optimierungsphase

Wertausrichtung

Verstärkt durch generative KI

Beschreibung

Wenn Trainings-oder Optimierungsdaten nicht ordnungsgemäß erfasst oder vorbereitet werden, kann das Ergebnis eine falsche Ausrichtung der gewünschten Werte oder Absichten eines Modells und des tatsächlichen Ergebnisses sein.

Warum ist Datenpflege ein Problem für Basismodelle?

Falsche Datenkuratierung kann sich negativ auf die Art und Weise auswirken, wie ein Modell trainiert wird, was zu einem Modell führt, das sich nicht gemäß den beabsichtigten Werten verhält. Die Korrektur von Problemen nach dem Trainieren und Implementieren des Modells ist möglicherweise nicht ausreichend, um ein ordnungsgemäßes Verhalten zu gewährleisten. Falsches Modellverhalten kann dazu führen, dass Geschäftsentitäten Rechtsfolgen oder Rufschädigung haben.

Übergeordnetes Thema: AI-Risikoatlas