Datenprovenienzrisiko für KI

Zurück zur englischen Version der Dokumentation

Risiken im Zusammenhang mit der Eingabe

Trainings-und Optimierungsphase

Transparenz

Verstärkt durch generative KI

Beschreibung

Ohne standardisierte und etablierte Methoden zur Überprüfung, woher die Daten stammen, gibt es keine Garantie, dass die verfügbaren Daten das sind, was sie zu sein behaupten.

Warum ist die Datenprovenienz ein Problem für Basismodelle?

Nicht alle Datenquellen sind vertrauenswürdig. Daten wurden möglicherweise unethisch erfasst, bearbeitet oder gefälscht. Die Verwendung solcher Daten kann zu unerwünschten Verhaltensweisen im Modell führen. Unternehmen könnten Bußgelder, Rufschädigung und andere rechtliche Folgen haben.

Übergeordnetes Thema: AI-Risikoatlas