Zurück zur englischen Version der Dokumentation
KI-Risiko-Atlas
KI-Risiko-Atlas
Entdecken Sie diesen Atlas, um einige der Risiken zu verstehen, die sich aus der Arbeit mit generativer KI, Basismodellen und Modellen für maschinelles Lernen ergeben.
Risiken werden mit einem der folgenden Tags kategorisiert:
- Traditionelle KI-Risiken (gilt sowohl für traditionelle Modelle als auch für generative KI)
- Risiken, die durch generative KI verstärkt werden (können auch für traditionelle Modelle gelten)
- Neue Risiken speziell im Zusammenhang mit generativer KI
Risiken im Zusammenhang mit der Eingabe
Trainings-und Optimierungsphase
Zuverlässigkeit
Datenvergiftung
Traditionell
Geistiges Eigentum
Vertrauliche Informationen in Daten
Verstärkt
Datenschutz
Angleichung der Datenschutzrechte
Verstärkt
Personenbezogene Daten in Daten
Traditionell
Erneute Identifikation
Traditionell
Transparenz
Ungewisse Datenherkunft
Verstärkt
Datengesetze
Einschränkungen der Datennutzung
Traditionell
Einschränkungen bei der Datenübertragung
Traditionell
Fairness
Datenverzerrung
Verstärkt
Inferenzphase
Zuverlässigkeit
Eingabeaufforderung undicht
Spezifisch
Angriff durch Eingabeaufforderung
Spezifisch
Extraktionsattacke
Verstärkt
Evasion-Angriff
Verstärkt
Geistiges Eigentum
IP-Informationen in Eingabeaufforderung
Spezifisch
Genauigkeit
Schwache Modellgenauigkeit
Verstärkt
Der Ausgabe zugeordnete Risiken
Wertausrichtung
Toxische Ausgabe
Spezifisch
Schädlicher Output
Spezifisch
Unvollständige Beratung
Spezifisch
Über- oder Unterversorgung
Verstärkt
Erklärbarkeit
Unzuverlässige Quellenzuordnung
Spezifisch
Unerklärliche Ausgabe
Verstärkt
Nicht zugängliche Trainingsdaten
Verstärkt
Nicht tracefähige Zuordnung
Verstärkt
Datenschutz
Missbrauch
Nicht einvernehmliche Verwendung
Verstärkt
Nichtangabe
Spezifisch
Unsachgemäße Verwendung
Verstärkt
Gefährliche Verwendung
Spezifisch
Desinformation verteilen
Spezifisch
Streutoxizität
Spezifisch
Zuverlässigkeit
Halluzination
Spezifisch
Schädliche Codegenerierung
Schädliche Codegenerierung
Spezifisch
Nicht technische Risiken
Verwaltung
Fehlende Modelltransparenz
Traditionell
Mangel an Prüfungsvielfalt
Verstärkt
Mangel an Systemtransparenz
Traditionell
Unrepräsentative Risikotests
Verstärkt
Unvollständige Definition der Verwendung
Spezifisch
Fehlende Datentransparenz
Verstärkt
Fehlerhafte Risikoprüfung
Verstärkt
Gesellschaftliche Auswirkungen
Auswirkungen auf kulturelle Vielfalt
Spezifisch
Auswirkungen auf die Bildung: Plagiate
Spezifisch
Auswirkungen auf die Beschäftigung
Verstärkt
Ausbeutung durch Menschen
Verstärkt
Auswirkungen auf die betroffenen Gemeinschaften
Traditionell
Auswirkungen auf die Umgebung
Verstärkt
Einhaltung rechtlicher Bestimmungen
Rechtliche Verantwortung
Verstärkt
Einschränkungen der Modellnutzungsrechte
Traditionell
Eigentum an generierten Inhalten und IP
Spezifisch