Zurück zur englischen Version der DokumentationKI-Risiko-Atlas
KI-Risiko-Atlas
Letzte Aktualisierung: 10. Feb. 2025
Entdecken Sie diesen Atlas, um einige der Risiken zu verstehen, die sich aus der Arbeit mit generativer KI, Basismodellen und Modellen für maschinelles Lernen ergeben.
Risiken werden mit einem der folgenden Tags kategorisiert:
- Traditionelle KI-Risiken (gilt sowohl für traditionelle Modelle als auch für generative KI)
- Risiken, die durch generative KI verstärkt werden (können auch für traditionelle Modelle gelten)
- Neue Risiken speziell im Zusammenhang mit generativer KI
Risiken bei Trainingsdaten
Transparenz
Ungewisse Datenherkunft
Verstärkt
Datengesetze
Einschränkungen der Datennutzung
Traditionell
Einschränkungen bei der Datenübertragung
Traditionell
Datenschutz
Personenbezogene Daten in Daten
Traditionell
Angleichung der Datenschutzrechte
Verstärkt
Erneute Identifikation
Traditionell
Fairness
Datenverzerrung
Verstärkt
Geistiges Eigentum
Vertrauliche Informationen in Daten
Verstärkt
Zuverlässigkeit
Datenvergiftung
Traditionell
Risiken der Schlussfolgerung
Zuverlässigkeit
Angriff durch Eingabeaufforderung
Spezifisch
Extraktionsattacke
Verstärkt
Evasion-Angriff
Verstärkt
Eingabeaufforderung undicht
Spezifisch
Geistiges Eigentum
IP-Informationen in Eingabeaufforderung
Spezifisch
Genauigkeit
Schwache Modellgenauigkeit
Verstärkt
Output-Risiken
Missbrauch
Nichtangabe
Spezifisch
Unsachgemäße Verwendung
Verstärkt
Streutoxizität
Spezifisch
Gefährliche Verwendung
Spezifisch
Nicht einvernehmliche Verwendung
Verstärkt
Desinformation verteilen
Spezifisch
Wertausrichtung
Unvollständige Beratung
Spezifisch
Schädliche Codegenerierung
Spezifisch
Über- oder Untervertrauen
Verstärkt
Toxische Ausgabe
Spezifisch
Schädlicher Output
Spezifisch
Erklärbarkeit
Nicht zugängliche Trainingsdaten
Verstärkt
Nicht tracefähige Zuordnung
Verstärkt
Unerklärliche Ausgabe
Verstärkt
Unzuverlässige Quellenzuordnung
Spezifisch
Zuverlässigkeit
Halluzination
Spezifisch
Datenschutz
Nicht technische Risiken
Einhaltung rechtlicher Bestimmungen
Einschränkungen der Modellnutzungsrechte
Traditionell
Rechtliche Verantwortung
Verstärkt
Eigentum an generierten Inhalten und IP
Spezifisch
Verwaltung
Mangel an Systemtransparenz
Traditionell
Unrepräsentative Risikotests
Verstärkt
Unvollständige Definition der Verwendung
Spezifisch
Fehlende Datentransparenz
Verstärkt
Fehlerhafte Risikoprüfung
Verstärkt
Fehlende Modelltransparenz
Traditionell
Mangel an Prüfungsvielfalt
Verstärkt
Gesellschaftliche Auswirkungen
Auswirkungen auf kulturelle Vielfalt
Spezifisch
Auswirkungen auf die Bildung: Plagiate
Spezifisch
Auswirkungen auf die Beschäftigung
Verstärkt
Auswirkungen auf die betroffenen Gemeinschaften
Traditionell
Auswirkungen auf die Umgebung
Verstärkt
Ausbeutung durch Menschen
Verstärkt