Entdecken Sie diesen Atlas, um einige der Risiken zu verstehen, die sich aus der Arbeit mit generativer KI, Basismodellen und Modellen für maschinelles Lernen ergeben.

Risiken werden mit einem der folgenden Tags kategorisiert:

• Traditionelle KI-Risiken (gilt sowohl für traditionelle Modelle als auch für generative KI)
• Risiken, die durch generative KI verstärkt werden (können auch für traditionelle Modelle gelten)
• Neue Risiken speziell im Zusammenhang mit generativer KI

Risiken im Zusammenhang mit der Eingabe

Trainings-und Optimierungsphase

Zuverlässigkeit

Datenvergiftung

Traditionell

Geistiges Eigentum

Vertrauliche Informationen in Daten

Verstärkt

Einschränkung der Datennutzungsrechte

Verstärkt

Genauigkeit

Unrepräsentative Daten

Traditionell

Datenverunreinigung

Verstärkt

Datenschutz

Angleichung der Datenschutzrechte

Verstärkt

Personenbezogene Daten in Daten

Traditionell

Erneute Identifikation

Traditionell

Transparenz

Mangel an Transparenz bei den Ausbildungsdaten

Verstärkt

Ungewisse Datenherkunft

Verstärkt

Datengesetze

Einschränkungen der Datennutzung

Traditionell

Einschränkungen bei der Datenerfassung

Verstärkt

Einschränkungen bei der Datenübertragung

Traditionell

Wertausrichtung

Angemessene Datenpflege

Verstärkt

Sachgemäße Umschulung

Verstärkt

Fairness

Datenverzerrung

Verstärkt

Inferenzphase

Datenschutz

Persönliche Informationen in Eingabeaufforderung

Spezifisch

Attributinferenzattacke

Verstärkt

Inferenzattacke auf Mitgliedschaft

Verstärkt

Zuverlässigkeit

Eingabeaufforderung undicht

Spezifisch

Angriff durch Eingabeaufforderung

Spezifisch

Extraktionsattacke

Verstärkt

Evasion-Angriff

Verstärkt

Geistiges Eigentum

IP-Informationen in Eingabeaufforderung

Spezifisch

Vertrauliche Daten in Eingabeaufforderung

Spezifisch

Mehrere Kategorien

Jailbreak

Spezifisch

Voranstellung anfordern

Spezifisch

Genauigkeit

Schwache Modellgenauigkeit

Verstärkt

Der Ausgabe zugeordnete Risiken

Wertausrichtung

Toxische Ausgabe

Spezifisch

Schädlicher Output

Spezifisch

Unvollständige Beratung

Spezifisch

Über- oder Unterversorgung

Verstärkt

Erklärbarkeit

Unzuverlässige Quellenzuordnung

Spezifisch

Unerklärliche Ausgabe

Verstärkt

Nicht zugängliche Trainingsdaten

Verstärkt

Nicht tracefähige Zuordnung

Verstärkt

Datenschutz

Enthüllung persönlicher Informationen

Verstärkt

Missbrauch

Nicht einvernehmliche Verwendung

Verstärkt

Nichtangabe

Spezifisch

Unsachgemäße Verwendung

Verstärkt

Gefährliche Verwendung

Spezifisch

Desinformation verteilen

Spezifisch

Streutoxizität

Spezifisch

Fairness

Entscheidungsverzerrung

Traditionell

Ausgabeverzerrung

Spezifisch

Zuverlässigkeit

Halluzination

Spezifisch

Geistiges Eigentum

Vertrauliche Informationen aufdecken

Verstärkt

Urheberrechtsverletzung

Spezifisch

Schädliche Codegenerierung

Schädliche Codegenerierung

Spezifisch

Nicht technische Risiken

Verwaltung

Fehlende Modelltransparenz

Traditionell

Mangel an Prüfungsvielfalt

Verstärkt

Mangel an Systemtransparenz

Traditionell

Unrepräsentative Risikotests

Verstärkt

Unvollständige Definition der Verwendung

Spezifisch

Fehlende Datentransparenz

Verstärkt

Fehlerhafte Risikoprüfung

Verstärkt

Gesellschaftliche Auswirkungen

Auswirkungen auf die menschliche Behörde

Verstärkt

Auswirkungen auf kulturelle Vielfalt

Spezifisch

Auswirkungen auf die Bildung: Plagiate

Spezifisch

Auswirkungen auf die Beschäftigung

Verstärkt

Ausbeutung durch Menschen

Verstärkt

Auswirkungen auf die betroffenen Gemeinschaften

Traditionell

Auswirkungen auf die Bildung: Umgehung des Lernens

Spezifisch

Auswirkungen auf die Umgebung

Verstärkt

Einhaltung rechtlicher Bestimmungen

Rechtliche Verantwortung

Verstärkt

Einschränkungen der Modellnutzungsrechte

Traditionell

Eigentum an generierten Inhalten und IP

Spezifisch