KI-Risiko-Atlas

Risiken werden mit einem der folgenden Tags kategorisiert:

Ein KI-Agent ist eine Software-Entität, die KI-Techniken einsetzt und in der Lage ist, in ihrer Umgebung auf der Grundlage festgelegter Ziele zu handeln, d. h. er kann entscheiden, welche Aktionen er durchführen will, und ist in der Lage, diese auszuführen. Agentische KI-Systeme sind Softwaresysteme, die KI-Agenten (zusammen mit anderen Komponenten wie Werkzeugen, Planern, Speicher und Datensätzen) einsetzen, Ziele verfolgen und autonom arbeiten können.

KI-Agenten können drei Arten von Aktionen durchführen:

• Ergreifen Sie Maßnahmen, die Auswirkungen auf die Welt haben (physisch oder digital).
• Konsultieren Sie Ressourcen und nutzen Sie Hilfsmittel.
• Entscheiden Sie, welcher Prozess bei der Auswahl von Ressourcen/Werkzeugen/anderen KI-Agenten gewählt werden soll und wählen Sie diese aus.

Die in diesem Abschnitt genannten Risiken sind spezifisch für KI oder werden durch KI verstärkt. Da neuere Agenten auf großen Sprachmodellen aufbauen, können die generativen KI-Risiken im folgenden Abschnitt auch auf die agentenbasierte KI angewendet werden.

Risiken werden mit einem der folgenden Tags kategorisiert:

Im Folgenden werden Risiken beschrieben, die für generative KI-Modelle und traditionelle (nicht-generative) KI-Modelle gelten. Diese Risiken können auch für agentenbasierte KI gelten, insbesondere in Fällen, in denen das Verhalten oder der Output des Agenten mit Hilfe eines generativen oder traditionellen KI-Modells bestimmt wird.