0 / 0
Zurück zur englischen Version der Dokumentation
Unzuverlässiges Quellenzuordnungsrisiko für KI
Letzte Aktualisierung: 12. Dez. 2024
Unzuverlässiges Quellenzuordnungsrisiko für KI
Erklärbarkeit Symbol für die Risiken der Erklärbarkeit.
Der Ausgabe zugeordnete Risiken
Erklärbarkeit
Neu in der generativen KI

Beschreibung

Quellenzuordnung ist die Fähigkeit des KI-Systems, zu beschreiben, aus welchen Trainingsdaten es einen Teil oder die gesamte Ausgabe generiert hat. Da aktuelle Verfahren auf Approximationen basieren, können diese Zuordnungen falsch sein.

Warum ist die unzuverlässige Quellenzuordnung ein Problem für Basismodelle?

Qualitativ minderwertige Zuordnungen erschweren es Nutzern, Modellvalidierern und Prüfern, das Modell zu verstehen und ihm zu vertrauen.

Übergeordnetes Thema: AI-Risikoatlas

Anhand von Beispielen, über die in der Presse berichtet wurde, erläutern wir viele der Risiken der Stiftungsmodelle. Viele dieser Ereignisse, über die in der Presse berichtet wurde, sind entweder noch im Gange oder wurden bereits aufgeklärt, und ein Verweis darauf kann dem Leser helfen, die potenziellen Risiken zu verstehen und auf Abhilfemaßnahmen hinzuarbeiten. Die Hervorhebung dieser Beispiele dient nur der Veranschaulichung.

Generative KI-Suche und -Antwort
Diese Antworten werden von einem großen Sprachmodell in watsonx.ai basierend auf dem Inhalt der Produktdokumentation generiert. Weitere Informationen