Risiko der menschlichen Ausbeutung für KI

Beschreibung

Copy link to section

Wenn Arbeitnehmer, die KI-Modelle wie Geisterarbeiter ausbilden, keine angemessenen Arbeitsbedingungen, keine faire Entlohnung und keine guten Gesundheitsleistungen erhalten, die auch die psychische Gesundheit einschließen.

Warum ist die menschliche Ausbeutung ein Anliegen von Fundamentmodellen?

Copy link to section

Basismodelle hängen immer noch von menschlicher Arbeit ab, um die Daten, die zum Trainieren des Modells verwendet werden, zu beschaffen, zu verwalten und zu programmieren. Die menschliche Ausbeutung für diese Aktivitäten könnte sich negativ auf die Gesellschaft und das menschliche Wohlergehen auswirken.

Beispiel

Arbeitnehmer mit niedrigem Lohnniveau für Datenannotationen

Ausgehend von einer Überprüfung interner Dokumente und von Mitarbeiterinterviews durch TIME media erhielten die Datenetikettierer, die von einer Outsourcing-Firma im Auftrag von OpenAI beschäftigt werden, um giftige Inhalte zu identifizieren, je nach Dienstalter und Leistung einen Stundenlohn zwischen etwa $1.32 und $2 pro Stunde. TIME erklärte, dass Arbeiter geistig vernarbt werden, da sie giftige und gewalttätige Inhalte gezeigt wurden, einschließlich grafischer Details von "Kindesmissbrauch, Bestialität, Mord, Selbstmord, Folter, Selbstverletzung und Inzest".

Quellen:

ZEIT, Januar 2023

Zugehörige Risiken

Copy link to section

• Gefährliche, gewalttätige oder hasserfüllte Inhalte (NIST AI Risk Management Framework (AI RMF))

Übergeordnetes Thema: AI-Risikoatlas

Wir stellen Beispiele vor, die von der Presse abgedeckt werden, um viele der Risiken der Fundamentmodelle zu erklären. Viele dieser Ereignisse, die von der Presse abgedeckt werden, entwickeln sich entweder noch weiter oder wurden gelöst, und ihre Bezugnahme kann dem Leser helfen, die potenziellen Risiken zu verstehen und auf Minderungen hinzuarbeiten. Die Hervorhebung dieser Beispiele dient nur zur Veranschaulichung.