Nicht einvernehmliches Nutzungsrisiko für KI

Beschreibung

Copy link to section

Generative KI-Modelle könnten absichtlich eingesetzt werden, um Menschen durch Deepfakes zu imitieren, indem Video, Bilder, Audio oder andere Modalitäten ohne deren Zustimmung verwendet werden.

Warum ist nicht einvernehmliche Verwendung ein Anliegen für Gründungsmodelle?

Copy link to section

Deepfakes kann Desinformation über eine Person verbreiten, was möglicherweise zu einer negativen Auswirkung auf den Ruf der Person führt. Ein Modell mit diesem Potenzial muss ordnungsgemäß reguliert werden.

Beispiel

FBI Warnung auf Deepfakes

Das FBI warnte vor kurzem die Öffentlichkeit vor böswilligen Akteuren, die synthetische, explizite Inhalte "für die Zwecke der Belästigung von Opfern oder Sextortionsschemata" erstellen. Sie stellten fest, dass Fortschritte bei KI diese Inhalte qualitativ hochwertiger, anpassungsfähiger und zugänglicher machen als je zuvor.

Quellen:

FBI, Juni 2023

Beispiel

Audio-Deepfakes

Laut Quellenartikel hat die Federal Communications Commission Robocalls verboten, die Stimmen enthalten, die durch künstliche Intelligenz erzeugt werden. Die Ankündigung erfolgte, nachdem KI-generierte Robocalls die Stimme des Präsidenten nachahmeten, um Menschen davon abzuhalten, in der First-in-the-Nation-Vorwahl des Staates zu wählen.

Quellen:

AP-Nachrichten, Februar 2024

Zugehörige Risiken

Copy link to section

• Gefährliche, gewalttätige oder hasserfüllte Inhalte (NIST AI Risk Management Framework (AI RMF))

Übergeordnetes Thema: AI-Risikoatlas

Wir stellen Beispiele vor, die von der Presse abgedeckt werden, um viele der Risiken der Fundamentmodelle zu erklären. Viele dieser Ereignisse, die von der Presse abgedeckt werden, entwickeln sich entweder noch weiter oder wurden gelöst, und ihre Bezugnahme kann dem Leser helfen, die potenziellen Risiken zu verstehen und auf Minderungen hinzuarbeiten. Die Hervorhebung dieser Beispiele dient nur zur Veranschaulichung.