0 / 0
Torna alla versione inglese della documentazione
Rischio di attacco di estrazione per AI

Rischio di attacco di estrazione per AI

Rischi associati all'input
Inferenza
Affidabilità
Amplificato da AI generative

Descrizione

Un attacco di estrazione tenta di copiare o rubare un modello AI campionando in modo appropriato lo spazio di input e osservando gli output per creare un modello surrogato che si comporta in modo simile.

Perché l'attacco di estrazione è una preoccupazione per i modelli di fondazione?

Con un attacco riuscito, l'aggressore può ottenere informazioni preziose come informazioni personali sensibili o proprietà intellettuale.

Argomento principale: Atlas rischio AI

Ricerca e risposta AI generativa
Queste risposte sono generate da un modello di lingua di grandi dimensioni in watsonx.ai basato sul contenuto della documentazione del prodotto. Ulteriori informazioni