Rivelare il rischio di informazioni riservate per l'IA
Descrizione
Quando le informazioni riservate vengono utilizzate nei dati di addestramento, nei dati di ottimizzazione o come parte del prompt, i modelli potrebbero rivelare tali dati nell'output generato. Rivelare informazioni riservate è un tipo di perdita di dati.
Perché rivelare informazioni riservate è una preoccupazione per i modelli di fondazione?
Se non correttamente sviluppato per proteggere i dati riservati, il modello potrebbe rivelare informazioni riservate o IP nell'output generato e rivelare informazioni che dovevano essere segrete.
Argomento principale: Atlas rischio AI
Facciamo degli esempi che sono stati trattati dalla stampa per aiutare a spiegare molti dei rischi dei modelli di fondazione. Molti di questi eventi trattati dalla stampa sono ancora in evoluzione o sono stati risolti, e fare riferimento ad essi può aiutare il lettore a comprendere i rischi potenziali e a lavorare per mitigarli. L'evidenziazione di questi esempi è solo a scopo illustrativo.