0 / 0
Torna alla versione inglese della documentazione
Dati riservati a rischio immediato per l'IA

Dati riservati a rischio immediato per l'IA

Rischi associati all'input
Inferenza
Proprietà intellettuale
Nuovo per l'AI generativa

Descrizione

Inclusione di dati riservati come parte del prompt inviato al modello.

Perché i dati riservati sono una preoccupazione per i modelli di base?

Se non viene sviluppato correttamente per proteggere i dati riservati, il modello potrebbe rivelare informazioni riservate o IP nell'output generato. Inoltre, le informazioni riservate degli utenti finali potrebbero essere involontariamente raccolte e archiviate.

Immagine di sfondo per i rischi associati all'input
Esempio

Divulgazione di informazioni riservate

Secondo l'articolo di origine, i dipendenti di Samsung hanno divulgato informazioni riservate a OpenAI tramite il loro uso di ChatGPT. In un'istanza, un dipendente ha incollato il codice sorgente riservato per verificare la presenza di errori. In un altro, un dipendente ha condiviso il codice con ChatGPT e "ha richiesto l'ottimizzazione del codice". Un terzo ha condiviso una registrazione di una riunione da convertire in note per una presentazione. Samsung ha un utilizzo interno limitato di ChatGPT in risposta a questi incidenti, ma è improbabile che siano in grado di richiamare i loro dati. Inoltre, l'articolo ha evidenziato che in risposta al rischio di perdita di informazioni riservate e altre informazioni sensibili, aziende come Apple, JPMorgan Chase. Deutsche Bank, Verizon, Walmart, Samsung, Amazon e Accenture hanno posto diverse restrizioni sull'utilizzo di ChatGPT.

Argomento principale: Atlas rischio AI

Ricerca e risposta AI generativa
Queste risposte sono generate da un modello di lingua di grandi dimensioni in watsonx.ai basato sul contenuto della documentazione del prodotto. Ulteriori informazioni