Descrizione

I modelli potrebbero generare codice che causa danni o influenza involontariamente altri sistemi.

Perché la generazione di codice dannosa è un problema per i modelli di base?

L'esecuzione di codice dannoso potrebbe aprire vulnerabilità nei sistemi IT.

Esempio

Generazione di codice meno sicuro

Secondo il loro studio, i ricercatori della Stanford University hanno studiato l'impatto degli strumenti di generazione del codice sulla qualità del codice e hanno scoperto che i programmatori tendono a includere più bug nel codice finale quando utilizzano assistenti AI. Questi bug potrebbero aumentare le vulnerabilità di sicurezza del codice, ma i programmatori credevano che il loro codice fosse più sicuro.

Fonti:

Neil Perry, Megha Srivastava, Deepak Kumar e Dan Boneh. 2023. Gli utenti scrivono più codice non sicuro con gli assistenti AI?. Atti della Conferenza ACM SIGSAC 2023 sulla sicurezza dell'informatica e delle comunicazioni (CCS ' 23), 26-30 novembre 2023, Copenaghen, Danimarca. ACM, New York, NY, USA, 15 pagine.

Argomento principale: Atlas rischio AI

Forniamo esempi trattati dalla stampa per aiutare a spiegare molti dei rischi dei modelli di fondazione. Molti di questi eventi trattati dalla stampa sono ancora in evoluzione o sono stati risolti, e il loro riferimento può aiutare il lettore a comprendere i potenziali rischi e a lavorare per mitigare. L'evidenziazione di questi esempi è solo a scopo illustrativo.