Descriptif

Les modèles peuvent générer du code qui cause des dommages ou affecte involontairement d'autres systèmes.

Pourquoi la génération de code nuisible est-elle une préoccupation pour les modèles de base?

L'exécution de code nuisible peut ouvrir des vulnérabilités dans les systèmes informatiques.

Exemple

Génération de code moins sécurisé

Selon leur article, des chercheurs de l'Université de Stanford ont étudié l'impact des outils de génération de code sur la qualité du code et ont constaté que les programmeurs ont tendance à inclure plus de bogues dans leur code final lorsqu'ils utilisent des assistants d'IA. Ces bogues peuvent augmenter les vulnérabilités de sécurité du code, mais les programmeurs pensent que leur code est plus sécurisé.

Sources :

Neil Perry, Megha Srivastava, Deepak Kumar et Dan Boneh. 2023. Les utilisateurs écrivent-ils un code plus non sécurisé avec des assistants d'IA? Dans les actes de la conférence ACM SIGSAC 2023 sur la sécurité de l'informatique et des communications (CCS'23), les 26 et 30 novembre 2023, Copenhague, Danemark. ACM, New York, NY, USA, 15 pages.

Rubrique parent: Atlas des risques liés à l'IA

Nous fournissons des exemples couverts par la presse pour vous aider à expliquer les risques de nombreux modèles de base. Un grand nombre de ces événements couverts par la presse sont en constante évolution ou ont été résolus, et leur référencement peut aider le lecteur à comprendre les risques potentiels et à s'orienter vers des mesures d'atténuation. La mise en évidence de ces exemples est fournie à des fins d'illustration uniquement.