ソース記事によると、ハッカーたちはChatGPTやその他のAIツールを使った実験をますます増やしており、より幅広いアクターがサイバー攻撃や詐欺を実行できるようになっているという。 マイクロソフトは、国家に支援されたハッカーたちがOpenAI’s LLMを使用してサイバー攻撃を改善し、スクリプトを洗練させ、標的を絞ったテクニックを向上させていると警告しています。 この記事では、マイクロソフトとOpenAIが、政府機関を標的にしたサイバー攻撃の急増と攻撃者の試みを検知したという事例についても触れている。

ソース記事にあるように、大規模な言語モデルは生物学的攻撃の計画と実行に役立つ可能性がある。 LLMを使って生物学的病原体を特定し、それらが人命に危害を及ぼす可能性を相対的に特定する、といったテストシナリオがいくつか挙げられている。 この記事はまた、LLMがネット上で容易に入手できる有害な情報以上の脅威をどの程度もたらすのかという未解決の問題にも焦点を当てている。