資料の 英語版 に戻るAI のリスクの迅速な漏えい
AI のリスクの迅速な漏えい
最終更新: 2024年12月12日
説明
プロンプト・リーク攻撃は、モデルのシステム・プロンプト (システム・メッセージとも呼ばれる) を抽出しようとします。
なぜ、迅速な漏えいがファウンデーション・モデルの問題なのか?
攻撃が成功すると、モデルで使用されるシステム・プロンプトがコピーされます。 攻撃者は、そのプロンプトの内容に応じて、機密性の高い個人情報や知的財産などの貴重な情報にアクセスでき、モデルの機能の一部を複製できる可能性があります。
親トピック: AI リスク・アトラス
財団モデルのリスクの多くを説明するために、報道で取り上げられた例を提供する。 報道されたこれらの出来事の多くは、現在も進行中であるか、あるいは解決済みであり、それらを参照することは、読者が潜在的なリスクを理解し、軽減策を講じるのに役立つ。 これらの例を強調するのは説明のためである。