資料の 英語版 に戻るAI のための攻撃リスクの抽出
AI のための攻撃リスクの抽出
最終更新: 2025年1月16日
説明
抽出攻撃は、入力空間を適切にサンプリングし、出力を観察することで、AIモデルを模倣する代替モデルを構築し、そのモデルをコピーまたは盗用しようとする。
抽出攻撃がファウンデーション・モデルの問題であるのはなぜですか?
抽出攻撃が成功すると、攻撃者はさらに敵対的な攻撃を行い、機密個人情報や知的財産などの貴重な情報を得ることができる。
親トピック: AI リスク・アトラス
財団モデルのリスクの多くを説明するために、報道で取り上げられた例を提供する。 報道されたこれらの出来事の多くは、現在も進行中であるか、あるいは解決済みであり、それらを参照することは、読者が潜在的なリスクを理解し、軽減策を講じるのに役立つ。 これらの例を強調するのは説明のためである。