資料の 英語版 に戻るAI の機密情報のリスクを明らかにする
AI の機密情報のリスクを明らかにする
最終更新: 2024年9月26日
説明
機密情報がトレーニング・データ、微調整データ、またはプロンプトの一部として使用される場合、モデルは生成された出力でそのデータを明らかにする可能性があります。 機密情報の漏えいは、データ漏えいの一種です。
機密情報を公開することが基盤モデルの懸念事項であるのはなぜですか?
機密データを保護するために適切に開発されていない場合、モデルは、生成された出力に機密情報または IP を公開し、機密として意図されていた情報を公開する可能性があります。
親トピック: AI リスク・アトラス
財団モデルのリスクの多くを説明するために、報道で取り上げられた例を提供する。 報道されたこれらの出来事の多くは、現在も進行中であるか、あるいは解決済みであり、それらを参照することは、読者が潜在的なリスクを理解し、軽減策を講じるのに役立つ。 これらの例を強調するのは説明のためである。