資料の 英語版 に戻るAI の迅速なリスクにさらされている個人情報
AI の迅速なリスクにさらされている個人情報
最終更新: 2024年12月12日
説明
モデルに送信されるプロンプトの一部として含まれる個人情報または機微な個人情報。
なぜ個人情報がファウンデーション・モデルの関心事になっているのでしょうか?
個人情報や機微な個人情報がプロンプトに含まれている場合、モデルの出力に意図せず開示される可能性がある。 偶発的な開示に加え、プロンプトデータが保存されたり、後にモデルの評価や再トレーニングのような他の目的に使用されたりする可能性があり、適切に削除されなければ出力に現れるかもしれない
例
ChatGPT プロンプトでの個人医療情報の開示
このソース記事によると、ソーシャル・メディア上の一部の人々は、間に合わせのセラピストとして ChatGPT を使用することについて共有しています。 記事では、対話中にユーザーがプロンプトに個人の健康情報を含める可能性があり、プライバシーに関する懸念が生じる可能性があると主張しています。 この情報は、このテクノロジーを所有する会社と共有される可能性があり、トレーニングやチューニングに使用されたり、未指定のサード・パーティーと共有されたりする可能性もあります。
親トピック: AI リスク・アトラス
当社では、多くの基盤モデルのリスクを説明するために、プレス・モデルで扱われている例を提供しています。 報道機関によって扱われるこれらのイベントの多くは、まだ進化しているか解決されており、それらを参照することで、読者が潜在的なリスクを理解し、緩和に向けて取り組むことができるようになります。 これらの例を強調表示するのは、説明のみを目的としています。