資料の 英語版 に戻る
AI の迅速なリスクにさらされている個人情報
AI の迅速なリスクにさらされている個人情報
説明
モデルに送信されるプロンプトの一部としての個人情報または機密性の高い個人情報の開示。
なぜ個人情報がファウンデーション・モデルの関心事になっているのでしょうか?
プロンプト・データは、保管されるか、後でモデル評価やリトレーニングなどの他の目的で使用される可能性があります。 これらのタイプのデータは、プライバシーに関する法律および規制に従って確認する必要があります。 適切なデータの保管や使用に関するビジネス・エンティティーがないと、罰金、評判の悪影響、運用の中断、およびその他の法的結果に直面する可能性があります。
例
ChatGPT プロンプトでの個人医療情報の開示
このソース記事によると、ソーシャル・メディア上の一部の人々は、間に合わせのセラピストとして ChatGPT を使用することについて共有しています。 記事では、対話中にユーザーがプロンプトに個人の健康情報を含める可能性があり、プライバシーに関する懸念が生じる可能性があると主張しています。 この情報は、このテクノロジーを所有する会社と共有される可能性があり、トレーニングやチューニングに使用されたり、未指定のサード・パーティーと共有されたりする可能性もあります。
親トピック: AI リスク・アトラス
当社では、多くの基盤モデルのリスクを説明するために、プレス・モデルで扱われている例を提供しています。 報道機関によって扱われるこれらのイベントの多くは、まだ進化しているか解決されており、それらを参照することで、読者が潜在的なリスクを理解し、緩和に向けて取り組むことができるようになります。 これらの例を強調表示するのは、説明のみを目的としています。