AI のデータ・プライバシーの権利リスク

ヨーロッパ (GDPR) を含む複数の地域の法律では、組織による個人データの削除を要求する権利 (「忘れられる権利」または RTBF) がデータ主体に付与されています。 しかし、LLM (Large Language Model) 対応のソフトウェア・システムが登場し、ますます人気が高まっていますが、これには新たな課題があります。 CSIRO の Data61の調査によると、データ主体は、「元のトレーニング・データ・セットを検査するか、場合によってはモデルにプロンプトを出すことによって」、LLM 内での個人情報の使用を識別することができます。 しかし、訓練データが公開されていないか、企業が安全性などを理由に公開していない可能性があります。 ガードレールは、ユーザーがプロンプトを出して情報にアクセスできないようにする場合もあります。 これらの障壁のため、データ主体は RTBF 手順を開始できない可能性があり、LLM を導入する企業は RTBF 法を満たすことができない可能性があります。

報告書によると、著作物と個人情報を AI システム (Bard チャットボットを含む) の訓練データとして利用したとして、 Google を相手取って訴訟が提起された。 オプトアウトおよび削除の権利は、CCPA の下のカリフォルニア州住民と、COPPA で 13 歳未満のアメリカ合衆国の子供の権利が保証されています。 原告側は、Bard が「学ぶことができない」とか、スクレイプされた PI を完全に除去する方法がないために、フィードされたと主張している。 原告は、Bard のプライバシーに関する通知には、Bard の会話が会社によってレビューされアノテーションを付けられた後にユーザーが削除することはできず、最大 3 年間保持される可能性があることが明記されていると指摘しています。 P 社は、これらの慣行がこれらの法律の不遵守にさらに貢献していると主張しています。