このアトラスを探索して、生成 AI、ファウンデーション・モデル、および機械学習モデルを使用することによるリスクの一部を理解します。

リスクは、以下のいずれかのタグで分類されます。

• 従来型の AI リスク (従来型のモデルや生成 AI に適用)
• 生成 AI によって増幅されるリスク (従来のモデルにも適用される可能性があります)
• 特に生成 AI に関連する新しいリスク

入力に関連するリスク

トレーニングおよびチューニングのフェーズ

堅牢性

データ・ポイズニング

従来型

知的財産

データ内の機密情報

増幅

データ使用権の制限

増幅

正確性

代表的でないデータ

従来型

データの汚染

増幅

プライバシー

データ・プライバシー権の調整

増幅

データ内の個人情報

従来型

再識別

従来型

透明度

トレーニングデータの透明性が欠けている

増幅

データの出所が不明

増幅

データ法

データ使用制限

従来型

データ取得の制限

増幅

データ転送の制限

従来型

価値の調整

不適切なデータキュレーション

増幅

不適切な再教育

増幅

フェアネス

データの偏り

増幅

推論フェーズ

プライバシー

プロンプトでの個人情報

特定

属性推論攻撃

増幅

メンバーシップ推論攻撃

増幅

堅牢性

プロンプト・リーク

特定

プロンプト・インジェクション攻撃

特定

抽出攻撃

増幅

回避攻撃

増幅

知的財産

プロンプト内の IP 情報

特定

プロンプトでの機密データ

特定

複数カテゴリー

ジェイルブレイク

特定

プロンプトの準備

特定

正確性

モデルの精度が低い

増幅

出力に関連するリスク

価値の調整

有毒な出力

特定

有害な出力

特定

不完全なアドバイス

特定

過度な依存、過小な依存

増幅

説明可能性

信頼できないソース属性 (Unreliable source attribution)

特定

説明できない出力

増幅

アクセス不能なトレーニング・データ

増幅

追跡不能属性 (Untraceable attribution)

増幅

プライバシー

個人情報の暴露

増幅

誤用

非同意使用 (Nonsensual use)

増幅

非公開

特定

不正利用

増幅

危険な使用

特定

ディスインフォメーションの配分

特定

毒性の拡散

特定

フェアネス

決定バイアス

従来型

出力バイアス

特定

堅牢性

幻覚

特定

知的財産

機密情報の公開

増幅

著作権侵害

特定

有害なコード生成

有害なコード生成

特定

非技術的リスク

ガバナンス

Lack of model transparency (モデル透過性の欠如)

従来型

テストの多様性が欠けている

増幅

システムの透明性が欠けている

従来型

代表的でないリスクテスト

増幅

使用法の定義が不完全

特定

データ透過性の欠如

増幅

誤ったリスク検査

増幅

社会的影響

人間の機関への影響

増幅

国/地域別情報の多様性への影響

特定

教育への影響：盗作

特定

雇用への影響

増幅

ヒューマン・エクスプロイト

増幅

影響を受けるコミュニティへの影響

従来型

教育への影響：学習の回避

特定

環境への影響

増幅

法的コンプライアンス

法的説明責任

増幅

モデル使用権の制限

従来型

生成コンテンツの所有権とIP

特定