AI リスク・アトラス

このアトラスを探索して、生成 AI、ファウンデーション・モデル、および機械学習モデルを使用することによるリスクの一部を理解します。

リスクは、以下のいずれかのタグで分類されます。

• 従来型の AI リスク (従来型のモデルや生成 AI に適用)
• 生成 AI によって増幅されるリスク (従来のモデルにも適用される可能性があります)
• 特に生成 AI に関連する新しいリスク

入力に関連するリスク

トレーニングおよびチューニングのフェーズ

公平性

データの偏り

増幅

堅牢性

データ・ポイズニング

従来型

価値の調整

データ・キュレーション

増幅

ダウンストリームのリトレーニング

新規

データ法

データ転送

従来型

データ使用量

従来型

データ収集

増幅

知的財産

データ使用権限

増幅

データ内の機密情報

従来型

透明度

データ透過性 (data transparency)

増幅

データの起源

増幅

個人情報について

データ内の個人情報

従来型

再識別

従来型

データ・プライバシーの権利

増幅

インフォームド・コンセント

従来型

推論フェーズ

個人情報について

プロンプトでの個人情報

新規

メンバーシップ推論攻撃

従来型

属性推論攻撃

増幅

知的財産

プロンプト内の IP 情報

新規

プロンプトでの機密データ

新規

堅牢性

回避攻撃

増幅

抽出攻撃

増幅

プロンプト・インジェクション

新規

プロンプト・リーク

増幅

複数カテゴリー

プロンプトの準備

増幅

ジェイルブレイク

増幅

出力に関連するリスク

公平性

出力バイアス

新規

決定バイアス

従来型

知的財産

著作権侵害

新規

機密情報の公開

増幅

価値の調整

幻覚剤

新規

有毒な出力

新規

オーバー・リライアンスまたはアンダー・リライアンス

増幅

身体的危害

新規

未指定のアドバイス

新規

誤用

ディスインフォメーションの配分

新規

毒性の拡散

新規

非同意使用 (Nonsensual use)

増幅

危険な使用

新規

非公開

新規

不正利用

増幅

有害なコード生成

有害なコード生成

新規

個人情報について

個人情報の公開

増幅

説明可能性

説明できない出力

増幅

信頼できないソース属性 (Unreliable source attribution)

増幅

アクセス不能なトレーニング・データ

増幅

追跡不能属性 (Untraceable attribution)

増幅

非技術的リスク

ガバナンス

Lack of model transparency (モデル透過性の欠如)

従来型

データ透過性の欠如

増幅

アカウンタビリティ

増幅

法的コンプライアンス

法的説明責任

新規

生成されたコンテンツの所有権

新規

生成されたコンテンツ IP

新規

社会的影響

失業

増幅

ヒューマン・エクスプロイト

増幅

環境への影響

増幅

国/地域別情報の多様性への影響

新規

人間の機関への影響

増幅

学習のバイパス

新規

Plagiarism (Plagiarism)

新規