AI リスク・アトラス

リスクは、以下のいずれかのタグで分類されます。

AIエージェントとは、AIの技術を採用し、設定された目標に基づいて環境内で行動するエージェンシーを持つソフトウェア・エンティティである。 エージェント型AIシステムとは、AIエージェント（ツール、プランナー、メモリー、データセットなど他のコンポーネントとともに）を活用し、目標を追求し、自律的に動作するソフトウェアシステムである。

AIエージェントは3種類のアクションを行うことができる：

• 世界（物理的またはデジタル）に影響を与える行動をとる。
• リソースを参照し、ツールを使用する。
• リソース／ツール／他のAIエージェントの選択において、どのプロセスを選択するかを決定し、それらを選択する。

このセクションのリスクは、エージェント型AIに特有のもの、あるいはエージェント型AIによって増幅されるものである。 最近のエージェントは大規模な言語モデルの上に構築されているため、 次節の生成AIのリスクはエージェント型AIにも適用できる可能性がある。

リスクは、以下のいずれかのタグで分類されます。

以下のリスクは、ジェネレーティブAIモデルと伝統的（非ジェネレーティブ）AIモデルに適用可能なリスクについて説明している。 これらのリスクは、エージェント型AI、特にエージェントの行動や出力が生成モデルや伝統的なAIモデルを用いて決定される場合にも適用される可能性がある。