資料の 英語版 に戻るAIにとって有害な出力リスク
AIにとって有害な出力リスク
最終更新: 2024年12月12日
説明
あからさまに暴力的であったり、密かに危険であったり、あるいは間接的に危険な発言が含まれるかもしれない。
なぜ有害な出力がファンデーションモデルの懸念材料になるのか？
有害な出力を生成するモデルは、即座に身体的危害を引き起こしたり、将来の危害につながるかもしれない偏見を生み出す可能性がある。
親トピック AIリスクアトラス
財団モデルのリスクの多くを説明するために、報道で取り上げられた例を提供する。 報道されたこれらの出来事の多くは、現在も進行中であるか、あるいは解決済みであり、それらを参照することは、読者が潜在的なリスクを理解し、軽減策を講じるのに役立つ。 これらの例を強調するのは説明のためである。