0 / 0
資料の 英語版 に戻る
AIにとって有害な出力リスク

AIにとって有害な出力リスク

整合 アライメント・リスクを表すアイコン。
出力に関するリスク
価値の調整
生成AIの初心者

説明

あからさまに暴力的であったり、密かに危険であったり、あるいは間接的に危険な発言が含まれるかもしれない。

なぜ有害な出力がファンデーションモデルの懸念材料になるのか?

有害な出力を生成するモデルは、即座に身体的危害を引き起こしたり、将来の危害につながるかもしれない偏見を生み出す可能性がある。

親トピック AIリスクアトラス

財団モデルのリスクの多くを説明するために、報道で取り上げられた例を提供する。 報道されたこれらの出来事の多くは、現在も進行中であるか、あるいは解決済みであり、それらを参照することは、読者が潜在的なリスクを理解し、軽減策を講じるのに役立つ。 これらの例を強調するのは説明のためである。

生成 AI の検索と回答
これらの回答は、製品資料の内容に基づいて、 watsonx.ai のラージ言語モデルによって生成されます。 詳細