0 / 0
資料の 英語版 に戻る
AI の出力バイアス・リスク

AI の出力バイアス・リスク

出力に関連するリスク
公平性
生成 AI の新機能

説明

生成されたコンテンツは、特定のグループまたは個人を不当に表している可能性があります。

出力バイアスがファウンデーション・モデルの問題となるのはなぜですか?

バイアスは、AI モデルのユーザーに悪影響を及ぼし、既存の差別的行動を拡大する可能性があります。 ビジネス・エンティティーは、評判の悪影響、運用の中断、およびその他の結果に直面する可能性があります。

入力に関連付けられたリスクの背景イメージ

バイアスのある生成済みイメージ

Lensa AI は、ユーザー自身がアップロードした画像に基づいて「Magic Avatars」を生成できる、Stable Diffusion でトレーニングされた生成機能を備えたモバイル・アプリです。 ソース・レポートによると、一部のユーザーは、生成されたアバターが性化され、人種化されていることを発見しました。

親トピック: AI リスク・アトラス

生成 AI の検索と回答
これらの回答は、製品資料の内容に基づいて、 watsonx.ai のラージ言語モデルによって生成されます。 詳細