0 / 0
資料の 英語版 に戻る
AI の出力バイアス・リスク
最終更新: 2024年12月12日
AI の出力バイアス・リスク
フェアネス 公正リスクを表すアイコン。
出力に関連するリスク
フェアネス
生成 AI の新機能

説明

生成されたコンテンツは、特定のグループまたは個人を不当に表している可能性があります。

出力バイアスがファウンデーション・モデルの問題となるのはなぜですか?

バイアスは、AI モデルのユーザーに悪影響を及ぼし、既存の差別的行動を拡大する可能性があります。

入力に関連付けられたリスクの背景イメージ

バイアスのある生成済みイメージ

Lensa AI は、ユーザー自身がアップロードした画像に基づいて「Magic Avatars」を生成できる、Stable Diffusion でトレーニングされた生成機能を備えたモバイル・アプリです。 ソース・レポートによると、一部のユーザーは、生成されたアバターが性化され、人種化されていることを発見しました。

親トピック: AI リスク・アトラス

当社では、多くの基盤モデルのリスクを説明するために、プレス・モデルで扱われている例を提供しています。 報道機関によって扱われるこれらのイベントの多くは、まだ進化しているか解決されており、それらを参照することで、読者が潜在的なリスクを理解し、緩和に向けて取り組むことができるようになります。 これらの例を強調表示するのは、説明のみを目的としています。

生成 AI の検索と回答
これらの回答は、製品資料の内容に基づいて、 watsonx.ai のラージ言語モデルによって生成されます。 詳細