0 / 0
영어 버전 문서로 돌아가기
AI에 대한 출력 편향성 위험

AI에 대한 출력 편향성 위험

출력과 연관된 위험
공정성
생성 AI의 새로운 기능

설명

생성된 컨텐츠는 특정 그룹 또는 개인을 부당하게 나타낼 수 있습니다.

출력 편향성이 기초 모델에 대한 문제가 되는 이유는 무엇입니까?

편향은 AI 모델의 사용자를 손상시키고 기존의 차별적인 행동을 확대할 수 있습니다. 비즈니스 엔티티는 평판 손상, 운영 중단 및 기타 결과에 직면할 수 있습니다.

입력과 연관된 위험의 배경 이미지

편향된 생성된 이미지

렌사 AI는 사용자가 업로드하는 이미지를 기반으로 '매직 아바타' 를 생성할 수 있는 안정적인 확산 (Stable Diffusion) 교육을 받은 생성 기능이 있는 모바일 앱이다. 출처 보고서에 따르면, 일부 사용자들은 생성된 아바타들이 성적이고 인종적이라는 것을 발견했다.

상위 주제: AI 위험 지도책

일반적인 AI 검색 및 응답
이러한 응답은 제품 문서의 컨텐츠를 기반으로 하는 watsonx.ai 의 대형 언어 모델에 의해 생성됩니다. 자세히 알아보기