0 / 0
영어 버전 문서로 돌아가기
AI에 대한 의사결정 편향 리스크

AI에 대한 의사결정 편향 리스크

출력과 연관된 위험
공정성
기존 AI 리스크

설명

한 그룹이 모델의 결정으로 인해 다른 그룹보다 부당하게 불리한 경우.

의사결정 편향성이 기초 모델에 대한 문제가 되는 이유는 무엇입니까?

편향성은 모델의 결정에 의해 영향을 받는 사람들에게 해를 끼칠 수 있습니다. 비즈니스 엔티티는 벌금, 평판 손상, 운영 중단 및 기타 법적 결과에 직면할 수 있습니다.

입력과 연관된 위험의 배경 이미지

불공정하게 불리한 집단

2018년성별쉐이드 연구는 기계 학습 알고리즘이 인종, 성별과 같은 클래스를 기반으로 차별할 수 있음을 증명했습니다. 연구자들은 Microsoft, IBM및 Amazon과 같은 회사에서 판매하는 상업용 성별 분류 시스템을 평가한 결과 검은 피부의 여성이 가장 오분류된 그룹 (최대 35%의 오류율) 임을 확인했습니다. 대조적으로, 더 가벼운 피부에 대한 오류율은 1% 이하였다.

상위 주제: AI 위험 지도책

일반적인 AI 검색 및 응답
이러한 응답은 제품 문서의 컨텐츠를 기반으로 하는 watsonx.ai 의 대형 언어 모델에 의해 생성됩니다. 자세히 알아보기