AI 위험 지도책

이 지도책을 탐색하여 생성 AI, 기반 모델 및 기계 학습 모델에 대한 작업의 일부 위험을 이해하십시오.

위험성은 다음 태그 중 하나로 분류됩니다.

• 기존 AI 리스크 (기존 모델 및 생성 AI에 적용)
• 생성 AI에 의해 증폭된 위험 (기존 모델에도 적용될 수 있음)
• 발생 AI와 특별히 연관된 새로운 위험

입력과 연관된 위험

훈련 및 튜닝 단계

견고성

데이터 중독

전통적인 인프라

지적 재산

데이터의 기밀 정보

증폭

데이터 사용 권한 제한

증폭

정확도

대표할 수 없는 데이터

전통적인 인프라

데이터 오염

증폭

개인정보 보호

데이터 개인정보 보호 권한 조정

증폭

데이터의 개인 정보

전통적인 인프라

대한

전통적인 인프라

투명도

트레이닝 데이터 투명성 부족

증폭

데이터 출처가 불확실함

증폭

데이터 법률

데이터 사용 제한

전통적인 인프라

데이터 수집 제한

증폭

데이터 전송 제한

전통적인 인프라

값 맞추기

부적절한 데이터 큐레이션

증폭

부적절한 재교육

증폭

공정성

데이터 바이어스

증폭

추론 단계

개인정보 보호

프롬프트의 개인 정보

특정

속성 추론 공격

증폭

멤버십 추론 공격

증폭

견고성

프롬프트 누출

특정

프롬프트 인젝션 공격

특정

추출 공격

증폭

공격 회피

증폭

지적 재산

프롬프트의 IP 정보

특정

프롬프트의 기밀 데이터

특정

다중 범주

탈옥

특정

프롬프트 프라이밍

특정

정확도

모델 정확도 불량

증폭

출력과 연관된 위험

값 맞추기

독성 출력

특정

유해한 출력

특정

불완전한 조언

특정

과다 또는 과소 의존

증폭

설명가능성

신뢰할 수 없는 소스 귀속

특정

설명할 수 없는 출력

증폭

액세스할 수 없는 훈련 데이터

증폭

추적할 수 없는 속성

증폭

개인정보 보호

개인 정보 노출

증폭

오용

동의하지 않은 사용

증폭

비밀 유지

특정

부적절한 사용법

증폭

위험한 사용

특정

정보 분산

특정

분산 독성

특정

공정성

의사결정 편향성

전통적인 인프라

출력 편향성

특정

견고성

환각

특정

지적 재산

기밀 정보 노출

증폭

저작권 침해

특정

유해한 코드 생성

유해한 코드 생성

특정

비기술적 위험

거버넌스

모델 투명성 부족

전통적인 인프라

테스트 다양성 부족

증폭

시스템 투명성 부족

전통적인 인프라

비대표 위험 테스트

증폭

불완전한 사용 정의

특정

데이터 투명성 부족

증폭

잘못된 위험 테스트

증폭

사회적 영향

휴먼 에이전시에 미치는 영향

증폭

문화적 다양성에 미치는 영향

특정

교육에 미치는 영향: 표절

특정

채용에 미치는 영향

증폭

사용자 개발

증폭

영향을 받는 커뮤니티에 미치는 영향

전통적인 인프라

교육에 미치는 영향: 학습 우회

특정

환경에 미치는 영향

증폭

법률 준수

법적 책임

증폭

모델 사용 권한 제한

전통적인 인프라

생성된 콘텐츠 소유권 및 IP

특정