AI 위험 지도책

이 지도책을 탐색하여 생성 AI, 기반 모델 및 기계 학습 모델에 대한 작업의 일부 위험을 이해하십시오.

위험성은 다음 태그 중 하나로 분류됩니다.

• 기존 AI 리스크 (기존 모델 및 생성 AI에 적용)
• 생성 AI에 의해 증폭된 위험 (기존 모델에도 적용될 수 있음)
• 발생 AI와 특별히 연관된 새로운 위험

입력과 연관된 위험

훈련 및 튜닝 단계

공정성

데이터 바이어스

증폭

견고성

데이터 중독

전통적인 인프라

값 맞추기

데이터 큐레이팅

증폭

다운스트림 재훈련

새로 작성

데이터 법률

데이터 전송

전통적인 인프라

데이터 사용량

전통적인 인프라

데이터 획득

증폭

지적 재산

데이터 사용 권한

증폭

데이터의 기밀 정보

전통적인 인프라

투명도

데이터 투명성

증폭

데이터 출처

증폭

개인정보 보호

데이터의 개인 정보

전통적인 인프라

대한

전통적인 인프라

데이터 개인정보 보호 권한

증폭

설문 동의서

전통적인 인프라

추론 단계

개인정보 보호

프롬프트의 개인 정보

새로 작성

멤버십 추론 공격

전통적인 인프라

속성 추론 공격

증폭

지적 재산

프롬프트의 IP 정보

새로 작성

프롬프트의 기밀 데이터

새로 작성

견고성

공격 회피

증폭

추출 공격

증폭

프롬프트 삽입

새로 작성

프롬프트 누출

증폭

다중 범주

프롬프트 프라이밍

증폭

탈옥

증폭

출력과 연관된 위험

공정성

출력 편향성

새로 작성

의사결정 편향성

전통적인 인프라

지적 재산

저작권 침해

새로 작성

기밀 정보 노출

증폭

값 맞추기

환각

새로 작성

독성 출력

새로 작성

과신뢰 또는 과신뢰

증폭

물리적 피해

새로 작성

지정되지 않은 권고

새로 작성

오용

정보 분산

새로 작성

분산 독성

새로 작성

동의하지 않은 사용

증폭

위험한 사용

새로 작성

비밀 유지

새로 작성

부적절한 사용법

증폭

유해한 코드 생성

유해한 코드 생성

새로 작성

개인정보 보호

개인 정보 노출

증폭

설명가능성

설명할 수 없는 출력

증폭

신뢰할 수 없는 소스 귀속

증폭

액세스할 수 없는 훈련 데이터

증폭

추적할 수 없는 속성

증폭

비기술적 위험

거버넌스

모델 투명성 부족

전통적인 인프라

데이터 투명성 부족

증폭

신뢰성

증폭

법률 준수

법적 책임

새로 작성

생성된 컨텐츠 소유권

새로 작성

생성된 컨텐츠 IP

새로 작성

사회적 영향

작업 손실

증폭

사용자 개발

증폭

환경에 미치는 영향

증폭

문화적 다양성에 미치는 영향

새로 작성

휴먼 에이전시에 미치는 영향

증폭

학습 생략

새로 작성

표절

새로 작성