영어 버전 문서로 돌아가기
AI에 대한 데이터 중독 위험
AI에 대한 데이터 중독 위험
설명
공격자 또는 악의적인 내부자가 훈련 또는 세부 튜닝 데이터 세트에 의도적으로 손상, 거짓, 오도 또는 잘못된 샘플을 삽입하는 적대적 공격 유형입니다.
데이터 중독이 파운데이션 모델의 문제가 되는 이유는 무엇입니까?
중독 데이터는 모델을 악성 데이터 패턴에 민감하게 만들고 상대의 원하는 출력을 생성할 수 있습니다. 이는 적이 자신의 이익을 위해 모델 동작을 강제 실행할 수 있는 보안 위험을 생성할 수 있습니다. 의도하지 않고 잠재적으로 악의적인 결과를 생성하는 것 외에, 데이터 중독으로 인한 모델 불일치로 인해 비즈니스 엔티티가 법적 결과 또는 평판 손상에 직면할 수 있습니다.
상위 주제: AI 위험 지도책