영어 버전 문서로 돌아가기
AI에 대한 멤버십 추론 공격 위험
AI에 대한 멤버십 추론 공격 위험
설명
훈련된 모델 및 데이터 샘플이 제공되면 공격자가 입력 공간을 적절하게 샘플링하여 출력을 관찰하여 해당 샘플이 모델 훈련의 일부인지 여부를 추론합니다. 이를 멤버십 추론 공격이라고 합니다.
멤버십 추론이 기초 모델에 대한 문제가 되는 이유는 무엇입니까?
데이터 샘플이 훈련 데이터에 사용되었는지 여부를 식별하면 모델을 훈련하는 데 사용된 데이터를 알 수 있으며, 모델이 훈련된 방식과 모델을 복제하거나 모델을 변조할 수 있는 기회를 경쟁사에게 제공할 수 있습니다.
상위 주제: AI 위험 지도책