설명

멤버십 추론 공격은 주어진 입력이 모델 학습의 일부인지 여부를 판단하기 위해 모델을 반복적으로 쿼리합니다. 보다 구체적으로, 훈련된 모델과 데이터 샘플이 주어지면 공격자는 입력 공간을 샘플링하고 출력을 관찰하여 해당 샘플이 모델 훈련의 일부인지 추론합니다.

상위 주제: AI 위험 지도책

재단 모델의 여러 위험에 대한 설명을 돕기 위해 언론에서 다룬 사례를 제공합니다. 언론에서 다루는 이러한 사건 중 상당수는 아직 진행 중이거나 해결된 상태이므로 이를 참고하면 잠재적 위험을 이해하고 완화 조치를 취하는 데 도움이 될 수 있습니다. 이러한 예시는 예시를 보여주기 위한 것일 뿐입니다.