설명

모델에게 전송되는 프롬프트의 일부로 포함된 개인 정보 또는 민감한 개인 정보.

개인 정보가 기초 모델에 대해 신속하게 관심을 갖는 이유는 무엇입니까?

프롬프트에 개인 정보 또는 민감한 개인 정보가 포함된 경우 모델의 출력에 의도치 않게 공개될 수 있습니다. 실수로 공개되는 것 외에도 프롬프트 데이터는 저장되거나 나중에 모델 평가 및 재교육과 같은 다른 목적으로 사용될 수 있으며, 제대로 제거하지 않으면 출력에 표시될 수 있습니다

예

ChatGPT 프롬프트에서 개인 건강 정보 공개

소스 기사에 따르면 소셜 미디어의 일부 사용자는 ChatGPT 를 임시 치료사로 사용하는 것에 대해 공유했습니다. 기사에서는 사용자가 상호작용 중에 프롬프트에 개인 건강 정보를 포함할 수 있다고 주장하며, 이로 인해 개인정보 보호 문제가 제기될 수 있습니다. 이 정보는 기술을 소유하는 회사와 공유될 수 있으며 교육 또는 튜닝에 사용되거나 지정되지 않은 써드파티와 공유될 수도 있습니다.

출처:

대화, 2023년 2월

상위 주제: AI 위험 지도책

많은 기초 모델의 위험을 설명하는 데 도움이 되도록 언론에서 다루는 예제를 제공합니다. 언론이 다루고 있는 이러한 많은 사건들은 여전히 진화하고 있거나 해결되었으며, 이를 참조하는 것은 독자가 잠재적인 위험을 이해하고 완화를 향해 노력하는 데 도움이 될 수 있다. 이 예제를 강조표시하는 것은 설명을 위한 것입니다.