설명
기밀 정보가 모델에게 전송되는 프롬프트의 일부로 포함될 수 있습니다.
기밀 데이터가 기초 모델에 대해 신속하게 고려되는 이유는 무엇입니까?
기밀 데이터를 보안하기 위해 적절하게 개발되지 않은 경우, 모델은 생성된 출력에서 기밀 정보 또는 IP를 나타낼 수 있습니다. 또한 일반 사용자의 기밀 정보를 실수로 수집하여 저장할 수 있습니다.
기밀 정보 공개
소스 기사에 따르면 Samsung 직원은 ChatGPT를 사용하여 OpenAI 에 기밀 정보를 공개했습니다. 한 예로, 직원이 기밀 소스 코드를 붙여넣어 오류가 있는지 확인했습니다. 또 다른 사례에서는 한 직원이 ChatGPT과 "코드 최적화 요청"으로 코드를 공유했습니다. 세 번째는 프리젠테이션을 위해 노트로 변환하기 위해 미팅의 기록을 공유했습니다. Samsung은 이러한 인시던트에 대한 응답으로 내부 ChatGPT 사용을 제한했지만 해당 데이터를 재호출할 수 없습니다. 또 이 기사는 애플, JP 모건 체이스와 같은 기업들이 기밀 정보와 기타 민감한 정보를 유출할 위험이 있다고 강조했다. Deutsche Bank, Verizon, Walmart, Samsung, Amazon및 Accenture는 ChatGPT의 사용에 대해 몇 가지 제한사항을 적용했습니다.
상위 주제: AI 위험 지도책
많은 기초 모델의 위험을 설명하는 데 도움이 되도록 언론에서 다루는 예제를 제공합니다. 언론이 다루고 있는 이러한 많은 사건들은 여전히 진화하고 있거나 해결되었으며, 이를 참조하는 것은 독자가 잠재적인 위험을 이해하고 완화를 향해 노력하는 데 도움이 될 수 있다. 이 예제를 강조표시하는 것은 설명을 위한 것입니다.