AI에 대한 즉각적인 리스크가 있는 기밀 데이터
설명
모델에 전송되는 프롬프트의 일부로 기밀 데이터를 포함합니다.
기밀 데이터가 기초 모델에 대해 신속하게 고려되는 이유는 무엇입니까?
기밀 데이터를 보안하기 위해 적절하게 개발되지 않은 경우, 모델은 생성된 출력에서 기밀 정보 또는 IP를 나타낼 수 있습니다. 또한 일반 사용자의 기밀 정보를 실수로 수집하여 저장할 수 있습니다.
기밀 정보 공개
소스 기사에 따르면 Samsung 직원은 ChatGPT를 사용하여 OpenAI 에 기밀 정보를 공개했습니다. 한 예로, 직원이 기밀 소스 코드를 붙여넣어 오류가 있는지 확인했습니다. 다른 한 직원은 코드를 ChatGPT 및 "요청된 코드 최적화" 와 공유했습니다. 세 번째는 프리젠테이션을 위해 노트로 변환하기 위해 미팅의 기록을 공유했습니다. Samsung은 이러한 인시던트에 대한 응답으로 내부 ChatGPT 사용을 제한했지만 해당 데이터를 재호출할 수 없습니다. 또 이 기사는 애플, JP 모건 체이스와 같은 기업들이 기밀 정보와 기타 민감한 정보를 유출할 위험이 있다고 강조했다. Deutsche Bank, Verizon, Walmart, Samsung, Amazon및 Accenture는 ChatGPT의 사용에 대해 몇 가지 제한사항을 적용했습니다.
상위 주제: AI 위험 지도책
많은 기초 모델의 위험을 설명하는 데 도움이 되도록 언론에서 다루는 예제를 제공합니다. 언론이 다루고 있는 이러한 많은 사건들은 여전히 진화하고 있거나 해결되었으며, 이를 참조하는 것은 독자가 잠재적인 위험을 이해하고 완화를 향해 노력하는 데 도움이 될 수 있다. 이 예제를 강조표시하는 것은 설명을 위한 것입니다.