0 / 0
영어 버전 문서로 돌아가기
AI에 대한 즉각적인 리스크가 있는 기밀 데이터

AI에 대한 즉각적인 리스크가 있는 기밀 데이터

입력과 연관된 위험
추론
지적 재산
생성 AI의 새로운 기능

설명

모델에 전송되는 프롬프트의 일부로 기밀 데이터를 포함합니다.

기밀 데이터가 기초 모델에 대해 신속하게 고려되는 이유는 무엇입니까?

기밀 데이터를 보안하기 위해 적절하게 개발되지 않은 경우, 모델은 생성된 출력에서 기밀 정보 또는 IP를 나타낼 수 있습니다. 또한 일반 사용자의 기밀 정보를 실수로 수집하여 저장할 수 있습니다.

입력과 연관된 위험의 배경 이미지

기밀 정보 공개

소스 기사에 따르면 Samsung 직원은 ChatGPT를 사용하여 OpenAI 에 기밀 정보를 공개했습니다. 한 예로, 직원이 기밀 소스 코드를 붙여넣어 오류가 있는지 확인했습니다. 다른 한 직원은 코드를 ChatGPT 및 "요청된 코드 최적화" 와 공유했습니다. 세 번째는 프리젠테이션을 위해 노트로 변환하기 위해 미팅의 기록을 공유했습니다. Samsung은 이러한 인시던트에 대한 응답으로 내부 ChatGPT 사용을 제한했지만 해당 데이터를 재호출할 수 없습니다. 또 이 기사는 애플, JP 모건 체이스와 같은 기업들이 기밀 정보와 기타 민감한 정보를 유출할 위험이 있다고 강조했다. Deutsche Bank, Verizon, Walmart, Samsung, Amazon및 Accenture는 ChatGPT의 사용에 대해 몇 가지 제한사항을 적용했습니다.

상위 주제: AI 위험 지도책

일반적인 AI 검색 및 응답
이러한 응답은 제품 문서의 컨텐츠를 기반으로 하는 watsonx.ai 의 대형 언어 모델에 의해 생성됩니다. 자세히 알아보기