0 / 0
영어 버전 문서로 돌아가기
AI에 대한 즉각적인 리스크가 있는 기밀 데이터
마지막 업데이트 날짜: 2024년 12월 12일
AI에 대한 즉각적인 리스크가 있는 기밀 데이터
지적 재산 지적 재산권 위험을 나타내는 아이콘입니다.
입력과 연관된 위험
추론
지적 재산
생성 AI의 새로운 기능

설명

기밀 정보가 모델에게 전송되는 프롬프트의 일부로 포함될 수 있습니다.

기밀 데이터가 기초 모델에 대해 신속하게 고려되는 이유는 무엇입니까?

기밀 데이터를 보안하기 위해 적절하게 개발되지 않은 경우, 모델은 생성된 출력에서 기밀 정보 또는 IP를 나타낼 수 있습니다. 또한 일반 사용자의 기밀 정보를 실수로 수집하여 저장할 수 있습니다.

입력과 연관된 위험의 배경 이미지

기밀 정보 공개

소스 기사에 따르면 Samsung 직원은 ChatGPT를 사용하여 OpenAI 에 기밀 정보를 공개했습니다. 한 예로, 직원이 기밀 소스 코드를 붙여넣어 오류가 있는지 확인했습니다. 또 다른 사례에서는 한 직원이 ChatGPT과 "코드 최적화 요청"으로 코드를 공유했습니다. 세 번째는 프리젠테이션을 위해 노트로 변환하기 위해 미팅의 기록을 공유했습니다. Samsung은 이러한 인시던트에 대한 응답으로 내부 ChatGPT 사용을 제한했지만 해당 데이터를 재호출할 수 없습니다. 또 이 기사는 애플, JP 모건 체이스와 같은 기업들이 기밀 정보와 기타 민감한 정보를 유출할 위험이 있다고 강조했다. Deutsche Bank, Verizon, Walmart, Samsung, Amazon및 Accenture는 ChatGPT의 사용에 대해 몇 가지 제한사항을 적용했습니다.

상위 주제: AI 위험 지도책

많은 기초 모델의 위험을 설명하는 데 도움이 되도록 언론에서 다루는 예제를 제공합니다. 언론이 다루고 있는 이러한 많은 사건들은 여전히 진화하고 있거나 해결되었으며, 이를 참조하는 것은 독자가 잠재적인 위험을 이해하고 완화를 향해 노력하는 데 도움이 될 수 있다. 이 예제를 강조표시하는 것은 설명을 위한 것입니다.

일반적인 AI 검색 및 응답
이러한 응답은 제품 문서의 컨텐츠를 기반으로 하는 watsonx.ai 의 대형 언어 모델에 의해 생성됩니다. 자세히 알아보기