영어 버전 문서로 돌아가기 AI에 대한 위험 유출을 신속하게 방지 AI에 대한 위험 유출을 신속하게 방지 입력과 연관된 위험 추론 견고성 생성 AI에 의해 증폭됨 설명 프롬프트 누출 공격은 모델의 시스템 프롬프트 (시스템 메시지라고도 함) 를 추출하려고 시도합니다. 왜 기초 모델에 대한 우려가 신속하게 누출되고 있는 것일까요? 성공적인 공격은 모델에서 사용되는 시스템 프롬프트를 복사합니다. 해당 프롬프트의 컨텐츠에 따라 공격자는 중요한 정보 (예: 민감한 개인 정보 또는 지적 재산권) 에 액세스할 수 있으며 모델의 일부 기능을 복제할 수 있습니다. 상위 주제: AI 위험 지도책
AI에 대한 위험 유출을 신속하게 방지 입력과 연관된 위험 추론 견고성 생성 AI에 의해 증폭됨 설명 프롬프트 누출 공격은 모델의 시스템 프롬프트 (시스템 메시지라고도 함) 를 추출하려고 시도합니다. 왜 기초 모델에 대한 우려가 신속하게 누출되고 있는 것일까요? 성공적인 공격은 모델에서 사용되는 시스템 프롬프트를 복사합니다. 해당 프롬프트의 컨텐츠에 따라 공격자는 중요한 정보 (예: 민감한 개인 정보 또는 지적 재산권) 에 액세스할 수 있으며 모델의 일부 기능을 복제할 수 있습니다. 상위 주제: AI 위험 지도책