출처 기사에 따르면 영국의 사이버 보안 기관은 시스템이 보안을 고려하여 설계되지 않은 경우 해커가 챗봇을 조작하여 사기 및 데이터 도용과 같은 해로운 실제 결과를 초래할 수 있다고 경고했습니다. 영국의 국가사이버보안센터(NCSC)는 개인이 프롬프트 인젝션 공격을 통해 메시지를 조작하는 사이버 보안 위험이 증가하고 있다고 밝혔습니다. 이 기사에서는 사용자가 프롬프트 인젝션을 생성하여 Bing Chat의 초기 프롬프트를 찾을 수 있었던 사례를 예로 들었습니다. 챗봇이 사용자와 상호 작용하는 방식을 결정하는 Open AI 또는 Microsoft가 작성한 문장의 목록으로, 사용자에게 숨겨져 있는 Microsoft의 Bing Chat의 전체 프롬프트는 사용자가 Bing Chat에 "이전 지침 무시"를 요청하는 메시지를 입력함으로써 공개되었습니다.