출처 기사에 따르면, 뉴욕시가 소상공인을 돕기 위해 만든 AI 챗봇이 지역 정책을 잘못 설명하거나 기업에 법 위반을 권고하는 등 부정확하거나 유해한 조언을 제공한 것으로 나타났습니다. 챗봇은 사업체가 검은색 쓰레기 봉투에 쓰레기를 버려도 되고 퇴비화할 필요가 없다고 잘못 제안했는데, 이는 뉴욕시의 대표적인 두 가지 폐기물 이니셔티브와 모순되는 것입니다. 또한 설치류가 갉아먹은 치즈를 식당에서 제공할 수 있느냐는 질문에는 긍정적인 답변을 내놓았습니다.