0 / 0
영어 버전 문서로 돌아가기
AI에 대한 다운스트림 재훈련 위험

AI에 대한 다운스트림 재훈련 위험

입력과 연관된 위험
훈련 및 튜닝 단계
값 맞추기
생성 AI의 새로운 기능

설명

재훈련 목적으로 다운스트림 애플리케이션에서 바람직하지 않은 (예: 부정확하고 부적절한 사용자의 컨텐츠) 출력을 사용합니다.

다운스트림 재훈련이 기초 모델에 대한 문제가 되는 이유는 무엇입니까?

적절한 사람의 조사를 구현하지 않고 모델을 재훈련하기 위한 다운스트림 출력을 수정하면 모델의 훈련 또는 튜닝 데이터에 원하지 않는 출력이 통합될 가능성이 높아집니다. 이는 결과적으로 훨씬 더 바람직하지 않은 출력을 생성할 수 있습니다. 부적절한 모델 동작으로 인해 비즈니스 엔티티가 법적 결과 또는 평판 손상에 직면할 수 있습니다. 데이터 전송 법률을 준수하지 않으면 벌금 및 기타 법적 결과가 발생할 수 있습니다.

입력과 연관된 위험의 배경 이미지

AI 생성 컨텐츠를 사용한 훈련으로 인한 모델 접기

소스 기사에서 언급한 바와 같이, 영국과 캐나다의 연구원 그룹은 인간이 생성한 컨텐츠 대신 AI 생성 컨텐츠를 훈련에 사용하는 문제점을 조사했습니다. 그들은 기술 이면의 대형 언어 모델이 잠재적으로 다른 AI 생성 컨텐츠에 대해 훈련될 수 있음을 발견했습니다. 생성된 데이터가 인터넷을 통해 계속 확산되면서 "모델 붕괴" 라고 하는 현상이 발생할 수 있습니다.

상위 주제: AI 위험 지도책

일반적인 AI 검색 및 응답
이러한 응답은 제품 문서의 컨텐츠를 기반으로 하는 watsonx.ai 의 대형 언어 모델에 의해 생성됩니다. 자세히 알아보기