AI 위험 지도책

위험성은 다음 태그 중 하나로 분류됩니다.

AI 에이전트는 AI 기술을 사용하고 설정된 목표에 따라 환경에서 행동할 수 있는 에이전트를 갖춘 소프트웨어 개체로, 어떤 작업을 수행할지 결정하고 실행할 수 있는 능력을 갖추고 있습니다. 에이전트 AI 시스템은 도구, 플래너, 메모리, 데이터 세트와 같은 다른 구성 요소와 함께 AI 에이전트를 활용하고 목표를 추구하며 자율적으로 작동할 수 있는 소프트웨어 시스템입니다.

AI 상담원은 세 가지 유형의 작업을 수행할 수 있습니다:

• 세상에 영향을 미치는 행동(물리적 또는 디지털)을 취하세요.
• 리소스를 참조하고 도구를 사용하세요.
• 리소스/도구/기타 AI 에이전트 선택에서 어떤 프로세스를 선택할지 결정하고 해당 프로세스를 선택합니다.

이 섹션의 위험은 에이전트 AI에만 해당되거나 에이전트 AI에 의해 증폭됩니다. 최근 에이전트는 대규모 언어 모델을 기반으로 구축되므로 다음 섹션의 생성형 AI 위험은 에이전트 AI에도 적용될 수 있습니다.

위험성은 다음 태그 중 하나로 분류됩니다.

아래의 위험은 생성형 AI 모델과 기존(비생성형) AI 모델에 적용되는 위험에 대해 설명합니다. 이러한 위험은 에이전트 AI에도 적용될 수 있으며, 특히 에이전트의 행동이나 출력이 생성형 또는 기존 AI 모델을 사용하여 결정되는 경우 더욱 그렇습니다.