정의
단순히 질문에 답변하는 것뿐만 아니라 웹사이트 탐색, 코드 작성 및 실행, 이메일 전송, 외부 서비스 호출 등 실제 세계에서 행동을 취하는 AI 시스템입니다. 종종 각 단계에서 인간의 승인이 거의 없거나 전혀 없이 일련의 단계로 진행됩니다. 단순한 챗봇과 달리 에이전트는 독립적으로 어떤 단계를 취할지 결정함으로써 목표를 추구합니다.
왜 중요한가
AI 에이전트가 더 자율적으로 행동할수록, 조작되거나 손상되거나 단순히 잘못된 경우 잠재적 손상이 더 커집니다. 비즈니스 시스템에 대한 접근 권한으로 운영되는 에이전트는 데이터 삭제, 구매, 또는 비밀 유출 등 실질적인 피해를 머신 속도로 야기할 수 있습니다.