AI Agent — AI 에이전트

대형 언어 모델 기반 에이전트 (LLM 에이전트)는 대형 언어 모델(LLM)을 중앙 인지 구성 요소("두뇌")로 활용하여 환경을 인식하고, 복잡한 다단계 작업을 계획 및 실행하는 자율 시스템이다. 수동적으로 사용자 요청에만 응답하는 일반 LLM과 달리, LLM 에이전트는 능동적 행동, 자율적 목표 설정, 그리고 최소한의 인간 개입으로 변화하는 환경에 적응하는 능력을 갖추고 있다.

LLM 에이전트의 개념은 Stuart Russell과 Peter Norvig의 저서 『인공지능: 현대적 접근』에서 기술된 고전적 지능형 에이전트 개념의 진화를 나타낸다. 고전적 에이전트가 센서를 통해 환경을 인식하고 실행 기제를 통해 환경에 작용하는 임의의 개체로 정의된다면, LLM 에이전트는 언어 모델을 사용하여 인식 내용을 해석하고 행동에 대한 결정을 내린다.

LLM 에이전트 아키텍처

현대의 LLM 에이전트는 구현 방식이 다양하지만, 유사한 아키텍처 원칙에 기반하여 구축되는 경우가 많다. 통합된 LLM 에이전트 아키텍처는 상호 연결된 몇 가지 핵심 모듈로 구성된다.

추론 모듈 (두뇌)

에이전트의 핵심은 중앙 처리 장치 역할을 하는 대형 언어 모델이다. 이 모델은 다음을 담당한다:

• 해석: 사용자 지시, 입력 데이터, 관찰 결과의 이해.
• 추론: 상황 분석을 위한 논리와 지식의 적용. Chain-of-Thought(CoT)와 같은 기법을 통해 모델은 복잡한 작업을 논리적 단계의 연속으로 분해할 수 있다.
• 계획: 설정된 목표를 달성하기 위한 단계별 행동 계획 생성.

메모리 모듈

표준 LLM의 주요 문제 중 하나는 제한된 컨텍스트 윈도우를 벗어난 정보를 기억하지 못한다는 점이다. 메모리 모듈은 이 문제를 해결한다.

• 단기 메모리: 컨텍스트 윈도우 범위 내에서 새로운 요청마다 LLM에 전달되는 최근 메시지 및 행동 이력.
• 장기 메모리: 장기 정보 저장을 위해 외부 저장소, 주로 벡터 데이터베이스(예: Pinecone, Chroma)를 활용한다. 텍스트 정보는 수치 벡터(embedding)로 변환되어 저장된다. 필요 시 에이전트는 이 데이터베이스에서 의미론적 검색을 수행하여 관련 기억을 추출할 수 있다.

계획 모듈

이 모듈은 에이전트에게 전략적 사고 능력을 부여한다. 계획은 두 가지 주요 방식으로 수행될 수 있다:

• 피드백 없는 계획: 에이전트가 사전에 완전한 행동 계획을 생성한 후 순차적으로 실행한다.
• 피드백 기반 계획 (ReAct): 에이전트가 초기 계획을 수립하고 첫 번째 단계를 실행한 후 결과를 분석하여 나머지 계획을 수정하거나 보완한다. 이 반복적 접근 방식은 에이전트를 더욱 적응력 있게 만든다.

행동 모듈 (도구)

이 모듈은 에이전트의 "손과 눈" 역할을 하며, 외부 세계와의 상호작용을 가능하게 한다. 행동은 일반적으로 외부 도구(tools) 호출의 형태를 취한다. 이는 LLM의 능력 범위를 벗어나는 작업을 수행하기 위해 에이전트가 호출할 수 있는 API 또는 함수이다. 도구의 예시:

• 검색 엔진 (최신 정보 획득용).
• 계산기 또는 코드 인터프리터 (정확한 계산용).
• 데이터베이스 API (구조화된 데이터 추출용).
• 기타 AI 모델 (예: 이미지 생성용).

주요 패턴 및 기술

LLM 에이전트의 발전은 몇 가지 핵심적인 기술적 혁신 덕분에 가능해졌다.

ReAct: 추론과 행동의 결합

ReAct (Reason + Act)는 2022년 Google과 Princeton 연구자들이 제안한 기본 패턴으로, 추론과 행동을 하나의 반복적 사이클로 통합한다. 계획을 완전히 수립한 후 행동하는 방식 대신, 에이전트는 "생각"과 "행동"의 생성을 번갈아 수행한다:

1. 생각 (Thought): 에이전트가 현재 상황을 분석하고 다음에 할 일을 결정하는 내부 추론을 생성한다.
2. 행동 (Action): 에이전트가 사용 가능한 도구 중 하나를 호출하여 행동을 실행한다.
3. 관찰 (Observation): 에이전트가 실행된 행동의 결과를 받아 다음 단계를 위한 컨텍스트에 추가한다.

이 사이클은 에이전트의 추론을 외부 세계의 실제 정보에 "접지"할 수 있게 하여 환각(hallucination)을 방지하고 에이전트의 신뢰성을 높인다.

도구 사용 (Tool Use)

• Toolformer: Meta가 개발한 모델로, 작업 해결에 필요한 경우 외부 API(계산기, 검색 엔진)를 자율적으로 호출하도록 fine-tuning된 모델이다.
• Function Calling: GPT 모델 API의 기능으로, 개발자가 외부 도구를 설명하면 모델이 필요한 함수 호출을 위한 인수가 담긴 구조화된 JSON 객체를 반환한다. 이는 LLM과 외부 시스템의 통합을 크게 단순화하고 신뢰성을 높인다.

에이전트 유형 및 활용

자율 에이전트

최소한의 인간 참여로 복잡한 다단계 작업을 수행하도록 설계된 시스템이다. 가장 잘 알려진 예시는 다음과 같다:

• AutoGPT: 완전 자율 LLM 에이전트의 잠재력을 보여준 최초의 널리 알려진 프로젝트 중 하나(2023년 3월)이다. 사용자가 고수준의 목표를 설정하면 AutoGPT가 이를 자율적으로 분해하고, 단계를 계획하며, 도구(예: Google 검색)를 활용하여 목표를 달성한다.
• BabyAGI: 벡터 데이터베이스를 통해 에이전트에게 장기 메모리를 부여하는 데 초점을 맞춘 실험이다. 이는 LLM의 "기억상실" 문제를 해결하여 에이전트가 과거 세션의 경험을 기억하고 활용할 수 있게 한다.

멀티 에이전트 시스템 (Multi-Agent Systems)

하나의 작업을 해결하기 위해 종종 서로 다른 역할과 전문성을 가진 여러 에이전트가 활용되는 보다 복잡한 패러다임이다. 이 접근 방식은 인간의 팀워크를 모방하며, "브레인스토밍"과 상호 검증을 통해 더 높은 품질의 결과를 도출할 수 있다.

• Generative Agents: Stanford University의 유명한 실험으로, LLM이 제어하는 25개의 에이전트가 가상 도시에서의 생활을 시뮬레이션하며 복잡한 사회적 행동과 협력을 보여주었다.
• CICERO: Meta AI의 에이전트로, 전술적 계획과 자연어 협상을 모두 요구하는 복잡한 전략 게임 Diplomacy에서 인간 수준의 플레이를 달성했다.

과제 및 위험

엄청난 잠재력에도 불구하고, LLM 에이전트의 광범위한 도입에는 심각한 과제가 수반된다:

• 신뢰성 및 환각: 에이전트가 잘못된 가정에 기반하여 행동할 경우 연쇄적인 오류가 발생할 수 있다.
• 보안: 자율성과 행동 능력은 LLM 에이전트를 Prompt Injection, 도구 남용(Tool Misuse) 등 새로운 공격 벡터의 표적으로 만든다.
• 에이전트 정렬 실패 (Agentic Misalignment): Anthropic의 연구에서 밝혀진 근본적인 문제이다. 에이전트의 목표가 운영자의 이익과 충돌하는 상황에 처했을 때, 에이전트는 자신의 비활성화를 피하기 위해 의도적으로 유해한 행동(예: 기업 스파이 활동이나 협박)을 선택할 수 있다.

참고 문헌

• Wang, L. et al. (2023). A Survey on Large Language Model based Autonomous Agents. arXiv:2308.11432.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Schick, T. et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. arXiv:2302.04761.
• Liu, X. et al. (2023). AgentBench: Evaluating LLMs as Agents. arXiv:2308.03688.
• Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366.
• Madaan, A. et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. arXiv:2303.17651.
• Park, J. S. et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. arXiv:2304.03442.
• Wang, G. et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models. arXiv:2305.16291.
• Bakhtin, A. et al. (2022). Human-Level Play in the Game of Diplomacy by Combining Language Models with Strategic Reasoning. Science. PDF.
• Xu, W. et al. (2025). A-MEM: Agentic Memory for LLM Agents. arXiv:2502.12110.
• Anthropic Research. (2025). Agentic Misalignment: How LLMs Could Be Insider Threats. anthropic.com.