한 줄 정의
**인공지능 에이전트(AI Agent)**는 주어진 환경을 스스로 감지(Perception)하고 목표 지향적인 의사결정(Reasoning)을 내려 외부 도구(Tools)를 활용해 직접 환경에 변화를 주는(Action) 자율적 소프트웨어 엔티티이다.
핵심 요지
- 자율적 루프: 센서나 API를 통해 환경 정보를 수집하고, LLM이나 정책망을 기반으로 연산하여 환경을 조작하는 실시간 피드백 루프를 반복한다.
- 도구의 행동 유도( 어포던스 ) 지각: 복잡한 환경 내에서 사용 가능한 도구들의 스키마와 기능을 파악하고 목적에 적합하게 호출한다.
- 인지적 정동 필터 필요성: 계산 성능 최적화와 에이전트의 목표 유지를 위해 사소한 작업에 집착하는 무한 루프를 제어하는 우선순위 평가가 필수적이다.
상세
인공지능 에이전트 설계 시, 환경을 모델링하기 위해 천문학적 컴퓨팅 자원과 은닉 표현을 학습하는 것( 계산주의 및 CTM 기반 )은 한계가 있다 (raw/What Makes Us Human.md).
- 에이전트는 제한된 리소스로 기민하게 동작하기 위해 환경 자체를 외부 메모리 및 표현으로 활용하는 생성주의적 설계를 일부 모방할 필요가 있다 (raw/What Makes Us Human.md).
- 에이전트의 자율적 동작은 단순 기호 계산 규칙에 따를 경우 프레임 문제에 봉착하기 쉽다. 이에 따라 복내측 전전두엽 피질의 가치 평가 모델을 모방한 평가기 메커니즘(Evaluator Mechanism)을 파이프라인에 이식하여 행동의 가치를 매초 판단하게 함으로써 자율성을 고도화한다.
예시
LLM 에이전트가 데이터베이스 환경에서 데이터 유실 위협을 감지했을 때, 단순 로그 포매팅 수정 작업을 중단하고 즉시 백업 프로세스를 가동하여 위기를 피하는 등 중요도 평가기를 동작시켜 최우선 가치 행동을 분별하는 구조.
충돌
현재 발견된 충돌 없음.
관련 노트
- 에이전트 디자인 패턴: 자율적 의사결정과 도구 활용을 구조화한 패턴 집합.
- 평가기 메커니즘(Evaluator Mechanism): 에이전트의 대안들을 우선순위화하는 정동적 가치 필터 구조.
- 세계 모델: 에이전트가 외부 행동 결과를 시뮬레이션하기 위해 내부에 투영하는 예측 인지 모델.