한 줄 정의

AI 에이전트 기반 개발 환경에서 소프트웨어 시스템을 파싱하고 수정하는 데 소비되는 입력 및 출력 토큰 비용과 이에 따른 추론 품질의 역학 관계를 최적화하는 설계 관점이다.

핵심 요지

  1. 166:1 토큰 효율성 비대칭: 에이전트의 개발 작업 중 평균 토큰 소비량은 생성(출력) 토큰 1개당 입력 토큰 166개raw/마이크로서비스 대신 모듈러 모놀리스 — AI 에이전트가 코드를 읽기 시작했을 때 바뀐 것들.md#L5에 이른다. 소스코드와 아키텍처의 파편화는 에이전트의 맥락 획득 단가를 기하급수적으로 폭증시킨다.
  2. 컨텍스트 부패 (Context Rot): 무조건 넓은 컨텍스트 윈도우를 활용하는 대신, 중독(환각 누적), 주의 산만, 혼란, 충돌 등의 요인을 줄여 에이전트의 입력 신호 밀도(SNR)를 관리하는 것이 핵심적 가치로 요구된다raw/마이크로서비스 대신 모듈러 모놀리스 — AI 에이전트가 코드를 읽기 시작했을 때 바뀐 것들.md#L103.
  3. 내비게이션 역설 (Navigation Paradox): 풍부한 컨텍스트 윈도우 내에서도 의존성 맵이 부재한 경우, 맵을 갖춘 에이전트에 비해 정답률이 23.2%포인트나 감소한다raw/마이크로서비스 대신 모듈러 모놀리스 — AI 에이전트가 코드를 읽기 시작했을 때 바뀐 것들.md#L107.

상세

  • 중간 유실 (Lost in the Middle) 현상: 대량의 맥락 정보가 입력될 때 정보의 중심에 숨겨진 로직의 주의 집중을 방해해 성능이 U자 형태로 하락하는 인지 오류다raw/마이크로서비스 대신 모듈러 모놀리스 — AI 에이전트가 코드를 읽기 시작했을 때 바뀐 것들.md#L105.
  • 아키텍처 영향: 단일 리포지토리에 구성 정보를 모아 의미 지도를 명확하게 보여줄 수 있는 모듈러 모놀리스 아키텍처가 마이크로서비스보다 에이전트 컨텍스트 경제학 측면에서 탁월하다.

예시

  • Drew Breunig의 컨텍스트 부패 4단계 정의raw/마이크로서비스 대신 모듈러 모놀리스 — AI 에이전트가 코드를 읽기 시작했을 때 바뀐 것들.md#L103:
    1. 중독 (Poisoning) - 환각 누적
    2. 주의 산만 (Distraction) - 불필요한 맥락 주입
    3. 혼란 (Confusion) - 비유기적 구조로 인한 이해 불일치
    4. 충돌 (Clash) - 상충 데이터 충돌

충돌

  • 컨텍스트 무제한 확장 편향 vs 인지 오작동:
    • 기존 주장: LLM 모델의 컨텍스트 윈도우 한계가 계속해서 대용량화(예: 1M 토큰 이상)되고 있으므로, 굳이 컨텍스트 관리에 신경 쓰지 않고 모든 리포지토리 파일 내용을 에이전트에 그대로 흘려보내도 충분하다.
    • 컨텍스트 경제학적 반론: 컨텍스트가 임계치를 넘어 늘어나면 U자형 중간 유실 현상raw/마이크로서비스 대신 모듈러 모놀리스 — AI 에이전트가 코드를 읽기 시작했을 때 바뀐 것들.md#L105 및 내비게이션 역설에 따른 23.2%포인트 정답률 손실raw/마이크로서비스 대신 모듈러 모놀리스 — AI 에이전트가 코드를 읽기 시작했을 때 바뀐 것들.md#L107 등이 일어나 추론 오류와 인프라 비용 폭증을 유발한다.

관련 노트