LLM Wiki

적시 컨텍스트 로딩

4 min read

지정한 개념 ‘적시 컨텍스트 로딩’(workflow 유형)에 대한 고품질 한국어 위키 노트를 성공적으로 생성하여 llm-wiki 지식 베이스에 반영했습니다.

📄 생성된 위키 노트 정보

  • 파일명: llm-wiki/wiki/적시 컨텍스트 로딩.md
  • 유형(Type): workflow
  • 상태(Status): draft

💡 주요 작성 내용 요약

  1. 한 줄 정의: 사전 색인(Vector Search/Chunking) 대신 에이전트 탐색 시점에 grep, glob, AST 파서, MCP 등 경량 도구를 호출해 동적으로 컨텍스트를 주입하는 RAG 대체형 엔지니어링 워크플로우로 정리했습니다.
  2. 핵심 요지:
    • 사전 로딩(Pre-inference)에서 동적 런타임 로딩(Runtime Loading)으로의 아키텍처 패러다임 전환
    • Anthropic Claude Code, Cursor, Windsurf, Devin 등의 벡터리스 RAG(Vectorless RAG) 표준 채택
    • 신호 밀도(High-signal) 극대화를 통한 컨텍스트 세금 및 Lost in the Middle 오류 감소
    • Search-R1, CoSearch 등 강화학습(RL) 기반 검색 정책(Learnable Policy)으로의 진화
  3. 상세 분석:
    • 코드 및 동적 엔터프라이즈 환경에서 기존 벡터 RAG의 실패 원인 분석 (의미론적 유사성과 구조적 관련성의 괴리, 심볼 정밀 탐색 한계, SWE-bench 점수 변화 지표)
    • 앤트로픽의 5단계 컨텍스트 압축 파이프라인(Budget reduction, Snip, Microcompact, Context collapse, Auto-compact) 및 MCP 연결 아키텍처
    • Amazon Science(AAAI 2026), Search-R1, Anthropic 다중 에이전트 연구 시스템(90.2% 성능 향상 및 90% 시간 단축) 등의 수치 지표 및 벤치마크 명시
    • 2026년 에이전트 검색 아키텍처의 5가지 스펙트럼(순수 에이전트, 하이브리드, 구조적/AST 인식, 전문 검색 모델, RL 훈련 검색 정책) 비교표 포함
  4. 구체적 예시:
    • ripgrep 및 동적 파스 읽기를 수행하는 파이썬 기반 JITContextLoader 의사코드 구현
    • Claude Code 대화 과정에서의 탐색 iteration 및 200K 제한 도달 시 5단계 압축 파이프라인 작동 로그 시나리오
  5. 충돌 및 한계:
    • 쿼리당 토큰 소모량 폭증(일반 챗봇 대비 5~30배, 복잡한 리서치 시 15배) 및 비용 이슈
    • 멀티 턴 연쇄 도구 호출에 따른 응답 지연 시간(1~10초+) 증대
    • 동의어/키워드 미탐(Vocabulary Mismatch) 한계 및 하이브리드/AST 탐색 필요성
  6. 관련 노트 및 출처 연동:

그래프 뷰

백링크