LLM Wiki

컨텍스트_엔지니어링

9 min read

한 줄 정의

AI 에이전트가 각 작업 단계(Turn/Node)를 완수하는 데 필요한 정보(Context)를 최적의 시점에, 최적의 포맷과 압축 상태로 컨텍스트 윈도우에 동적으로 동기화 및 제공하는 인프라적 시스템 설계 규율.

핵심 요지

  • 패러다임의 이동: AI 개발 패러다임이 프롬프트 엔지니어링(Prompt Engineering, 20222024년)에서 컨텍스트 엔지니어링(Context Engineering, 2025년)으로, 그리고 하네스_엔지니어링 및 루프 엔지니어링으로 진화함 (raw/evolution-of-ai-agentic-patterns.md).
  • 실패의 근본 원인 차단: 멀티 에이전트 파이프라인에서 발생하는 환각 및 오작동의 원인은 모델의 추론 능력 결여가 아닌 단계 간 잘못된 맥락 전달(Context Handoff) 및 오염 때문임 (raw/AI 에이전트에게 Prompt Engineering은 죽었다. 이제 진짜 중요한 것은 Context Engineering이다.md).
  • Karpathy의 정의 및 LLM-as-OS: 안드레이 카파시(Andrej Karpathy)는 이를 “다음 단계를 해결하는 데 필요한 최적의 정보로 컨텍스트 윈도우를 채우는 섬세한 예술이자 과학”으로 정의하였으며, LLM을 OS 커널, 컨텍스트 윈도우를 RAM 메모리로 비유함 (raw/Loop Engineering vs. Harness Engineering…, raw/evolution-of-ai-agentic-patterns.md).
  • 핵심 메트릭 (KV-Cache Hit Rate): 프로덕션 환경의 가장 중요한 단일 지표는 프롬프트 문구가 아닌 KV-Cache hit rate이며, 접두어(Prefix)의 토큰 고정 상태 유지가 비용(최대 10분의 1 절감)과 성능을 좌우함 (raw/evolution-of-ai-agentic-patterns.md).
  • 표준화 및 프로토콜 (MCP): 앤트로픽이 제안한 MCP(Model Context Protocol)는 외부 데이터 소스 및 도구의 맥락 조회를 통합 표준화함 (raw/evolution-of-ai-agentic-patterns.md).

상세

  • Context 3층 구조:
    1. Persistent Context: 사용자 목표, 시스템 지침, 보안/도메인 제약 조건 등 파이프라인 전체에 걸쳐 변하지 않고 유지되는 맥락 (raw/AI 에이전트에게 Prompt Engineering은 죽었다. 이제 진짜 중요한 것은 Context Engineering이다.md).
    2. Time-sensitive Context: RAG 검색 문서, API 응답, 현재 도구 결과 등 단계별로 동적으로 업데이트되는 맥락 (raw/AI 에이전트에게 Prompt Engineering은 죽었다. 이제 진짜 중요한 것은 Context Engineering이다.md).
    3. Transient Context: 중간 연산 페이로드, 원시 API 로그 등 해당 단계를 마치면 다음 노드의 Attention 오염을 막기 위해 즉시 버려지는 임시 맥락 (raw/AI 에이전트에게 Prompt Engineering은 죽었다. 이제 진짜 중요한 것은 Context Engineering이다.md).
  • Anthropic의 4대 전략 (Write / Select / Compress / Isolate):
    • Write: 명확하고 구조화된 시스템 프롬프트 및 규약 수립.
    • Select: 정보 신호 대 잡음비(SNR) 최적화로 ‘Lost-in-the-Middle’ 및 불필요한 attention 경쟁 방지.
    • Compress: 대화 이력 및 중간 추론을 80% 이상의 정보 보존율로 요약 및 압축.
    • Isolate: 특정 서브 에이전트에 독립된 컨텍스트 윈도우를 부여하여 메인 대화 맥락 오염 원천 차단 (raw/2026년 AI 보조 코딩은 하나의 기술이다…, raw/evolution-of-ai-agentic-patterns.md).
  • Google ADK & 컨텍스트 스택 (Stable Prefix & Variable Suffix):
    • 저장과 표현의 분리: 원시 세션 데이터(Session)와 모델에 전송되는 작업 컨텍스트(Working Context)를 분리.
    • KV-Cache 최적화: 접두어에 시스템 프롬프트, 도구 정의 등 고정 데이터를 배치(Stable Prefix)하고 동적 정보(Variable Suffix)를 뒤에 배치하여 계산 재활용 극대화 (raw/evolution-of-ai-agentic-patterns.md).
  • HumanLayer 12-Factor Agents (40% 룰):
    • 컨텍스트 윈도우 채움 용량이 40%를 넘어서면 모델의 지시 이행 능력(Instruction-following)이 급격히 저하되는 ‘Dumb Zone’ 진입 (raw/evolution-of-ai-agentic-patterns.md).
  • 수치 및 정량적 지표:
    • 18개 주요 LLM(Claude 4, GPT-4.1, Gemini 2.5 등) 대상 연구 결과, retrieval 과제에서 컨텍스트 길이에 따라 성능이 비정상적으로 저하됨 (Chroma 2025년 7월 연구, raw/AI 에이전트에게 Prompt Engineering은 죽었다. 이제 진짜 중요한 것은 Context Engineering이다.md).
    • 2026년 IT 및 데이터 리더의 82%가 프롬프트 엔지니어링만으로는 프로덕션 AI에 불충분하다고 응답했으며, 95%가 컨텍스트 엔지니어링 역량에 투자 계획 (raw/AI 에이전트에게 Prompt Engineering은 죽었다. 이제 진짜 중요한 것은 Context Engineering이다.md).
    • MCP(Model Context Protocol)는 2025년 말 월간 SDK 다운로드 9,700만 건, 10,000개 이상의 커뮤니티 서버 운영 달성 (raw/evolution-of-ai-agentic-patterns.md).

예시

LangGraph 기반 AgentState 정의 및 Context Routing 코드 예시

from typing import TypedDict, Optional, List
from langgraph.graph import StateGraph
 
# State를 임시 메모장이 아닌 엄격한 계약(Contract)으로 정의
class ResearchAgentState(TypedDict):
    # Persistent context (파이프라인 전체 고정)
    user_goal: str
    domain_constraints: List[str]
    session_id: str
 
    # Time-sensitive context (단계별 동적 갱신)
    retrieved_docs: List[str]
    current_findings: str
    last_tool_result: Optional[str]
 
    # Transient context (노드 수행 후 정제/폐기 대상)
    raw_api_payload: Optional[str]
    intermediate_reasoning: Optional[str]

(raw/AI 에이전트에게 Prompt Engineering은 죽었다. 이제 진짜 중요한 것은 Context Engineering이다.md)

개발 워크플로 적용 예시

  • CLAUDE.md / AGENTS.md 및 Context Hub: 코드베이스 프로젝트 루트에 영구적 규칙과 모듈별 API 사양(미니 README)을 구성하여 AI 에이전트에게 항상 일관된 개발 컨텍스트를 제공함 (raw/2026년 AI 보조 코딩은 하나의 기술이다…, raw/99%의 사람보다 더 나은 Harness Engineer를 만드는 법.md).
  • 서브 에이전트(Sub-agents) 활용: 완전히 독립된 별도의 컨텍스트 윈도우를 활용하는 서브 에이전트를 배치하여 메인 파이프라인 대화 맥락 오염을 차단 (raw/2026년 AI 보조 코딩은 하나의 기술이다…).

충돌

  • Context Length vs Context Quality (양 대 질의 충돌): 단순히 컨텍스트 윈도우 크기를 무한히 키우는 것은 무결성이나 신뢰성을 보장하지 않음. 오염되거나 낡은 맥락(Stale Context)을 주입하는 것은 맥락이 없는 것보다 더 치명적인 결함 및 환각(Hallucination)을 초래함 (raw/AI 에이전트에게 Prompt Engineering은 죽었다. 이제 진짜 중요한 것은 Context Engineering이다.md).
  • Harness Engineering과의 포함 관계 및 프레임워크 혼란: 일부에서는 컨텍스트 엔지니어링이 프롬프트 엔지니어링을 대체한다고 표현하나, 실제로는 하네스_엔지니어링이 컨텍스트 엔지니어링, Skills, Hooks, Memory, Verification Loop를 포괄하는 상위 환경 레이어로 통합되는 구조임 (raw/99%의 사람보다 더 나은 Harness Engineer를 만드는 법.md, raw/Loop Engineering vs. Harness Engineering…).

관련 노트

그래프 뷰

백링크