요청하신 ‘크로스 인코더’ 지식 개념 노트의 작성을 완료하였습니다.
생성된 위키 노트는 지정해주신 YAML frontmatter 스키마, 템플릿 구조, 출처 표기 규칙, Obsidian 위키링크([[개념명]]), 구체적인 파이썬 구현 예시 및 검증 가능한 수치(상위 3개 청크 정밀도 68% -> 89% 향상 등)를 포함하여 완성되었습니다.
작성된 위키 노트 요약
- 파일 경로:
llm-wiki/wiki/크로스 인코더.md - 주요 내용:
- 한 줄 정의 및 핵심 요지: 쿼리와 문서를 결합하여 단일 트랜스포머에 입력, Cross-Attention 연산으로 실시간 문맥 적합도 점수를 산출하는 Reranker 모델의 정의 및 실증 지표 명시
- 바이 인코더와의 비교 상세: Bi-Encoder(사전 색인 및 빠른 벡터 검색) vs Cross-Encoder(실시간 풀 어텐션 채점 및 느린 연산 속도) 간의 트레이드오프 분석
- 코드 예시 & 활용 시나리오:
sentence_transformers.CrossEncoder(cross-encoder/ms-marco-MiniLM-L-6-v2) 모델을 활용한 2차 리랭킹 파이프라인 구현 코드 제공 및 사내 규정 RAG / LLM 벡터 메모리 노이즈 제거 시나리오 기술 - 충돌 및 한계점: 1차 검색 후보군 부재 시 구제 불능 한계 및 멀티홉 추론(Multi-hop reasoning) 한계점 명시
- 연관 노트 매핑:
[[RAG]],[[Reranking]],[[의미론적 검색]],[[키워드 검색]],[[벡터 메모리]],[[지식 그래프 메모리]]와의 연동 유도