---
tags: [AI-Agent, RAG, 리랭킹]
---

# 리랭킹·압축 전략 카탈로그

> 후보가 만들어진 이후 구간의 두 작업 — **순서를 고치고**(리랭킹) **양을 줄인다**(압축). 2단계 검색 원리는 [[Re-ranking]] — 여기는 선택지 카탈로그다.

## 리랭킹 전략

| 전략 | 원리 | 트레이드오프 |
|------|------|-------------|
| Cross-encoder 리랭커 | 질의-문서를 한 모델에 함께 넣어 정밀 채점 | **표준값** — 정밀도 대폭↑, 후보 50~100개 한정으로 |
| LLM 리랭커(listwise/pairwise) | LLM에게 후보 순위를 직접 매기게 함 | 최고 유연성·최고 비용 — 소량 후보·고가치 질의만 |
| Late interaction(ColBERT류) | 토큰 수준 대조로 채점 | cross-encoder보다 빠르고 bi-encoder보다 정밀한 중간 지점 |
| MMR·중복 제거 | 이미 뽑힌 것과 유사한 후보를 감점 | 사본·재탕이 top-k를 점령할 때 |
| 메타데이터 재정렬 | 권위·최신성·문서유형으로 가중 | "규정 > 블로그" 같은 출처 위계가 있을 때 |

## 압축·배치 전략 — 컨텍스트 예산 안에 넣기

| 전략 | 원리 | 비고 |
|------|------|------|
| 토큰 예산 절단 | top-k 개수 대신 토큰 예산으로 자름 | 청크 길이 편차가 클 때 k보다 안정적 |
| 추출식 압축 | 청크에서 질의 관련 문장만 추출해 전달 | 정보 소실 위험 — 골든셋으로 확인 |
| 요약식 압축 | LLM으로 후보를 요약 후 전달 | 출처 추적이 흐려짐 — 인용 요구와 상충 주의 |
| 프롬프트 압축(LLMLingua류) | 중요도 낮은 토큰을 삭제 | 장문 컨텍스트의 비용 절감용 |
| 재배열(lost-in-the-middle 대응) | 핵심 근거를 컨텍스트 양 끝에 배치 | 긴 컨텍스트에서 중간 정보가 약해지는 경향에 대응 → [[Context Engineering]] |

## 선택 가이드

1. 리랭커 도입 전 확인: **후보에 정답이 들어오긴 하나**(recall@50) — 안 들어오면 리랭킹이 아니라 검색 문제다 → [[RAG 실패 진단과 개선]].
2. 시작은 cross-encoder + 토큰 예산 절단. LLM 리랭커는 그것으로 부족함이 측정된 뒤에.
3. 압축은 faithfulness 지표와 함께 본다 — 압축이 근거를 깎으면 환각이 늘어난 것처럼 보인다.

## 관련 문서

- [[Re-ranking]] — 2단계 검색 원리
- [[검색 전략 카탈로그]] ← 이전 단계 · [[생성·그라운딩 전략 카탈로그]] → 다음 단계