---
tags: [AI-Agent, 아키텍처, 추론]
---

# Reasoning Model (추론 모델)

> 한 줄 정의
> 답을 내기 전에 긴 사고 사슬(chain-of-thought)을 내부적으로 생성하며, 추론 시점에 추가 연산(test-time compute)을 들여 어려운 문제를 푸는 모델. OpenAI o1·o3, Claude Extended Thinking, DeepSeek-R1, Gemini Thinking이 대표적이다.

## 패러다임 전환: Test-time Compute

기존 성능 향상은 **학습 스케일링**(더 큰 모델·더 많은 데이터)에 의존했다. 추론 모델은 축을 **추론 시점 스케일링**으로 옮긴다 — "더 오래 생각할수록 더 잘 푼다". 같은 모델이라도 사고에 더 많은 토큰을 쓰면 정답률이 오른다.

- 학습: **검증 가능한 보상**(수학·코딩의 정답 여부)으로 CoT를 강화학습(RL)해, 스스로 길게 추론하고 자기검증하는 능력을 키운다.

## 에이전트 설계에 주는 영향

- **외부 루프 단순화**: 복잡한 계획·다단계 추론을 모델 내부가 담당하면, 명시적인 [[ReAct]]·[[Reflection]] 루프나 과한 오케스트레이션을 줄일 수 있다.
- **트레이드오프**: 지연·비용이 크게 늘고, 단순 추출·분류·라우팅에는 과하다.
- **모델 라우팅**: 작업 난이도에 따라 추론 모델과 일반 모델을 나눠 쓰는 것이 비용 효율적이다.

## 언제 쓰나

| 작업 | 권장 |
|---|---|
| 수학·코딩·복잡한 다단계 계획 | 추론 모델 |
| 단순 추출·요약·분류·라우팅 | 일반 모델 |
| 지연·비용 민감 실시간 | 일반 모델 + 필요 시 에스컬레이션 |

## 관련 노트

- [[ReAct]]
- [[Planning]]
- [[Reflection]]
- [[Agent 설계 원칙]]
- [[Deep Research]]