한줄 요약

RAG는 “지금 이 문서를 참고해서 답해라”, 파인튜닝은 “이런 방식으로 답하도록 훈련받아라” — 목적이 다르다.

본문

같은 문제, 다른 접근

병원 AI가 “와파린 용량 조절 기준을 알려줘”라는 질문을 받았다.

RAG 방식:

1. 진료 지침 DB에서 “와파린 용량 조절” 관련 문서 검색
2. 검색된 문서를 AI에게 제공
3. AI가 문서를 보고 답변 생성

파인튜닝 방식:

1. 와파린 관련 의료 Q&A 수천 개로 모델 추가 학습
2. 모델이 내부적으로 와파린 지식을 더 잘 알게 됨
3. 검색 없이 바로 답변 생성

같은 질문에 둘 다 괜찮은 답을 줄 수 있다. 하지만 특성이 완전히 다르다.

---

핵심 차이 비교표

항목	RAG	파인튜닝
지식 업데이트	문서만 바꾸면 즉시	재학습 필요 (수시간~수일)
출처 제시	가능 (어느 문서에서 찾았는지)	불가능
최신 정보	실시간 반영	학습 시점에 고정
할루시네이션	낮음 (문서 근거 있음)	여전히 발생 가능
스타일 통일	어려움	탁월함
특수 형식	프롬프트로 매번 지정	자동으로 따름
도메인 언어	검색엔 도움 안 됨	자연스럽게 학습
초기 비용	문서 파이프라인 구축	데이터 수집 + 학습 비용
운영 비용	검색 API 비용	추론 속도 빠름 (프롬프트 짧아짐)
인프라 복잡도	높음 (벡터 DB 필요)	낮음 (모델만 배포)

---

의료 현장별 선택 기준

RAG가 더 나은 상황

진료 가이드라인 질의응답: → 가이드라인은 매년 바뀐다. 파인튜닝하면 구버전이 내장된다. → 근거 문서를 보여줘야 의사가 신뢰한다. → 결론: RAG

병원 내부 규정 안내: → 수술 동의서 양식, 원무과 절차, 병동별 규칙은 자주 바뀐다. → 결론: RAG

논문 검색 및 요약: → 새 논문이 매일 나온다. 학습 데이터가 항상 구식이 된다. → 결론: RAG

파인튜닝이 더 나은 상황

임상 노트 작성 스타일: → “우리 병원 문체”, “이 과 특유의 표현”은 문서로 검색할 수 없다. → 수백 개의 예시 노트로 파인튜닝하면 스타일이 자연스럽게 나온다. → 결론: 파인튜닝

보험 청구 코드 분류: → 수천 개의 케이스로 학습하면 정확도가 높아진다. → 매번 프롬프트에 기준을 넣을 필요가 없어진다. → 결론: 파인튜닝

응급 트리아지 분류: → 빠른 응답이 필요하다. RAG의 검색 지연이 문제가 된다. → 파인튜닝된 모델은 검색 없이 즉시 분류한다. → 결론: 파인튜닝

---

둘을 같이 쓰는 경우

이게 실제로 가장 강력한 조합이다.

파인튜닝으로: 스타일, 형식, 도메인 언어 내장
RAG로: 최신 지식, 특정 문서 근거 제공

예시:
임상 노트 작성 AI

파인튜닝:
- "우리 병원 형식"으로 쓰도록 훈련
- 의학 약어를 자연스럽게 사용하도록 훈련

RAG:
- 환자 최신 검사 결과 주입
- 관련 진료 지침 주입
- 과거 유사 케이스 주입

결과: 올바른 형식으로, 최신 데이터를 근거로, 자연스러운 문체로

---

선택 결정 플로우차트

문제가 무엇인가?
    |
    ├─ 최신 정보가 필요하다 → RAG
    |
    ├─ 출처를 보여줘야 한다 → RAG
    |
    ├─ 문서가 자주 바뀐다 → RAG
    |
    ├─ 특정 스타일로 써야 한다 → 파인튜닝
    |
    ├─ 특수한 형식을 매번 지켜야 한다 → 파인튜닝
    |
    ├─ 응답이 매우 빨라야 한다 → 파인튜닝
    |
    └─ 위 두 조건이 모두 필요하다 → RAG + 파인튜닝 조합

---

실수하기 쉬운 선택

“우리 병원 가이드라인을 파인튜닝으로 넣겠다”

→ 가이드라인이 바뀌면 재학습해야 한다. 몇 달 후엔 구버전이 내장된 AI가 된다. → RAG가 정답이다.

“응답 품질이 나빠서 파인튜닝하겠다”

→ 먼저 프롬프트 문제인지, 데이터 문제인지, 모델 문제인지 진단이 선행되어야 한다. → 파인튜닝 전에 RAG + 좋은 프롬프트로 해결 가능한지 확인하라.

두 기술의 특성을 이해하면 “파인튜닝이 능사”라는 오해에서 벗어날 수 있다.