RAG vs Fine-tuning — 언제 뭘 써야 하나요?
한줄 요약
RAG는 AI가 외부 자료를 검색해서 답하는 방법이고, Fine-tuning은 AI 자체를 특정 분야에 맞게 재학습시키는 방법입니다. 어떤 문제를 풀고 싶은지에 따라 선택이 달라집니다.
왜 알아야 할까?
🎯 Pain Point “우리 병원만의 AI를 만들고 싶다”고 할 때, 어떤 방법을 써야 할지 모르겠습니다. Fine-tuning이 좋다는 사람도 있고, RAG가 낫다는 사람도 있어서 혼란스럽습니다.
✅ 이 개념을 알면
- 병원 AI 프로젝트에서 올바른 방향을 제안할 수 있습니다
- 개발팀과 목적에 맞는 기술 선택을 논의할 수 있습니다
- 비용과 유지보수 측면의 차이를 이해할 수 있습니다
- AI 도입 제안서를 더 설득력 있게 작성할 수 있습니다
이게 뭐예요?
RAG(Retrieval-Augmented Generation)는 AI가 질문을 받으면 먼저 관련 문서를 검색하고, 그 내용을 바탕으로 답변을 생성하는 방법입니다.
Fine-tuning은 기존의 대형 AI 모델을 특정 분야의 데이터로 추가 학습시켜서, 그 분야에 특화된 모델로 만드는 방법입니다.
비유 1 — 시험 준비 방법 RAG = 오픈북 시험: 시험 중에 교과서를 찾아볼 수 있습니다. 최신 정보를 그때그때 참고합니다.
Fine-tuning = 클로즈드북 시험: 교과서를 미리 외워서 머릿속에 저장합니다. 시험 중에는 외운 것만 씁니다.
최신 가이드라인이 자주 바뀐다면 RAG, 특정 전문성을 깊게 내재화하려면 Fine-tuning입니다.
비유 2 — 의료 지식 습득 방식 RAG = 매뉴얼 참고: 수술 전에 최신 술기 매뉴얼을 찾아보고, 그 내용대로 시행합니다. 항상 최신 정보를 사용합니다.
Fine-tuning = 경험으로 체득: 수백 번의 수술 경험이 직관으로 몸에 배어 있습니다. 매뉴얼 없이도 자연스럽게 나옵니다.
💡 한줄 정리 “최신 자료가 필요하면 RAG, 스타일과 전문성을 심으려면 Fine-tuning”
예시를 들어볼게
예시 1 — 병원 프로토콜 검색 AI (RAG에 적합) “우리 병원 패혈증 프로토콜이 뭔가요?”라는 질문에 AI가 병원 내부 문서 DB를 검색해서 최신 프로토콜을 찾아 답합니다. 프로토콜이 업데이트되면 DB만 바꾸면 됩니다. 모델을 재학습할 필요가 없습니다.
예시 2 — 특화 진료 기록 작성 AI (Fine-tuning에 적합) 우리 병원 스타일의 진료 기록(특정 약어, 표현 방식, 구조)을 AI가 자연스럽게 쓰게 하려면, 수천 건의 기존 진료 기록으로 Fine-tuning합니다. 검색이 아닌 스타일 체화가 목적이기 때문입니다.
예시 3 — 의학 논문 질문답변 AI 최신 논문을 RAG로 연결하면 AI가 “2025년 NEJM 연구에 따르면…”처럼 구체적인 근거를 찾아 답합니다. 논문 DB를 업데이트하면 최신 연구를 자동으로 반영합니다.
의료에서는 이렇게 써요
-
임상 가이드라인 검색 → RAG ❌ Fine-tuning으로 해결하려면: 가이드라인이 업데이트될 때마다 모델 재학습 필요 → 비용과 시간 과다 ✅ RAG로 구현: 가이드라인 문서를 DB에 넣고, AI가 질문 시 검색 → 업데이트가 즉각 반영
-
특화 과 AI 어시스턴트 → Fine-tuning 심장내과 특화 AI를 만들 때, 심장내과 진료 기록·방침·표현 방식을 학습시키면 심장내과 의사처럼 사고하고 말하는 AI가 됩니다.
-
결합 사용이 가장 강력합니다 Fine-tuning으로 의료 전문성을 심고, RAG로 최신 정보를 실시간 참조합니다. 두 방법을 결합하면 전문성과 최신성을 모두 갖춘 의료 AI가 됩니다.
주의할 점 ⚠️
-
Fine-tuning은 비용과 전문 인력이 필요합니다 고품질 학습 데이터 준비, 모델 학습 서버 비용, AI 엔지니어 참여가 필요합니다. 소규모 병원에서 처음부터 Fine-tuning을 시도하기는 쉽지 않습니다.
-
RAG는 검색 품질에 의존합니다 문서 DB의 품질과 검색 알고리즘이 나쁘면 AI가 엉뚱한 문서를 참조해서 잘못된 답변을 줍니다. 문서 정리와 검색 시스템 설계도 중요합니다.
-
환자 데이터로 Fine-tuning 시 개인정보 처리 주의가 필요합니다 실제 진료 기록으로 학습할 때는 개인정보 비식별화와 기관 IRB 승인이 필요합니다.
더 알고 싶다면
🔗 관련 글
- Prompt Engineering이 뭐예요? — RAG나 Fine-tuning 전에 먼저 해볼 수 있는 방법
- Transfer Learning이 뭐예요? — Fine-tuning의 기반 개념
- API가 뭐예요? — RAG와 Fine-tuning된 AI를 시스템에 연결하는 방법