AI가 “환각을 본다”는 표현을 처음 들으면 의사들은 잠깐 멈칫합니다. 환각은 정신과 증상 아닌가요? 맞습니다. 의학 용어가 AI 분야로 이식된 흥미로운 사례입니다.

할루시네이션 용어의 역사

연도	사건
1800년대	정신의학에서 “Hallucination” 공식 개념화 — 외부 자극 없이 인식이 발생하는 현상
2015년경	AI 이미지 생성 연구에서 “visual hallucination” 용어 등장
2018년	자연어 처리 논문에서 “hallucination” 공식 사용 시작
2020년	GPT-3 등장과 함께 할루시네이션 문제 대중적 논의
2022~	ChatGPT 이후 AI 할루시네이션이 핵심 이슈로 부상

정신과 증상과 AI 할루시네이션 — 비교

구분	정신과 환각	AI 할루시네이션
정의	외부 자극 없이 인식 발생	근거 없이 사실처럼 정보 생성
특징	환자에게 실제처럼 느껴짐	AI의 출력이 자신감 있게 나옴
위험성	행동에 영향을 미칠 수 있음	잘못된 의료 결정으로 이어질 수 있음
치료/해결	약물, 정신치료	RAG, 팩트체크, 저온도(Temperature)

의료진이 이 용어를 처음 들으면

“AI가 환각을 본다고요?” 처음엔 어색합니다. 하지만 개념은 직관적입니다. AI가 없는 것을 있다고 느끼는 것입니다. 실제 없는 논문을 그럴듯한 DOI와 함께 인용합니다. 없는 약물 상호작용을 확신 있게 설명합니다.

✅ 의사가 AI 할루시네이션을 이해하면, AI 답변을 비판적으로 검토하게 됩니다.

❌ “AI가 자신감 있게 말한다 = 맞다”는 절대 아닙니다. 가장 위험한 착각입니다.

⚠️ 특히 드문 질환, 최신 가이드라인, 구체적 수치에서 할루시네이션이 자주 발생합니다.

할루시네이션 줄이는 방법

1. RAG 사용 — 외부 DB에서 정보를 검색해 답변에 반영합니다.
2. 낮은 Temperature — 창의성을 줄이고 일관된 답변을 유도합니다.
3. 명확한 프롬프트 — “모르면 모른다고 해줘”라고 명시합니다.
4. 직접 검증 — 출처와 인용 정보를 반드시 교차 확인합니다.

---

더 알고 싶다면

• AI 필수 용어 10개 — 이것만 알면 대화가 된다
• RAG는 왜 ‘걸레’라는 뜻인가요? — 이름의 유래
• LLM 용어 사전 — GPT, Claude, Gemini를 이해하는 단어들