환각(Hallucination) — AI가 거짓말할 때 왜 '환각'이라고 부르는가
한줄 요약
AI가 없는 사실을 만들어내는 현상을 “환각”이라고 부르는 이유는 정확한 의학적 유추가 아니라 — 더 잘 알려진 단어를 선택한 결과다.
단어의 등장 — 2018~2020년
“AI hallucination”이라는 표현이 학술 문헌에 등장하기 시작한 것은 2018년 전후다. 자연어 처리(NLP) 연구자들이 신경망 번역 모델이 원문에 없는 내용을 번역문에 삽입하는 현상을 기술하면서 이 단어를 쓰기 시작했다.
2020년 GPT-3 공개 이후 대규모 언어 모델이 자신 있게 틀린 정보를 생성하는 현상이 광범위하게 관찰되면서 “hallucination”은 AI 분야의 핵심 용어로 자리 잡았다.
왜 이 이름인가
정신의학에서 “환각(hallucination)“은 매우 정확한 정의를 가진다 — 외부 자극 없이 발생하는 지각 경험. 즉 실제로 없는 것을 본다, 듣는다, 느낀다. 조현병, 심한 수면 부족, 특정 약물에서 나타난다.
AI의 hallucination은 이 정의와 부분적으로만 일치한다. AI는 “자극 없이 지각”하는 것이 아니라 — 주어진 맥락에서 통계적으로 그럴듯한 다음 토큰을 생성할 뿐이다. 외부 입력은 있다. 다만 그 입력에 근거하지 않은 출력이 나온다.
그렇다면 왜 “hallucination”인가? 두 가지 이유다.
설명력. “없는 것을 만들어낸다”는 직관적 이미지가 hallucination과 잘 맞는다. 연구자들이 이 현상을 동료들에게 설명할 때 “hallucination”이라고 하면 즉시 이해된다.
대안의 부재. 당시 연구자들이 쓸 수 있는 더 나은 단어가 없었다. “fabrication(날조)”, “confabulation(작화)”, “error(오류)” — 이 중 어느 것도 “자신 있게 틀린 정보를 생성한다”는 현상의 이상함을 포착하지 못했다.
”confabulation”이 더 정확한 이유
정신의학적으로 AI의 오류 현상에 더 가까운 단어는 사실 confabulation(작화증) 이다.
작화증은 기억의 공백을 — 의식하지 못한 채로 — 허구적 내용으로 채우는 현상이다. 코르사코프 증후군(장기적 알코올 남용으로 인한 비타민 B1 결핍) 환자에게서 전형적으로 나타난다. 환자는 거짓말을 하는 것이 아니다. 자신의 기억이 틀렸다는 것을 모른다. 주어진 맥락에서 그럴듯한 내용을 자연스럽게 생성한다.
이것이 AI의 hallucination과 훨씬 더 닮았다. LLM도 “거짓말”을 하는 것이 아니다. 학습 데이터의 통계적 패턴에서 그럴듯한 다음 토큰을 생성할 뿐이다. 자신이 틀렸다는 것을 모른다. 자신 있게 틀린다.
”fabrication” vs “hallucination” 논쟁
일부 연구자들은 “fabrication(날조)“이 더 중립적인 기술적 용어라고 주장한다. 의학적 함의 없이 “없는 것을 만들어낸다”는 의미만 정확히 담는다.
반면 “hallucination”을 지지하는 측은 이 단어가 현상의 특이한 성격 — 단순한 오류가 아닌, 있지도 않은 것을 마치 있는 것처럼 생성하는 — 을 포착한다고 본다.
2023년 이후 일부 AI 연구자들은 “confabulation”으로 용어를 바꿔야 한다고 제안했다. 그러나 “hallucination”은 이미 너무 광범위하게 퍼졌다.
의사가 이 단어를 들었을 때
정신과 의사나 신경과 의사에게 “AI hallucination”은 즉각 오해를 만든다. 그들에게 hallucination은 지각 장애다 — 환자가 없는 목소리를 듣거나 없는 것을 보는 것. AI가 “환각”을 경험한다는 표현은 AI에 의식과 지각 능력을 부여하는 것처럼 들린다.
환자에게 “AI는 환각을 겪을 수 있다”고 설명한다면 환자는 AI를 정신질환을 가진 존재로 오해할 수 있다. 의료 커뮤니케이션에서 이 단어를 쓸 때는 별도의 설명이 필요하다.
더 나은 환자 설명: “AI는 때때로 없는 정보를 자신 있게 만들어냅니다. 마치 기억을 잘못 채우는 것처럼요.”
핵심 정리
- “AI hallucination”은 2018~2020년 NLP 연구에서 등장
- 정신의학적 hallucination(자극 없이 지각)과 AI 오류는 다르다
- 의학적으로 더 정확한 단어는 confabulation(작화증) — 기억 공백을 채우는 허구
- “hallucination”이 굳어진 이유: 직관적 설명력 + 대안 부재
- 의료 커뮤니케이션에서는 별도 설명 필요