AI 오류가 발생하면 누가 책임지나요?
AI 오류가 발생하면 누가 책임지나요?
간단한 답
현재 법적으로는 AI를 사용한 의사 또는 의료기관이 책임을 집니다.
AI 자체는 법적 책임 주체가 될 수 없어요.
좀 더 자세히
기본 원칙: 도구 책임론
자동차 내비게이션이 잘못된 길을 안내해서 사고가 났다면 책임은 내비게이션이 아닌 운전자에게 있어요.
AI도 마찬가지예요. AI는 도구이고, 그 도구를 쓴 의사가 책임을 져요.
법적 프레임워크 (2026년 기준)
의료법 및 민법: 의사가 의료 행위에서 표준 주의의무를 다했는지가 핵심이에요.
표준 주의의무: 같은 상황의 평균적인 의사라면 어떻게 했을까?
AI 결과를 검토하지 않고 그대로 따랐다 → 주의의무 위반 가능성이 있어요.
AI 결과를 참고했지만 최종적으로 의사가 판단했다 → 일반적으로 주의의무를 다한 것으로 볼 수 있어요.
상황별 책임 판단
책임 위험이 낮은 경우
✅ AI가 보조만 하고, 의사가 최종 검토 “AI가 기록 초안을 만들고, 의사가 전면 수정 후 서명”
✅ AI가 의심 소견 제시, 의사가 추가 검사 결정 “AI가 이상 소견을 잡았고, 의사가 판단해서 검사 지시”
✅ 의료기기로 허가받은 AI를 허가된 용도로 사용 “식약처 허가받은 AI를 허가된 방식으로 사용”
책임 위험이 높은 경우
⚠️ AI 결과를 무비판적으로 수용 “AI가 이상 없다고 했으니까 검사 안 해도 되겠다”
⚠️ AI 오류를 잡을 기회가 있었는데 무시 “AI가 약물 상호작용을 경고했는데 무시하고 처방”
⚠️ 허가받지 않은 AI를 의료 결정에 직접 사용 “ChatGPT가 이 병이라고 했으니 처방합니다”
실용적인 자기 보호 방법
1. 기록에 AI 사용 사실 명시
“AI 보조 도구를 참고하여 감별 진단을 구성하였으며, 최종 진단 및 처방은 의사의 임상적 판단에 근거함”
→ 나중에 분쟁이 생겼을 때 “나는 제대로 검토했다”는 증거가 돼요.
2. 중요 결정은 두 번 확인
AI가 제시한 약 용량, 상호작용 결과는 다른 출처(의약품 DB, 교과서)로 한 번 더 확인하세요.
3. AI가 경고하면 반드시 확인
AI가 “주의 필요”, “검토 권장” 같은 경고를 했는데 이를 무시했다가 문제가 생기면 책임이 더 무거워질 수 있어요.
앞으로 어떻게 바뀔까?
법률은 아직 AI 책임 문제를 명확히 규정하지 못하고 있어요.
EU에선 “AI Act”로 고위험 AI(의료 포함)에 대해 제공자(회사)의 책임을 강화하는 방향으로 가고 있어요.
한국도 관련 법률 제정이 논의 중이에요. 앞으로는 AI 회사, 병원, 의사 사이의 책임 분배가 더 명확해질 거예요.
지금은 “의사가 AI 도구를 책임감 있게 사용했는가”가 핵심 기준이에요.
더 알고 싶다면
🔗 다음 읽으면 좋은 글