S—REBORN MD AI HUB
Ctrl+K · ⌘K
KO EN
컨텍스트

의료 AI 컨텍스트 설계 체크리스트 — 실전 20항목

…

한줄 요약

의료 AI 컨텍스트 설계 시 환자정보, 참조문서, 시스템설정, 안전, 평가 5개 카테고리의 20개 체크리스트를 확인하면 대부분의 실수를 예방할 수 있으며, 이 중 핵심 5항목만 지켜도 80%는 된다.

본문

왜 체크리스트인가

컨텍스트 엔지니어링은 창의적인 작업이지만, 실수는 대부분 빠뜨림에서 발생한다. 가이드라인을 넣지 않았다, 약물 목록을 빠뜨렸다, 비식별화를 잊었다. 이런 실수는 체크리스트로 예방할 수 있다.

항공기 조종사가 이륙 전 체크리스트를 확인하듯, 의료 AI 컨텍스트 설계에도 체크리스트가 필요하다.

카테고리 1: 환자정보 (Patient Information)

  1. 기본 인구통계 정보가 포함되어 있는가 나이, 성별, 체중은 약물 용량 계산과 위험 평가에 필수다. 빠지면 AI는 일반적인 성인 기준으로 답변한다.

  2. 현재 진단 목록이 포함되어 있는가 활성 진단뿐 아니라 관련 동반질환도 포함해야 한다. 고혈압 질문에 CKD 동반 여부가 빠지면 약물 선택이 달라진다.

  3. 현재 복용 약물 목록이 포함되어 있는가 약물 상호작용 확인의 기본이다. 건강기능식품, 한약도 가능하면 포함한다.

  4. 관련 검사 결과가 포함되어 있는가 질문에 직접 관련된 검사 수치를 포함한다. 신장 기능 질문이면 eGFR과 크레아티닌, 혈당 관련이면 HbA1c와 공복혈당.

  5. 알레르기 및 부작용 이력이 포함되어 있는가 약물 알레르기는 치명적 결과를 초래할 수 있다. ACEi에 혈관부종이 있었던 환자에게 다시 ACEi를 권하면 위험하다.

카테고리 2: 참조문서 (Reference Documents)

  1. 최신 가이드라인이 첨부되어 있는가 AI의 학습 데이터에 포함된 가이드라인은 오래됐을 수 있다. 반드시 최신 버전을 직접 컨텍스트에 넣는다.

  2. 가이드라인의 출처와 날짜가 명시되어 있는가 “고혈압 가이드라인”만 넣으면 어느 학회, 몇 년도 기준인지 AI가 판단할 수 없다. 출처와 연도를 반드시 명시한다.

  3. 약물 정보는 공인 소스에서 가져왔는가 약물 용량, 금기, 상호작용 정보는 DrugBank, FDA 라벨, 식약처 허가 정보 등 공인 소스를 사용한다.

  4. 참조 문서 간 충돌이 없는가 여러 가이드라인을 동시에 넣을 때, 서로 다른 권고가 있으면 AI가 혼란스러워한다. 충돌 시 우선순위를 명시한다.

카테고리 3: 시스템설정 (System Configuration)

  1. 역할 설정이 명확한가 “당신은 내과 전문의입니다”처럼 AI의 역할을 명확히 설정한다. 역할에 따라 답변의 깊이와 톤이 달라진다.

  2. 답변 형식을 지정했는가 표 형식, 목록 형식, 서술 형식 등 원하는 출력 형태를 지정한다. 지정하지 않으면 매번 다른 형태로 나온다.

  3. 답변 범위를 제한했는가 “컨텍스트에 포함된 정보만 사용하세요”와 같은 지시로 환각을 줄인다. 의료 분야에서 특히 중요하다.

  4. 불확실할 때의 행동을 정의했는가 “확실하지 않은 경우 ‘추가 정보가 필요합니다’라고 답변하세요”를 명시한다. AI가 불확실한 답을 확신있게 제시하는 것을 방지한다.

카테고리 4: 안전 (Safety)

  1. 개인정보가 비식별화되었는가 클라우드 AI 사용 시 환자 이름, 주민번호, 연락처 등 직접 식별자를 반드시 제거한다.

  2. 약물 용량 범위가 지정되어 있는가 AI가 비현실적인 용량을 제시하는 것을 방지하기 위해, 주요 약물의 최대 용량 정보를 컨텍스트에 포함한다.

  3. 응급 상황 감지 지시가 있는가 “흉통, 호흡곤란, 의식 변화 등이 언급되면 즉시 응급 진료를 안내하세요”와 같은 안전 지시를 포함한다.

  4. 면책 조항이 포함되어 있는가 “이 정보는 의학적 조언이 아니며, 최종 판단은 담당 의사에게 확인하세요”와 같은 면책 조항을 답변에 자동 포함하도록 설정한다.

카테고리 5: 평가 (Evaluation)

  1. 테스트 질문 세트가 준비되어 있는가 컨텍스트 변경 후 답변 품질을 확인할 Gold Standard 질문 세트를 사전 준비한다.

  2. 답변에 근거 출처가 표시되도록 했는가 “각 권고사항의 근거를 [출처] 형태로 표시하세요”를 지시에 포함한다. 검증이 가능해진다.

  3. 컨텍스트 유효기간이 설정되어 있는가 컨텍스트 문서에 유효기간 태그를 붙이고, 만료 시 리뷰하도록 알림을 설정한다.

핵심 5항목: 이것만 확인하면 80%는 된다

20개를 모두 확인할 여유가 없다면, 아래 5개만이라도 반드시 확인한다.

번호항목이유
3복용 약물 목록약물 상호작용 누락은 직접적 위해
6최신 가이드라인 첨부구버전으로 잘못된 권고 방지
12답변 범위 제한환각(hallucination) 방지
14개인정보 비식별화법적 위반 방지
16응급 상황 감지 지시환자 안전의 마지노선

이 다섯 가지는 환자 안전에 직결되는 항목이다. 나머지는 답변 품질을 높이는 항목이지만, 이 다섯 가지를 빠뜨리면 위험하다.

시나리오별 체크리스트 적용

시나리오 1: 외래 진료 지원

외래에서 만성질환 관리 중 AI를 활용하는 경우. 필수 항목: 1~5(환자정보) + 6, 7(가이드라인) + 10, 12, 13(시스템) + 14, 17(안전). 시간이 부족하므로 “핵심 권고 1줄, 근거 1줄, 주의사항 1줄” 형식 지시가 유용하다.

시나리오 2: 응급실 의사결정 지원

필수 항목: 1, 2, 3, 5(핵심 환자정보) + 6(프로토콜) + 10~12(시스템) + 15, 16(안전). 속도가 핵심이므로 검사 결과(항목 4)는 있으면 포함하되 필수는 아니다. 응급 감지(항목 16)가 핵심이다.

[응급 컨텍스트 예시 — 추가 시스템 지시]
답변 형식:
1. 즉각 조치사항 (가장 먼저)
2. 감별진단 (가능성 높은 순)
3. 추가 검사 (우선순위 순)
확실하지 않은 경우에도 가장 위험한 진단을 먼저 배제하도록 안내하세요.

시나리오 3: 임상연구 문헌 분석

논문 검토나 연구 설계에 AI를 활용하는 경우.

필수 항목: 6, 7, 8, 9 (참조문서 전체) + 10, 11, 12 (시스템) + 18, 19 (평가)

연구의 특징은 정확성과 출처의 중요성이다. 모든 주장에 [저자, 연도] 출처 표시, 근거 수준 명시, 컨텍스트에 없는 논문 인용 금지를 시스템 지시에 포함한다.

체크리스트 활용 팁

핵심 5항목부터 시작하고 문제 발생 시 항목을 추가한다. 팀 수준에서 공유하면 누가 설계하든 일정 품질이 보장된다. 체크리스트 자체도 새로운 실수 유형이 발견될 때마다 업데이트한다.

핵심 정리

  1. 의료 AI 컨텍스트 설계는 환자정보, 참조문서, 시스템설정, 안전, 평가 5개 카테고리 20항목으로 체계화할 수 있다
  2. 핵심 5항목(약물 목록, 가이드라인, 답변 범위 제한, 비식별화, 응급 감지)만 지켜도 80%의 위험을 예방한다
  3. 외래는 간결함, 응급은 속도, 연구는 정확성에 초점을 맞춰 체크리스트를 조정한다
  4. 체크리스트는 팀 수준에서 공유하고, 새로운 실수가 발견될 때마다 업데이트한다
  5. 처음부터 완벽하지 않아도 된다 — 핵심 5항목부터 시작하고 점진적으로 확장한다

관련 글

#체크리스트#실전#외래#응급#연구#의료AI