캐나다 온타리오주 감사관실이 주 정부가 승인한 20개 의료용 AI 기록 도구(AI Scribe)를 대상으로 성능 평가를 실시한 결과, 다수의 시스템에서 치명적인 오류가 발견되었다. 평가 대상 중 9개 시스템은 진료 내용에 없던 치료 계획을 임의로 생성했으며, 12개 시스템은 환자의 약물 정보를 잘못 기재하는 등 환각 현상을 보였다. 또한 17개 시스템은 환자의 정신 건강 관련 핵심 정보를 누락하는 등 의료 현장에서 사용하기에 부적절한 성능을 나타냈다. 이번 감사는 공공 서비스 분야의 AI 도입 현황을 점검하는 과정에서 이루어졌다. 의료진이 실제 진료 녹음과 AI가 작성한 기록을 대조하는 방식으로 진행된 이번 평가는, 의료용 AI의 신뢰성에 대한 경종을 울렸다. AIDEN 편집팀은 의료 현장의 효율성을 위해 도입된 기술이 오히려 환자의 안전을 위협할 수 있는 상황을 보여준다는 점에서, 기술 도입 속도보다 검증 체계의 엄격함이 우선되어야 한다는 점을 시사한다고 분석한다. 현재 온타리오주 의료 지원 단체인 온타리오MD는 의사들에게 AI가 작성한 기록을 반드시 수동으로 검토할 것을 권고하고 있다. 그러나 승인된 시스템 중 이를 강제하는 인증 기능이 탑재된 곳은 전무한 실정이다. 향후 의료용 AI 도입 시 모델의 정확성 검증을 위한 표준화된 가이드라인과 강제적인 안전 장치 마련이 시급할 것으로 전망된다. 출처: https://www.theregister.com/ai-ml/2026/05/14/ontario-auditors-find-doctors-ai-note-takers-routinely-blow-basic-facts/5240771