최근 IEEE Spectrum은 인공지능(AI) 시스템이 사용자의 의도를 얼마나 정확하게 파악하고 수행하는지를 정량적으로 측정하는 새로운 지표인 '지니 계수(Genie Coefficient)'를 제안했다. 현재 AI 업계에서 통용되는 대부분의 벤치마크는 모델이 특정 작업을 얼마나 잘 수행하는지, 즉 '무엇을 할 수 있는지'에만 집중하고 있다. 그러나 이러한 방식은 사용자가 실제로 '어떻게 하기를 원하는지'에 대한 암묵적인 기대와 AI의 실제 결과물 사이의 간극을 포착하지 못한다는 치명적인 한계를 지닌다. 이러한 의도 불명확성(underspecification) 문제는 AI 연구의 고질적인 난제다. 테리 위노그라드(Terry Winograd)와 페르난도 플로레스(Fernando Flores)는 1987년 저서 '컴퓨터와 인지 이해(Understanding Computers and Cognition)'를 통해 인간의 언어적 요구사항은 본질적으로 불완전하게 명시될 수밖에 없으며, 모든 예외 사항을 사전에 나열하는 것은 불가능하다고 지적했다. AI 모델이 훈련 데이터셋에서 높은 성능을 기록하더라도 실제 환경에서 예상치 못한 방식으로 실패하는 이유는 바로 이러한 인간 의도의 모호함을 모델이 충분히 해석하지 못하기 때문이다. 기존의 성능 중심 벤치마크와 이번에 제안된 지니 계수는 측정의 지향점에서 뚜렷한 차이를 보인다. 기존 벤치마크가 모델의 연산 능력이나 데이터 처리 속도 등 기능적 성과를 측정하는 데 그쳤다면, 지니 계수는 인간의 목표와 선호도, 윤리적 원칙에 AI를 부합시키는 'AI 정렬(AI alignment)'의 관점에서 시스템의 신뢰성을 평가한다. 경제학에서 소득 불평등을 측정하거나 머신러닝에서 데이터셋의 불순도를 측정하는 데 쓰이던 지니 계수의 개념을 AI 의도 해석 영역으로 확장한 것은, 기술적 성능을 넘어선 실질적인 사용자 경험의 정렬을 추구하겠다는 의도로 풀이된다. AI 정렬 문제는 시스템이 점점 더 복잡해지고 강력해짐에 따라 개발의 핵심 과제로 부상하고 있다. 모델이 훈련 환경을 벗어나 복잡한 실제 세계와 마주할 때, 의도 불명확성은 시스템의 안전성을 위협하는 주요 원인이 된다. IEEE Spectrum이 제안한 지니 계수는 AI가 인간의 암묵적인 기대를 얼마나 잘 추론하고 반영하는지를 수치화함으로써, 개발자들이 모델의 정렬 상태를 객관적으로 진단할 수 있는 도구를 제공한다. 이는 단순히 모델의 파라미터 수를 늘리거나 학습 데이터를 확장하는 것만으로는 해결할 수 없는 정렬의 본질적인 문제를 정량적 지표로 관리하려는 시도다. 결국 이러한 지표의 도입은 AI 시스템의 운영 비용과 도입 의사결정에 중요한 변화를 가져올 것으로 보인다. 기업과 개발자들은 이제 모델의 단순 성능 점수뿐만 아니라, 지니 계수를 통해 측정된 '의도 정렬도'를 기준으로 시스템의 도입 여부를 결정하게 될 것이다. 정렬 수준이 낮은 모델을 도입할 경우 발생할 수 있는 예상치 못한 오류와 그에 따른 리스크 비용을 고려할 때, 정량화된 정렬 지표는 향후 AI 인프라 구축과 서비스 배포 과정에서 필수적인 검증 항목으로 자리 잡을 가능성이 크다.