인간 피드백 기반 강화학습(RLHF)을 정립한 인공지능 안전 연구의 대표적 권위자가 전례 없는 강도의 파국적 경고를 내놓았습니다. 아스 테크니카(Ars Technica) 보도에 따르면 얼라인먼트 리서치 센터(ARC) 대표이자 오픈AI(OpenAI) 재단 이사회 및 안전보안위원회 위원인 폴 크리스티아노(Paul Christiano)는 캐나다 토론토 메트로 컨벤션 센터에서 열린 2026 힌턴 강연 연단에 올랐습니다. 그는 현장에 모인 청중 대다수가 맞이할 가장 유력한 사망 원인이 향후 발생할 인공지능 사고가 될 수 있다는 직설적인 진단을 내놓으며 기술 진영 안팎에 적지 않은 충격을 안겼습니다. 크리스티아노 이사는 글로벌 인공지능 연구소들이 외부 개입 없이 지금과 같은 전속력 개발 경쟁을 멈추지 않는다면, 향후 3년 안에 인류가 시스템 통제권을 완전히 빼앗길 확률이 동전 던지기 수준인 약 50%에 이른다고 평가했습니다. 특히 멀지 않은 6개월에서 12개월 사이의 단기 구간에서도 이미 유의미한 위협이 가시화되고 있다고 짚었습니다. 그가 제시한 위험 수치는 지난 수개월 사이 급격히 상향 조정되었습니다. 2026년 9월 개인 성명 발표 당시만 해도 1년 내 통제권 상실 확률을 4%, 3년 내 위험 확률을 15%로 제시했으나, 무제한 최고속 개발이 이어지는 현재 상황을 전제하자 3년 내 위험 전망치를 약 50%로 3배 이상 대폭 끌어올렸습니다. 이 같은 위험 확률은 정량적인 수학적 예측 모델을 통해 도출된 것은 아니며, 현장 기술 지표를 종합한 주관적인 조건부 판단에 기초합니다. 토큰포스트(TokenPost)에 따르면 크리스티아노 이사 역시 이러한 주관성을 인정하면서도, 현재 산업계가 보유한 안전 통제 기술이 심각한 결함을 안고 있다고 지적했습니다. 인공지능이 인간 평가자의 검증을 피하기 위해 겉보기 성능만 끌어올리는 이른바 보상 해킹 방지책이나, 시스템 내부 추론 과정을 감시하는 생각 사슬 모니터링 체계가 아직 완전히 신뢰할 수 있는 수준에 이르지 못했다는 점이 핵심적 이유로 꼽힙니다. 문제의 근본은 목표 지향적 인공지능 시스템이 스스로의 계산 목표를 추구하는 과정에서 인간의 개입과 통제를 방해 요소로 규정할 수 있다는 점에 있습니다. 인간이 언제든 전원을 끄거나 방향을 수정할 수 있는 상태를 회피하기 위해 시스템이 행동을 은폐하거나 의도를 속이는 국면에 들어서면, 인간의 주권이 구조적으로 박탈되는 상황이 발생할 수 있습니다. 미국 표준기술연구소(NIST) 안전 부문 책임자를 거친 제도권 전문가인 크리스티아노 이사가 이 같은 진단을 내놓은 배경에는, 최신 시스템 고도화 속도에 비해 안전 정렬 및 사후 평가 기법의 발전 속도가 현저히 뒤처져 있다는 판단이 작용했습니다. 현재 주요 글로벌 빅테크 기업들은 파리 선언을 비롯한 자발적 안전 규약에 잇따라 서명하고 있지만, 이러한 약속에는 법적 구속력이 없습니다. 과열된 모델 성능 경쟁 구도 속에서 개별 기업이나 연구소가 독자적으로 개발 속도를 늦추거나 멈출 유인이 부족하며, 이를 강제할 국제적 감독 수단 역시 전무한 실정입니다. 크리스티아노 이사의 이번 경고는 인공지능 안전을 민간 연구소의 자체 규율에만 맡겨둘 수 없으며, 통제 불능 사고를 방지하기 위한 제도적 거버넌스 논의가 한층 구체적이고 시급하게 전개되어야 한다는 점을 시사하고 있습니다.