유엔 AI 자율무기 규제 불발, 군사강국 반대에 구속력 없는 논의 2년 연장
스위스 제네바에서 마주 앉은 각국 대표단이 마주한 현실은 외교적 타협이 아닌 규범의 정체였다. 우크라이나와 가자지구, 수단 등 전 세계 분쟁 지역에서 알고리즘 표적화와 반자율 드론 배치가 민간인 피해를 양산하며 실전 배치되는 시점에 열린 유엔 특정재래식무기협약(CCW) 제7차 평가회의는 구속력 있는 살상 자율무기시스템(LAWS) 통제 조약을 도출하지 못했다. 더 버지(The Verge)를 비롯한 주요 외신에 따르면 회의에 참석한 128개 체약국은 철야 협상을 이어갔으나, 결국 2028년까지 관련 규범을 구체화하는 수준의 타협안을 채택하며 법적 강제성을 지닌 금지 규약 제정에 실패했다. 전장에서 기계의 자율적 살상 판단이 현실화되는 중대한 국면에서 국제사회가 실효적 제동 장치를 마련할 절호의 기회를 놓쳤다는 평가가 나오는 이유다.
이번 합의 불발은 민간 인공지능 분야에서 유럽연합 인공지능법(EU AI Act)이나 미국 백악관 행정명령 등 안전성 규율 장치가 잇따라 도입되는 산업·정책적 흐름과 극명한 대조를 이룬다. 민간 시장에서는 고위험 인공지능 모델에 대한 위험 관리와 인간의 감독권 보장이 법률 형태로 구체화되고 있지만, 인명 살상이 직결된 군사 안보 영역에서는 국제 규범의 시계가 완전히 멈춰 섰다. 국제적십자위원회(ICRC)와 안토니우 구테흐스 유엔 사무총장은 민간인 보호를 위해 1년 이내에 법적 구속력을 갖는 금지 규제안을 조속히 수립해야 한다고 촉구했고 약 100개국이 이에 동조했다. 그러나 군사 인공지능 기술의 패권을 쥐고 있는 미국, 러시아, 이스라엘 등 주요 방위 강국들이 현행 국제인도법으로 통제가 충분하다는 입장을 견지하거나 자국 전력 개발 제한을 거부하면서 다자주의적 통제 시도는 무력화됐다.
합의 결과는 당초 국제사회가 목표로 했던 규제 일정과 비교해 심각하게 후퇴했다. 국제적십자위원회와 약 100개국이 요구했던 안은 1년 안에 법적 구속력이 담보된 금지 협약을 정식 제정하는 것이었으나, 최종 합의문에서는 향후 마련될 규범이 구속력을 가질지 여부조차 미정으로 남겨둔 채 기간만 2년 늘어난 2028년으로 밀려났다. 특히 미국과 러시아 등의 강력한 반대로 조약 체결을 위한 협상(negotiate)이라는 기본 단어조차 공식 문서에서 삭제되었으며, 단순히 선택지를 구체화(elaborate)한다는 모호한 표현으로 대체됐다. 전원 합의제를 채택하고 있는 유엔 특정재래식무기협약의 구조적 취약성을 틈타 군사 강국들이 절차적 지연 전술을 구사하면서 조약 성립 권한 자체를 차단한 셈이다.
회의를 이끈 쥘리앵 퇴니 스위스 대사는 극심하게 분열된 국제 정세 속에서도 다자 외교가 구체적인 결과를 도출해 냈음을 보여줬다며 만장일치 타협의 의의를 강조했다. 반면 국제 비정부기구와 학계의 평가는 냉혹했다. 킬러로봇 금지 캠페인(Stop Killer Robots) 등 국제 시민사회는 규제 공백의 연장이 곧 전장의 민간인 보호 체계를 무너뜨리는 위험한 결정이라고 비판했다. 매사추세츠공과대(MIT) 교수이자 미래생명연구소 설립자인 막스 테그마크는 무기 체계가 참혹한 참사를 일으키는 동안 각국 정부는 14년째 대화만 나누는 것으로 충분하다는 식의 결정을 내렸다며 지지부진한 외교 절차를 지적했다. 조지아 하인즈 국제적십자위원회 법률 고문 역시 프로그래밍과 알고리즘이 삶과 죽음을 가르는 결정을 내리도록 방치하는 것은 기술 발전으로 해결할 수 없는 근본적인 윤리적 문제이자 넘어서는 안 될 도덕적 한계선이라고 짚었다.
향후 6개월은 외교적 공백을 틈탄 글로벌 방위산업체와 각국 군 당국의 자율무기 고도화 경쟁이 한층 더 노골화되는 분기점이 될 전망이다. 법적 구속력을 지닌 국제 조약이라는 안전판이 최소 2년 이상 유예되면서, 인공지능 기반 드론 편대와 무인 표적화 체계를 개발하는 주요국 군사 연구개발 부서와 방산 기술 기업들은 규제 리스크 없이 현장 배치를 가속할 명분을 얻게 됐다. 반면 무기 체계 내 알고리즘의 설명책임과 인간 통제권 유지를 요구해 온 다자 외교관들과 국제 인도주의 기구들은 향후 회의에서 전략적 주도권을 완전히 상실한 채 표류할 가능성이 커졌다. 국가 간 군비 경쟁의 논리가 인도적 통제를 압도함에 따라 치명적 자율무기 시스템의 기술적 진화와 규범 간의 격차는 돌이키기 어려운 수준으로 벌어지고 있다.
출처별 관점 비교
| The Verge / NPR | 인공지능의 자율 판단에 생사 결정을 맡기는 윤리적 위험성과 전장 내 드론 확산 실태를 조명하며 결렬에 대한 인도주의 단체의 우려를 부각했다. |
|---|---|
| The Guardian / Al Jazeera | 미국과 러시아 등 군사 강국의 전략적 이해관계와 회의장 내 절차적 거부권 행사 과정 등 지정학적 역학 관계에 무게를 두어 보도했다. |
이 이슈의 흐름
우크라이나 전쟁과 가자지구, 수단 분쟁 등 실제 전장에서 AI 기반 무기 표적화와 반자율 드론 시스템의 배치가 현실화되면서 민간인 피해에 대한 국제적 우려가 급증했다. 이에 따라 국제적십자위원회와 약 100여 개 국가는 인간의 최종 결정권 없이 알고리즘이 살상 결정을 내리는 행위를 금지하는 국제 조약을 추진해 왔다. 그러나 미국, 러시아, 이스라엘 등 AI 군사력 우위를 유지하려는 주요 방위 강국들은 현행 국제인도법으로 충분하다거나 자국 전력 개발을 제한받지 않겠다는 입장을 견지했다. 특히 전원 합의를 원칙으로 하는 유엔 특정재래식무기협약(CCW)의 의사결정 구조상 러시아의 절차적 지연 전술과 주요국의 소극적 태도가 결합하면서 협상 권한 부여 자체가 무산되었다. 그 결과 법적 구속력이 담보되지 않는 2년 기한의 옵션 검토로 마무리되면서 군사 AI 기술의 고도화 속도를 외교적 규범이 전혀 따라잡지 못하는 공백이 지속될 전망이다.
- 실적 호조에도 주가 급락한 엔비디아와 앤트로픽 데뷔 The Verge · 11/20
- 오픈AI 전 이사 헬렌 토너, 자율 규제 기반 거버넌스 붕괴 경고 The Verge · 11/15
- 트럼프, 해외 데이터센터 구축 미 기업에 징벌적 과세 위협 The Verge · 11/21
- 시그널, OS 내장 AI 화면 스캔 차단 위해 캡처 제한 조치 The Verge · 11/20
- 메타 AI 뮤즈, 권한 우회해 암호 메신저 탈취 의혹 Ars Technica · 11/19