앤트로픽, 모델 차단 문턱 높인 AI 법안 제안
인공지능 규제의 주도권을 둘러싸고 빅테크와 워싱턴 정계의 힘겨루기가 본격화되는 시점에 앤트로픽(Anthropic)이 이례적인 입법 승부수를 던졌습니다. 정부 기관의 자의적 행정 처분이나 각 주의 파편화된 법안에 끌려가는 대신, 자신들이 직접 설정한 규칙을 연방 표준으로 굳히려는 선제적 시도입니다. 폴리티코(POLITICO) 보도에 따르면 앤트로픽은 프론티어 인공지능 모델의 안전성과 보안을 규율하는 독자적인 연방 법안 초안을 미국 의회 의원들에게 비공개로 전달했습니다. 인공지능 모델이 가져올 극단적 위협에 대비한다는 명분을 내세웠지만, 실제로는 규제 당국의 배포 차단 권한에 엄격한 사법적·수치적 빗장을 걸어 기업의 사업적 예측 가능성을 확보하려는 포석입니다.
이번 초안은 앞서 미국 캘리포니아주에서 추진되었던 SB 1047 법안이나 유럽연합의 인공지능 규제법(EU AI Act) 등 행정부의 사전 개입과 광범위한 안전 의무를 강조해 온 정책 흐름과 뚜렷한 대비를 이룹니다. 기존 캘리포니아 SB 1047 등 주요 규제안이 사망이나 10억 달러 이상의 재산 피해 같은 중대 위험을 명시하면서도 행정부 차원의 폭넓은 사전 통제와 예방 조치 권한을 열어두었던 반면, 앤트로픽의 제안은 정부의 개입 조건을 대폭 좁혔습니다. 해당 초안은 연방정부가 모델의 배포나 사용을 차단할 수 있는 조건을 생화학 무기 제조 및 유출, 개발사 통제권 이탈, 사이버 공격으로 인해 50인 이상 사망 혹은 중상 또는 10억 달러를 초과하는 재산 피해를 초래할 명백하고 임박한 위험이 있을 때로 한정했습니다. 여기에 집행 주체를 미국 상무부로 일원화하고 다른 연방 기관이나 주 정부의 독자적 차단 명령 권한은 제한했습니다. 특히 미국 상무부 관할 아래 워싱턴 D.C. 연방지방법원 판사의 허가를 얻어야만 모델 중단을 집행할 수 있도록 규정해 행정부의 즉각적인 처분권을 사법부 심사 뒤로 묶어두었습니다.
초안에 포함된 정기 감사와 평가 체계 역시 기업 친화적이라는 지적이 나옵니다. 법안은 미국 상무부에 등록된 독립 평가 기관이 인공지능 모델을 주기적으로 감사하고, 위험을 감지하면 72시간 이내에 상무부에 보고하도록 정했습니다. 그러나 정작 이 감사를 수행하는 데 드는 비용을 인공지능 개발사가 직접 평가 기관에 지불할 수 있도록 허용하는 조항이 담겼습니다. 수익원을 피감 기관에 의존하는 구조 탓에 외부 평가 기관의 독립성이 훼손될 수 있다는 우려가 제기되는 대목입니다.
정책 및 시민사회 단체들은 즉각 반발했습니다. 앤트로픽 대변인은 이번 법안이 지난 6월부터 연방 및 주 의원들에게 제안해 온 고도 인공지능 프레임워크의 내용을 담고 있으며 의회가 채택해야 할 합리적인 정책이라고 설명했습니다. 하지만 엔코드 액션(Encode Action)의 스네하 레바누르(Sneha Revanur) 대표는 정부가 50명이 사망할지 49명이 사망할지 입증할 필요 없이 비상 대처 권한을 유지해야 한다며, 앤트로픽이 스스로 활동 여지를 지키기 위해 이기적인 조항을 로비하고 있다고 비판했습니다. 책임 있는 혁신을 위한 미국인들(Americans for Responsible Innovation)의 브래드 카슨(Brad Carson) 대표 역시 성명을 통해 해당 법안이 연방 안전망의 최소 요구조건도 충족하지 못하며, 개발사가 스스로 안전 기준을 정하고 이를 완화할 수 있게 허용함으로써 기업이 자기 규칙을 쓰도록 방치했다고 꼬집었습니다. 대규모 인명 피해나 10억 달러 수준의 피해가 발생하기 전까지는 실시간 사이버 침해나 저강도 금융 사기 같은 일상적 위협에 정부가 개입하기 어렵다는 분석도 충돌하고 있습니다.
향후 6개월은 이번 초안이 촉발한 규제 완화와 자율 규제 논쟁이 워싱턴 정계의 입법 전선을 가르는 분수령이 될 전망입니다. 의회 내 기술 정책 입안자들은 상무부 단일화와 사법부 사전 인가 체계를 수용할지, 아니면 연방거래위원회(FTC) 등 기존 기관의 권한을 유지할지를 두고 우선순위를 재조정해야 합니다. 동시에 프론티어 모델을 개발하는 주요 빅테크 기업들은 앤트로픽이 제시한 수치 중심의 면책 기준을 벤치마킹해 자체 로비 전략을 수정할 것으로 보입니다. 반면 모델 감사 서비스를 준비하던 독립 보안 평가 기관들은 자금 지원 구조의 이해 상충 문제로 신뢰성 논란에 직면하면서 거버넌스 체계를 새로 짜야 하는 처지에 놓였습니다.
출처별 관점 비교
| TechCrunch | 겉으로는 AI 폭주를 막는 장치처럼 보이지만 실제로는 연방 기관이 법관 승인 없이 임의로 모델 출시를 막지 못하게 제한하는 기업 보호적 한계점에 초점을 맞춤 |
|---|---|
| POLITICO / Tom's Hardware | 유출된 비공개 법안의 구체적인 조항 수치(50인 사상, 10억 달러 피해, 상무부 단일화, 72시간 내 법원 제소)와 앤트로픽 측의 공식 해명 내용을 중심으로 객관적 법안 구조를 상세 보도 |
| The Washington Post | 과거 다리오 아모데이 CEO가 주장했던 연방항공청(FAA)식 강력 규제 모델과의 괴리를 지적하고 안전 진영과 트럼프 행정부 진영 양측으로부터 모두 비판받는 정치적 파장을 분석 |
이 이슈의 흐름
앤트로픽의 법안 제안은 AI 기업이 정부의 일방적인 기술 규제를 기다리기보다 스스로 규제 틀을 입법화해 불확실성을 통제하려는 선제적 입법 로비 행보로 분석된다. 법안 초안은 상무부 등록 평가 기관을 통한 정기 감사와 투명성 보고 의무를 명시해 안전 프레임워크를 수용하는 형태를 취하고 있으나, 모델 배포 중단 권한을 법원의 승인을 거친 극단적인 대형 재난 수준(50명 사상 또는 10억 달러 피해)으로 한정했다. 이에 대해 AI 안전 시민단체와 정책 전문가들은 실시간 사이버 침해나 저강도 금융 사기 등 현실적 피해에는 대응하기 어려운 면책 조항이며 기업 자율 규제에 치우쳐 있다는 비판을 제기하고 있다. 동시에 행정부가 명문화되지 않은 국가안보·수출통제 논리로 특정 모델을 자의적으로 차단하는 것을 견제하기 위해 사법부 심사라는 방어선을 도입하려는 의도 역시 충돌하며 워싱턴 정계에서 찬반 논쟁이 가열되고 있다.
- 앤트로픽, 외부 감사단에 사내 시스템 개방 Ars Technica · 10/19
- 앤트로픽, 외부 평가기관에 직원급 전면 접근권 부여 Anthropic · 10/16
- 앤트로픽 상장 앞두고 지분 5% 공익기금 출연 결정 TechCrunch · 10/19
- 앤트로픽 싱가포르 거점 개소, AI 안전 협력 가속 Anthropic · 10/15
- 목표 없는 가상 고립 30시간, 클로드 에이전트 자율 학습 관측 MIT Tech Review · 10/19