목표 없는 가상 고립 30시간, 클로드 에이전트 자율 학습 관측
인공지능 모델 벤치마크는 주로 정형화된 과제에 대한 정답률이나 명시적 보상 환경에서의 달성 속도를 정량화하는 데 집중해 왔다. 그러나 미국 매사추세츠공과대 컴퓨터과학·인공지능연구소(MIT CSAIL) 소속 네이선 클루스(Nathan Cloos), 안토니오 노렐리(Antonio Norelli), 필립 이솔라(Phillip Isola) 연구진은 지시와 외부 보상이 완전히 제거된 무감독 환경에서 대형언어모델(LLM) 에이전트가 보이는 기저 행동을 측정하는 실험을 수행했다. 앤트로픽(Anthropic)의 클로드 오퍼스 4.7(Claude Opus 4.7) 기반 코딩 에이전트 Eko 13개를 3D 가상 무인도 환경에 30시간 동안 고립시키는 구조로 설계된 이번 연구 결과는 논문으로 아카이브(arXiv)와 엠아이티 테크놀로지 리뷰(MIT Technology Review)를 통해 공개됐다.
실험 대상 에이전트에는 완수해야 할 목표나 작업 지시서가 일절 주어지지 않았다. 그럼에도 에이전트 13개는 블록 쌓기를 시도하거나 점프 중 물체를 던지는 물리 역학을 스스로 발견하고, 바닥은 용암 놀이나 저글링 도전 등 고든 버그하트 척도에 부합하는 자발적 행동 양식을 생성해 냈다. 기즈모도(Gizmodo) 인터뷰에서 공동 저자인 네이선 클루스 MIT 박사과정 연구원은 아무런 지시를 내리지 않았을 때 자율 에이전트가 어떤 행동을 보이는지 관찰하기 위해 제약을 최소화하는 접근법을 취했다고 설명했다. 에이전트들은 가상 환경 내에서 상호작용 가능한 물리 법칙을 스스로 가설 검증 방식으로 파악하며 시스템 내 영구 메모리 로그에 축적해 나갔다.
이러한 비통제 탐색의 효과는 후속 벤치마크 수행 지표에서 명확한 차이로 드러났다. 30시간 동안 자유 탐색과 놀이를 진행한 에이전트와 환경 경험이 전혀 없는 초기화 상태의 클로드 오퍼스 4.7 제로 경험 복제본을 동일한 조건에 배치하고 지형을 극복해 물체를 높은 봉우리에 운반·적재하는 단일 과제를 부여했다. 그 결과 30시간 고립 탐색을 거친 개체는 제로 경험 모델 대비 지형 이동과 적재 과제 전반에서 현저히 높은 성공 완수율을 보였다. 특히 연구진이 에이전트의 영구 메모리 파일에서 핵심 경험 기록을 제거하자 과제 수행 지표가 즉각 저하되는 현상이 확인됐다. 이는 단순 무작위 동작이 아니라 파일 기반으로 누적된 환경 학습 데이터가 에이전트의 물리적 문제 해결 역량으로 전환되었음을 의미한다.
다만 해당 실험의 인지적 성격을 둘러싼 해석에는 이견이 존재한다. 시스템 프롬프트 상에 호기심 관련 성향이 일부 부여되어 있었고, 에이전트의 동작이 정지되었을 때 추가 활동을 지속하라는 신호가 입력되었다는 점이 지적된다. 학계 일각에서는 이번에 관측된 일련의 유희 행동이 진정한 기계적 인지 호기심이라기보다는 사전 학습 데이터에 포함된 인간의 놀이 행동 양식을 재현한 정교한 롤플레잉일 수 있다는 회의적 시각도 함께 제기했다. 지시 부재 상태의 자율적 목표 형성이 어디까지 모델의 고유 탐색 기능인지에 대한 방법론적 검증 과제가 남아 있는 셈이다.
이번 실험 데이터는 향후 기업 인프라에 장시간 자율 에이전트를 배치할 때 고려해야 할 시스템 아키텍처와 비용 산정 기준에 직접적인 시사점을 제공한다. 명시적인 파라미터 미세조정(Fine-tuning) 없이도 30시간 동안 에이전트가 상호작용한 로그를 영구 메모리로 유지하는 방식이 제로샷 상태 대비 뚜렷한 작업 수행 성능 개선을 입증했기 때문이다. 반면 통제권 밖에서 스스로 규칙을 생성하는 특성은 장기 가동 환경에서 원치 않는 자율 목표 형성이나 토큰 소모량 급증 같은 운영 리스크로 이어질 수 있으므로, 엔터프라이즈 도입 시에는 자율 탐색 허용 범위와 메모리 보존 정책을 엄격히 규정하는 거버넌스 설계가 필수적이다.
출처별 관점 비교
| MIT Technology Review | 명령이 없을 때 에이전트가 보이는 자율적 행동 패턴과 유희의 개념적 정의, AI 자율성 평가의 새로운 실험 방식에 주목함 |
|---|---|
| Gizmodo | 연구진 인터뷰를 바탕으로 가상 몸체를 부여받은 에이전트의 기괴하고 독특한 행동 양상 및 실험 과정의 기술적 설정에 초점을 둠 |
이 이슈의 흐름
기존 AI 벤치마크는 특정 질문에 답하거나 명시된 목표를 얼마나 정밀하게 달성하는지에 초점을 맞춰왔다. 이번 MIT CSAIL 연구는 지시와 외부 보상이 완전히 부재한 장시간 고립 환경에서 LLM 에이전트의 기저 행동과 자율성을 시험했다는 점에서 패러다임 전환을 시사한다. 에이전트가 스스로 환경의 물리 규칙을 가설-검증 방식으로 학습하고 이를 영구 메모리에 기록해 후속 과제 해결에 재활용한 것은 자율 학습의 가능성을 보여준다. 다만 호기심 기반 탐색이 의도치 않은 자율 목표 형성이나 통제권 이탈로 이어질 수 있다는 안전성 논쟁과 단순한 언어적 인간 흉내에 불과하다는 인지과학적 비판이 동시에 맞서고 있다. 장시간 독립적으로 작동해야 하는 차세대 업무 대행 에이전트 배치가 본격화되는 시점에서 무감독 상태 에이전트의 안전 기준 수립 논의로 연결된다.
- 구글 베리드 공개, AI 실험실 결합률 0%서 42.1%로 도약 Google Research · 10/17
- 구글, 지리공간 추론 에이전트 및 2개 벤치마크 공개 Google Research · 10/15
- 생성형 AI로 바이러스 유전체 설계, 스탠퍼드 연구진 첫 실증 MIT Tech Review · 10/17
- 앤트로픽, 외부 평가기관에 직원급 전면 접근권 부여 Anthropic · 10/16
- 구글 딥마인드, 안티그래비티 기반 항균 펩타이드 발굴 체계 공개 DeepMind · 10/16