구글, 단일 호출 1000개 질의 판별하는 제미나이 디시전스 API 출시
구글 딥마인드(Google DeepMind)가 텍스트 토큰을 순차 생성하는 기존 거대언어모델 방식에서 탈피해 폐쇄형 선택지를 단일 패스로 평가하고 확률과 신뢰도를 반환하는 신규 모델 제미나이 디시전 1(Gemini Decision 1) 기반의 제미나이 디시전스 API를 출시했다. Google 공식 블로그에 따르면 이번 인터페이스는 생성형 워크플로에서 발생하는 응답 지연과 토큰 비용 병목을 해결하기 위해 판별 연산에 특화된 구조로 설계됐다. 에이전트 파이프라인에서 단순 예·아니오 판단이나 경로 라우팅을 수행할 때마다 긴 텍스트 토큰을 축차 생성하던 구조적 비효율을 걷어내겠다는 구상이다.
기술적 사양을 보면 처리 범위와 효율성 측면에서 두드러진 변화가 나타난다. 해당 API는 최대 25만 6000토큰 범위의 텍스트, 이미지, 오디오, 비디오, PDF 등 단일 멀티모달 입력 상태를 수용하며, 단 한 번의 호출로 최대 1000개의 독립 질문을 동시에 판별할 수 있다. 긴 영상이나 대용량 PDF 문서를 단 한 번 모델에 입력해 두고, 해당 자료에 대해 서로 다른 1000가지 조건을 개별 호출 없이 단일 연산으로 평가해 각각의 보정된 확률값을 얻는 방식이다.
과금 체계와 운영 비용 구조 역시 대폭 개편됐다. 구글이 책정한 가격 정책은 입력 토큰 100만 개당 0.10달러이며 출력 토큰 비용은 0달러로 설정됐다. 특히 입력 데이터를 여러 질문이 공유하는 구조 덕분에 질문 수가 늘어나도 공유된 입력 데이터는 요청당 단 1회만 과금된다. 제프벤치(JevBench) 공개 벤치마크 및 공유 평가 스위트 비용 비교에 따르면, 제미나이 디시전 1은 기존 제미나이 3.5 플래시-라이트(Gemini 3.5 Flash-Lite) 인터랙션스 API 구동 환경 대비 비용을 약 5분의 1 수준으로 절감했다. 판별 정확도 면에서도 제프벤치 공개 스플릿에서 92.2%를 기록하며 높은 안정성을 증명했다.
실제 프로덕션 환경에서의 성능 개선 효과도 수치로 확인됐다. 구글 내부 도입 사례로 제미나이 노트북(Gemini Notebook)은 해당 API를 실시간 쿼리 라우터로 활용해 일상 질의 처리 지연 시간을 최대 40% 단축했다. 사용자가 입력한 질의가 어떤 도구를 호출해야 하는지, 복잡한 추론 모델로 넘겨야 하는지, 혹은 단순 검색으로 처리해야 하는지 판별하는 단계에서 지연 시간을 획기적으로 줄인 결과다. 복잡한 시스템 1형 경량 분기 작업에서 축차 생성 토큰을 기다릴 필요 없이 즉각적인 신뢰도 점수를 기반으로 다음 파이프라인을 실행하는 방식이 입증된 셈이다.
이번 출시는 빅테크 간에 불붙은 비생성형 결정론적 판별 인프라 경쟁을 한층 가속화하고 있다. 생성형 인공지능 에이전트 아키텍처가 고도화되면서 도구 선택, 정책 준수 검사, 안전성 필터링, 모델 라우팅 등 단순 분기 작업에 텍스트 생성형 모델을 쓰는 비효율이 주요 병목으로 지적돼 왔다. 이미 스타트업 제프(Jev)와 오픈AI(OpenAI), 클라우드플레어(Cloudflare) 등이 비생성형 판별 전용 엔드포인트를 선보인 상황에서, 구글은 텍스트를 넘어 음성과 비디오까지 포괄하는 멀티모달 역량을 앞세워 라우팅 인프라 주도권 확보에 속도를 내고 있다.
출처별 관점 비교
| Google 공식 블로그 | 최대 1000개 질의 단일 패스 처리와 멀티모달 지원, 보정된 확률값 기반 분기 처리 등 기술적 사양과 내부 제품 적용 효과를 강조함 |
|---|---|
| MarkTechPost / The Decoder | 제프(Jev)와 오픈AI 디시전스 API 등 경쟁 솔루션 대비 가격 경쟁력, 150~250밀리초 지연 시간 및 벤치마크 성과 비교에 집중함 |
이 이슈의 흐름
생성형 AI 에이전트 워크플로가 복잡해지면서 도구 선택, 정책 준수 검사, 모델 라우팅 등 단순 분기 작업에 거대언어모델의 텍스트 생성 방식을 사용하는 구조적 비효율이 문제로 떠올랐다. 생성형 모델은 답변 텍스트를 한 토큰씩 축차 생성하므로 응답 지연이 누적되고 출력 토큰 비용이 발생하며 확률 보정이 불안정하다는 한계가 지적되어 왔다. 스타트업 제프(Jev)와 오픈AI, 클라우드플레어 등이 비생성형 판별 전용 엔드포인트를 선보인 데 이어 구글도 제미나이 디시전 1을 내놓으며 결정론적 판별 인프라 경쟁에 참전했다. 구글은 텍스트에 한정되지 않고 음성과 영상까지 한 번에 판별하는 멀티모달 능력을 앞세워 시스템 1형 경량 분기 시장의 주도권을 확보하려 하고 있다.
- 구글 제미나이 4 네온 출시, 과업 비용 32% 낮추며 코딩 1위 Hacker News · 11/19
- 구글, 검색 기본 모델 제미나이 4 하이드로겐 배포 The Verge · 11/13
- 구글, 초경량 제미나이 4 하이드로젠 공개…검색과 API 전면 배치 Google AI · 11/13
- 구글 제미나이 에이전트 한국 무료 개방, 작업 대행 전면화 Google AI · 11/18
- 구글 전화 대행 듀플렉스, 제미나이 4 탑재로 자율 작업 비서 진화 Google Research · 11/21