2026년, 프런티어 AI 경쟁은 사실상 앤트로픽의 Claude와 OpenAI의 GPT 둘의 싸움으로 좁혀졌습니다.
하지만 다가올 AI 에이전트 시장을 통째로 가져가는 경쟁에서는 구글이 너무 유리합니다.
에이전트가 AI의 다음 성장동력이라는 데는 이제 이견이 없을 것으로 판단됩니다. AI 에이전트는 사람이 목표만 주면 스스로 계획을 세우고 실행하는 시스템으로, 매번 지시를 기다리는 기존 AI와는 다릅니다. 시장조사기관 가트너는 기업용 앱의 에이전트 내장 비중이 2025년 5% 미만에서 2026년 말 40%로 치솟을 것으로 전망했는데요.
사실 여기까지는 다 아는 얘기죠? 구글이 왜 유리한지를 알려면, 에이전트가 어떤 인프라 위에서 돌아가느냐를 봐야 합니다.
Chapter 2. 배경 및 원리
더 큰 하드웨어, 더 작은 모델
구글은 하드웨어는 그대로 두고 모델 자체를 가볍게 설계하는 방향을 선택했습니다.
구글은 Gemma 시리즈를 통해 이 노선을 꾸준히 연구해 왔는데요. 최근 출시한 Gemma 4는 이미지와 오디오까지 처리하는 멀티모달 버전을 노트북 및 PC에, 텍스트만 다루는 경량 변형은 강조드렸듯 몇 년 된 보급형 스마트폰에까지 들어갈 수 있도록 설계해 역대급 모델을 세상에 공개했습니다.
구글의 이 선택은 단순한 기술 취향이 아니라 시장 구조에 대한 베팅입니다. 모델이 충분히 작으면 새 기기를 팔 필요가 없어요. 이미 전 세계에 깔린 수십억 대의 기기가 그대로 시장이 됩니다.
하드웨어 쪽 시장은 새 기기가 팔리는 속도만큼 커지지만, 모델 쪽 시장은 이미 깔린 기기 수만큼 커집니다. 출발선이 다른 게임입니다.
Chapter 3. 결과
구글의 역작: 작지만 똑똑한 모델, Gemma
구글은 QAT(양자화 인식 학습)를 통해 모델을 실제 기기에서 돌릴 수 있을 만큼 줄였습니다.
이미지·오디오·비디오까지 처리하는 12B 멀티모달 모델은 4비트 압축 후 약 6.7GB까지 내려가 고성능 노트북과 PC에서 구동 가능한 크기가 됐습니다.
텍스트만 처리하는 가장 작은 ‘Gemma 4 E2B 모델’은 1GB 미만까지 줄어, 앞에서도 계속 강조한 몇 년 된 보급형 스마트폰에도 들어갈 수 있는 수준입니다.
중요한 건 이 과정에서 VRAM 사용량은 약 72% 줄었지만, 품질은 원본 모델에 가깝게 유지됐다는 점입니다.
이렇게 작은 모델을 만들면, 새 기계를 팔 필요가 없습니다. 이미 깔린 수십억 대의 기기에 그냥 들어가니까요.
NVIDIA와 MS가 점유하는 건 프리미엄 PC라는 시장이고, 구글이 닿는 기기는 그 수십 배에 달합니다. 1GB짜리 경량 모델은 전세계에 깔린 구글의 30억 대의 디바이스를 이용할 수 있습니다.
