xAI, Grok Voice Think Fast 2.0 출시 — 첫 응답 0.70초, 추론 토큰 60% 절감

한 줄 요약: xAI가 음성 AI 모델 Grok Voice Think Fast 2.0을 출시하며 응답 지연을 업계 최저 수준으로 낮추고, 말하면서 동시에 추론하는 독자적 구조로 경쟁사와 차별화했다.

핵심

• 첫 응답 0.70초: 이전 Think Fast 모델의 1.25초 대비 약 44% 단축. 실시간 대화 체감이 크게 개선됐다.
• 추론 토큰 60% 절감: 토큰 효율 향상으로 도구 호출이 에이전트가 첫 문장을 마치기 전에 실행 완료되는 경우가 많아졌다.
• 말하며 추론: 응답을 발화하는 동시에 다음 추론을 병렬 처리하는 구조. 지연 없이 더 높은 지능을 구현한다고 xAI는 주장한다.
• 기본 모델 교체: 8월 5일부로 grok-voice-latest 별칭이 자동으로 Think Fast 2.0을 가리킨다.

왜 중요한가

음성 AI 에이전트의 최대 장벽은 체감 지연(latency)이다. 0.7초는 인간 대화의 자연스러운 쉬는 간격과 비슷한 수준으로, 이 임계점 아래로 진입한 모델은 사용자 이탈률이 급감한다는 연구가 있다. Grok Voice 2.0의 '동시 추론' 방식이 실제로 다른 음성 모델보다 높은 지능을 구현하는지는 독립적 검증이 필요하지만, 속도 측면에서는 경쟁 우위가 뚜렷하다.

더 보기

• xAI 공식 발표 — xAI
• YourStory 리뷰 — YourStory
• 음성 에이전트 현황 분석 — Digital Applied