프랑스 스타트업 Kog, GPU 추론 성능 끌어올리기 도전
프랑스 스타트업 Kog가 GPU가 에이전트 워크플로에 부적합하다는 통념에 반박하며, 기존 GPU에서 더 많은 추론 성능을 짜내는 접근을 제시했다.
- GPU
- 추론
- 에이전트
- 인프라
- 스타트업
5건의 기사
프랑스 스타트업 Kog가 GPU가 에이전트 워크플로에 부적합하다는 통념에 반박하며, 기존 GPU에서 더 많은 추론 성능을 짜내는 접근을 제시했다.
AMD가 6일 AI 추론 특화 스타트업 Taalas를 인수한다고 발표했다. Taalas의 '모델 가중치를 실리콘에 하드와이어링'하는 기술로 추론 속도를 최대 48배 높일 수 있다고 주장한다.
AI 추론 인프라 전문 기업 SambaNova가 General Atlantic 주도로 10억 달러 규모 시리즈 F 1차 클로징을 완료했다. JPMorganChase가 온프레미스 추론 파트너로 합류했다.
OpenAI와 Broadcom이 공동 개발한 LLM 특화 추론 칩 '할라페뇨(Jalapeño)'를 공개했다. 역대 고성능 반도체 중 최단 개발 주기를 기록하며 2026년 말 첫 배포를 목표로 한다.
Google이 Gemini 3.5 Pro 정식 출시를 7월로 확정했다. 현존 최대 200만 토큰 컨텍스트와 고급 추론 모드 Deep Think를 탑재했으며, 현재 Vertex AI 기업 고객 한정 프리뷰 중이다.