Google TPU 8tx·8i Max 공개: 기밀 추론과 긴 컨텍스트용 TPU, TPU Sync는 오픈소스로
무엇인가요
Google이 8세대 TPU에 시스템 두 가지를 더했어요. TPU 8tx는 연산 중에도 데이터와 모델 가중치를 하드웨어에서 암호화해 지키는 기밀 컴퓨팅(confidential computing)용이고 TPU 8i Max는 TPU 8i 칩 두 개를 한 패키지에 넣어 연산·SRAM·HBM 대역폭을 두 배로 늘린 긴 컨텍스트용이에요. 함께 KV 캐시를 HBM·호스트 메모리·스토리지로 나눠 옮기는 TPU Sync를 오픈소스로 공개했고 Claude Code·Cursor 같은 코딩 도구에 붙여 TPU 이전과 커널 튜닝을 돕는 TPU 에이전트 도구 모음을 미리보기로 냈어요. PyTorch 코드는 TorchTPU로 TPU에서 바로 돌릴 수 있어요.
pip install torch_tpu왜 중요한가요
에이전트가 긴 컨텍스트를 오래 붙잡고 있으면 병목은 연산보다 메모리에서 생겨요. Google은 TPU 8tx가 TPU 8t보다 지연 시간이 최대 2배 낮고업체 주장 TPU Sync가 KV 전송 지연과 첫 토큰 시간을 90% 넘게 줄인다고 했어요업체 주장. 규제 업종처럼 민감한 데이터로 미세조정하거나 에이전트를 돌려야 하는 팀에게는 클라우드에서 기밀 추론을 고를 수 있는 선택지가 하나 더 생긴 셈이에요.
완성도
Preview새 TPU 두 종은 발표만 됐고 출시 시점은 글에 없어요. TPU 에이전트 도구 모음은 미리보기이고 Cloud Pathways와 GKE 동적 슬라이싱은 정식 제공이에요.
앞으로 이렇게 지켜보세요
- 출시 시점: TPU 8tx·8i Max가 언제 어느 리전에 열리는지 Google Cloud TPU 가격·리전 페이지에서 확인하세요.
- 오픈소스: GitHub google/tpu-sync 저장소의 릴리스와 vLLM·SGLang 연동 진행을 지켜보세요.
- 독립 측정: InferenceX·AgentX에서 TPU 8i Max 결과가 따로 공개되는지 보세요.