Hugging Face × TorchTPU, Claude Code 2.1.305, [늦게 확인] Timestral

Hugging Face가 PyTorch용 TPU 백엔드 TorchTPU 위에서 Transformers, Diffusers, Kernels 라이브러리를 돌리는 방법을 공개했어요. 예전 PyTorch/XLA 방식이나 Optimum TPU 없이 TPU를 그냥 하나의 장치로 쓰는 방식이에요. TPU VM에서 설치한 뒤 모델을 장치에 올리면 돼요.

pip install torch-tpu --extra-index-url https://download.pytorch.org/whl/cpu

모델은 device_map="tpu"로, 입력은 .to("tpu")로 옮겨요. 기본은 즉시 실행이고 torch.compile로 더 빠르게 돌릴 수 있어요.

TPU를 쓰려면 XLA 전용 코드를 따로 짜야 해서 GPU 코드를 옮기기 부담스러웠는데, 그 장벽이 꽤 낮아졌어요. Hugging Face 측정으로 Qwen-Image-2.1 1024×1024 생성은 컴파일하면 3.5초, 즉시 실행은 8.0초였고업체 주장, MoE 모델 디코딩은 전용 커널로 최대 21.5배 빨라졌다고 해요업체 주장. GPU 수급이 빠듯한 팀이 대안 장비를 검토할 때 도움이 돼요.

이번 주 새 버전들에서 쓸 만한 것은 /auto-mode-setup이에요. 자동 모드가 내 환경을 이해하도록 안내해 주는 설정이고 Bedrock, Vertex, Foundry 같은 제공자에서도 돼요. /claude-api managed-agents-secure는 Managed Agents 설정을 Anthropic 보안 가이드와 비교만 해 줘요. Pro·Max에서는 쉬던 대화를 다시 열면 5시간 한도를 크게 쓸 때 경고가 떠요.

자동 모드는 허용 규칙을 직접 짜기 번거로워 꺼 두는 팀이 많았는데 안내형 설정이 생겨 시작이 쉬워졌어요. 사내 게이트웨이 뒤에서 쓰는 팀은 도구 검색이 기본으로 켜지고 400·422가 나오면 알아서 다시 시도하는 변경이 반가울 거예요. 2.1.305의 sandbox.allowNestedUserNamespaces는 샌드박스의 파일 보호를 우회할 수 있다고 하니 켜기 전에 꼭 읽어 보세요.

Timestral은 Mistral이 처음 내놓은 시계열 파운데이션 모델 모음이에요. 센서값, 수요, 자금 흐름 같은 숫자 열을 따로 학습하지 않고도(제로샷) 21개 분위수로 확률 예측해 줘요. 크기는 5M, 28M, 123M, 209M 파라미터 네 가지이고 컨텍스트는 32,768스텝이에요. 가중치는 GitHub와 Hugging Face에 공개됐어요.

Mistral은 209M 모델이 GIFT-Eval, TIME, fev-bench에서 1위라고 해요업체 주장. 5M 모델은 CPU 8스레드에서 예측 한 번에 약 10ms, 209M은 약 140ms라고 밝혀업체 주장 GPU 없이 수요 예측이나 이상 탐지에 붙여 볼 수 있어요. 라이선스는 발표문에 변형 MIT, 저장소에는 Apache-2.0으로 적혀 있어 상업 사용 전 확인이 필요해요.