Nemotron 3.5 Super VL·Bolt: 서버용 120B와 24GB 로컬용 에이전트 모델
무엇인가요
Super VL은 120B 파라미터 중 12B만 쓰는 멀티모달 MoE 모델로, 웹 페이지·PDF·표·차트를 읽고 도구를 부르는 상시 실행 에이전트용이에요. Bolt 74B-A9B는 기본 2비트 양자화로 24GB 메모리에 들어가 RTX PC나 DGX Spark에서 로컬 에이전트를 돌리게 만든 모델이고 4GB짜리 Bolt E4B는 10월 23일에 나와요. 가중치는 Hugging Face, OpenRouter, NVIDIA NIM에 있고 Bolt는 llama.cpp·Ollama·LM Studio를 지원해요.
llama-server -hf nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB-GGUF왜 중요한가요
같은 급 오픈 모델보다 처리량이 최대 5배업체 주장 빠르다고 해서 문서를 대량으로 처리하는 에이전트의 비용을 줄일 수 있어요. 학습 데이터셋과 레시피까지 함께 공개해 자기 데이터로 후속 학습하기 쉽고, Atlassian·CrowdStrike·Perplexity 등이 이미 맞춤 학습 중이라고 해요. Bolt는 PinchBench 같은 급 1위업체 주장라서 클라우드로 보내기 어려운 작업을 노트북에서 돌려 볼 후보예요.
완성도
GA 정식Super VL과 Bolt 74B-A9B는 오늘 바로 받을 수 있는 정식 공개예요. Bolt E4B는 10.23 출시 예정이고 Hugging Face에는 라이선스가 'other'(NVIDIA 자체 조건)로 표시돼 있어 상업 이용 전에 조건을 확인해야 해요.
앞으로 이렇게 지켜보세요
- 출시 일정: Bolt E4B 4GB가 10.23에 Hugging Face nvidia 저장소에 올라오는지 확인해요.
- 독립 측정: artificialanalysis.ai에서 Super VL의 지능 지수와 초당 토큰 수가 '5배 빠름' 주장과 맞는지 봐요.
- 로컬 실측: RTX Spark 노트북(10.16 출시)과 RTX 5090에서 Bolt 실측 속도 후기를 Ollama·LM Studio 커뮤니티에서 지켜봐요.