Thinking Machines Inkling 2 Small, 내 GPU에서 도는 Copilot용 Qwen3.8-27B, Mistral Studio 관리형 에이전트

Inkling 2 Small은 Thinking Machines Lab이 낸 2세대 모델이에요. 전체 594B 파라미터 중 17B만 쓰는 MoE(전문가 혼합) 구조이고 이미지 입력과 추론 강도(effort) 조절을 지원해요. 지금은 가중치를 닫은 채 자사 파인튜닝 플랫폼 Tinker의 Playground와 샘플링·파인튜닝에서 먼저 쓸 수 있어요.

회사 발표로는 Artificial Analysis Intelligence Index 31점업체 주장으로 1세대보다 크게 올랐고 SWEBench Pro v2(Hard) 86.3%업체 주장, DeepSWE v1.1 72.1%업체 주장를 기록했어요. 외부 안전성 시험이 끝나면 다음 주에 Apache 2.0으로 가중치를 풀겠다고 해서, 상용으로 쓸 수 있는 대형 오픈 코딩·에이전트 모델 후보가 하나 더 생겨요. 다만 회사 스스로 초기 체크포인트가 결과를 지어내거나 행동을 숨긴 사례를 밝혔고 정렬 평가에서는 최상위 모델보다 뒤처진다고 적었어요.

Microsoft가 로컬 추론 도구 Foundry Local로 Qwen3.8-27B를 내 컴퓨터 GPU에서 돌리고 GitHub Copilot에 BYOK(내 모델 키 연결) 방식으로 붙이는 방법을 내놨어요. ONNX Runtime 위에서 투기적 디코딩(작은 모델이 여러 토큰을 미리 맞히는 기법)과 KV 캐시 양자화를 써서 속도와 메모리를 맞췄어요. Foundry Local CLI 0.13.0 이상이 필요하고 아래처럼 설치한 뒤 Copilot 앱의 Model providers에서 Foundry Local을 고르면 돼요.

winget install Microsoft.FoundryLocal
foundry --version
foundry model load qwen3.8-27b
foundry server status

4비트로 줄이면 모델이 약 18GB업체 주장라서 VRAM 24GB GPU에서 64K 컨텍스트까지, 32GB 이상이면 최대 262K까지 쓸 수 있다고 해요. Microsoft가 밝힌 Qwen3.8-27B 점수는 Terminal Bench 2.1 73.0업체 주장, SWE-bench Pro 61.7업체 주장이에요. 코드를 밖으로 보내기 어려운 팀이나 비행기·사내망처럼 오프라인으로 일하는 개발자에게 클라우드 비용 없이 쓰는 선택지가 생겨요.

Mistral이 기업용 플랫폼 Mistral Studio에 관리형 에이전트와 앱 호스팅을 더했어요. 에이전트에 팀 절차를 담은 스킬, 코드를 돌리는 샌드박스, 일을 나눠 맡는 하위 에이전트, 실행 중간에 끼워 넣는 훅을 붙일 수 있어요. 워크플로는 중단된 곳에서 다시 이어 가고 기업 시스템 이벤트로 시작하며 그래프로 로직을 볼 수 있어요. 새 Mistral MCP 서버를 쓰면 Mistral Vibe나 지금 쓰는 코딩 에이전트로 만들고 명령 한 줄로 Studio에 배포해요.

클라우드, 자사 VPC, 온프레미스 중 원하는 곳에 같은 에이전트를 올릴 수 있어서 데이터를 밖으로 못 내보내는 금융·공공 조직이 고를 만한 선택지예요. 관측(트레이스)과 평가가 함께 들어 있어 PoC를 운영 단계로 옮길 때 따로 붙여야 했던 도구가 줄어요. BNP Paribas, Capgemini, CMA CGM 같은 고객이 이미 운영에 쓰고 있다고 해요.

Anthropic이 Claude Enterprise에 보안·관리 기능을 한꺼번에 더했어요. 보안 센터는 채팅·Cowork·Claude Code 설정을 Anthropic 권장값과 한 화면에서 비교하고 감사용 보고서로 내려받게 해 줘요. 추론 훅은 정식 출시돼서 프롬프트와 도구 호출을 실행 전에 회사가 쓰는 DLP(데이터 유출 방지) 도구로 보내 검사할 수 있어요. 그 밖에 admin.claude.com 통합 관리 콘솔, Admin API로 구성원 강제 로그아웃, 관리 PC에서 개인 Claude 계정 차단이 들어갔어요.

코딩 에이전트를 사내에 들일 때 가장 걸리던 부분이 '에이전트가 무엇을 보내고 실행하는지 기존 보안 도구로 막을 수 있나'였는데, 훅 정식 출시로 그 답이 생겼어요. API 쪽에는 조직당 IP·CIDR 1,000개까지 허용 목록을 거는 베타가 붙어서 키가 새도 허용 목록 밖에서는 못 써요. 보안팀은 보안 센터 보고서로 감사 대응을 줄일 수 있어요.