OpenAI Decisions API 정식 출시: 분류·라우팅·다음 행동을 출력 요금 없이 빠르게
무엇인가요
Decisions API는 긴 답을 쓰지 않고 정해 둔 질문에 정해진 형태로만 답하는 엔드포인트(POST /v1/decisions)예요. 질문은 참일 확률을 주는 predicate, 보기 중 하나를 고르는 choice, 단계별 점수를 매기는 score 세 가지예요. 모델은 gpt-6-luna이고 텍스트, 이미지, JSON 입력을 받아요. 정식 출시하면서 요청당 질문이 400개로 두 배가 됐고 프롬프트 캐시, GPT-Live 연동, 미국·EU 데이터 처리 지역도 붙었어요.
curl https://api.openai.com/v1/decisions \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "gpt-6-luna", "input": "I was charged twice for my order.", "questions": [{"type": "choice", "name": "department", "instructions": "Which department should handle this complaint?", "choices": [{"value": "billing", "description": "Payments, invoices, and refunds."}, {"value": "technical", "description": "Problems using the product."}, {"value": "shipping", "description": "Delivery and tracking."}]}]}'왜 중요한가요
에이전트는 한 작업 안에서 어느 도구를 쓸지, 이 문의를 어디로 보낼지 같은 작은 결정을 수없이 내려요. 이런 결정을 일반 응답 API로 처리하면 지연과 비용이 쌓이는데, OpenAI는 Responses API로 같은 모델을 부를 때보다 최대 10배 빠르다고 해요업체 주장. 요금은 캐시되지 않은 입력 100만 토큰당 $0.10이고 출력 토큰은 받지 않아요. 고객 문의 분류, 콘텐츠 검수, 에이전트 라우팅처럼 판단만 필요한 단계를 떼어 내 이 API로 옮기면 비용을 따져 볼 만해요.
완성도
GA 정식OpenAI 블로그와 개발자 문서 모두 정식 출시라고 밝혔어요. 지원 모델은 아직 gpt-6-luna 하나예요.
앞으로 이렇게 지켜보세요
- 모델 확대: Decisions 문서의 지원 모델 목록에 Luna 말고 다른 모델이 추가되는지 봐요.
- 독립 측정: 10배 빠르다는 수치와 정확도를 비교한 외부 벤치마크가 나오는지 확인해요.
- 경쟁: TypeSafe Jev 같은 결정 전용 모델의 가격 변화를 함께 지켜봐요.