OpenAI 'Decisions API' 정식 출시…출력 토큰 무료

OpenAI가 10월 22일(현지시간) 'Decisions API'를 정식 출시(GA)했다. 문장을 생성하는 대신 확률·선택지·점수만 돌려주는 API로, GPT-6 Luna 모델 전용이며 출력 토큰 요금을 받지 않는다. OpenAI 개발자 문서와 WebProNews·시킹알파 보도를 종합한 내용이다.

핵심 정리

• Decisions API가 10월 22일 공개 베타를 끝내고 정식 출시됐다. 요청 한 번에 넣을 수 있는 질문은 베타 때 200개에서 400개로 두 배가 됐다.
• 요금은 캐시되지 않은 입력 100만 토큰당 0.10달러, 캐시된 입력 0.01달러이며 출력 토큰은 무료다.
• OpenAI는 같은 모델을 Responses API로 쓸 때보다 최대 10배 빠르다고 밝혔다. Datadog·Sierra·Speak 등 고객사도 자체 측정한 지연시간 개선 수치를 내놨다.

OpenAI Decisions API는 무엇을 돌려주나

개발자는 POST /v1/decisions 엔드포인트에 텍스트·이미지·JSON 입력과 이름을 붙인 질문 목록을 보낸다. 모델은 각 질문에 글로 답하지 않고 세 가지 형식 중 하나로 답한다.

'predicate(판정)'형은 조건이 참일 확률을 0~1 사이 값으로 낸다. 'choice(선택)'형은 개발자가 준 보기 중 하나를 고르고 확률과 신뢰도를 붙인다. 'score(점수)'형은 2~10단계 등급으로 평가해 확률 가중 평균을 돌려준다.

요금과 사용 한도

과금은 입력에만 붙는다. 캐시되지 않은 입력은 100만 토큰당 0.10달러, 캐시된 입력은 0.01달러다. 다만 캐시 쓰기에는 요금이 붙고, 지역 처리 할증과 긴 컨텍스트 배수도 그대로 적용된다. 프롬프트 캐시는 공통 입력 앞부분이 1,024토큰 이상일 때만 작동한다.

WebProNews에 따르면 베타 이후 프롬프트 캐싱, 미국·유럽 내 추론 처리, JSON·이미지 입력 기본 지원이 추가됐다.

고객사가 밝힌 속도·비용 효과

아래 수치는 고객사가 자체 측정해 출시 보도에서 전한 것으로, 제3자 검증을 거친 벤치마크는 아니다.

Speak는 GPT-Live와 함께 이 API를 썼다. 앤드루 수(Andrew Hsu) 최고기술책임자(CTO)는 "다음 행동까지 걸리는 시간을 1.4초에서 0.13초로 90% 넘게 줄였다"고 말했다. Datadog은 AI 에이전트가 만든 셸 명령의 위험도를 평가하는 데 쓰며, 프런티어 모델과 비슷한 정확도로 p95 지연시간이 40배 빨라졌다고 밝혔다.

실시간 고객 상담에서 다음 행동을 고르는 Sierra는 p95 지연시간이 280밀리초 미만으로, 기존 방식보다 약 3배 빠르고 호출당 비용은 90% 낮아졌다고 했다. Ramp는 AI 비용 귀속 작업이 GPT-6 Luna 대비 4배 빨라지고 30% 저렴해졌다고 밝혔다. Box는 보험증명서 30건을 대상으로 경로 선택이 약 5배 빨라졌다고 했다.

배경: AI 에이전트 '제어 루프' 경쟁

이 API가 겨냥하는 것은 AI 에이전트 안에서 수없이 반복되는 작은 판단이다. 계속할지, 다시 시도할지, 사람에게 넘길지, 멈출지 같은 결정이다.

이 시장에 뛰어든 곳은 OpenAI만이 아니다. 스타트업 TypeSafe AI는 9월 15일 텍스트를 쓰지 않는 결정 모델 'Jev'를 내놨다. AI Newsway는 이 회사가 같은 문제의식으로 4,000만 달러를 유치하며 스텔스 모드를 벗어났다고 보도한 바 있다.

전망

Decisions API는 당분간 GPT-6 Luna만 지원한다. 사용자 지정 JSON 스키마가 필요한 출력은 여전히 Responses API의 Structured Outputs를 쓰라는 것이 OpenAI의 안내다. 실제 대규모 운영 환경에서 속도 주장이 독립 검증으로 확인될지, 다른 모델로 지원이 넓어질지가 관전 포인트다.

자주 묻는 질문

Decisions API는 새 모델인가?

아니다. 유일한 지원 모델인 GPT-6 Luna를 쓰는 새 엔드포인트로, 텍스트 대신 형식이 정해진 답을 돌려준다.

요금은 얼마인가?

캐시되지 않은 입력은 100만 토큰당 0.10달러, 캐시된 입력은 0.01달러다. 출력 토큰은 무료지만 캐시 쓰기·지역 할증·긴 컨텍스트 배수는 적용된다.

참고 자료

• Decisions — OpenAI API 문서
• OpenAI Makes Its Decisions API Generally Available, Billing Only for Input Tokens — WebProNews(2026년 10월 22일)
• OpenAI launches Decisions API with up to 10x faster AI decisions — 시킹알파(TradingView 게재, 2026년)