오픈AI, 디시전스 API(Decisions API) 정식 전환…질문 한도 400개

공식 변경 이력은 베타 공개와 정식 제공을 각각 10월 6일과 22일로 기록했다. 이번 소식은 처음 등장한 API의 소개가 아니라 제공 단계와 기능이 달라진 사건이다. 특히 한 요청의 질문 수가 두 배가 된 점과 반복해서 사용하는 입력을 캐시로 재활용할 수 있게 된 점이 기존 이용자에게도 영향을 준다. OpenAI의 날짜별 변경 기록

서비스가 돌려주는 답은 세 종류다. 어떤 조건이 맞을 확률, 미리 정한 목록 중 한 선택지, 순서가 있는 평가 기준에 따른 점수다. 자유롭게 서술한 문장을 앱이 다시 해석하는 대신 정해진 형태의 결과를 받는다. 점수는 각 단계의 확률을 반영한 평균이어서 반드시 정수 단계 하나로만 나오지는 않는다. 디시전스 API 공식 안내

질문 수 확대에도 구조적 제약은 있다. 상세 규격은 요청당 질문을 1400개, 선택형 질문의 선택지를 2255개로 정한다. 서로 독립적인 질문은 같은 자료에 묶어 보낼 수 있지만 앞선 판단 결과에 따라 다음 질문이 달라지는 작업까지 모두 한 번에 해결된다는 뜻은 아니다. 반환되는 답의 순서와 형태도 규격에 맞춰 처리해야 한다. 요청·응답 상세 규격

입력은 일반 텍스트와 이미지 외에 JSON 객체나 객체 배열을 직접 받을 수 있다. JSON은 항목과 값을 구조화해 전달하는 데이터 형식이다. 상세 규격은 중첩 32단계, 값 1만 개, 불필요한 공백을 뺀 UTF-8 JSON 256KiB라는 제한을 둔다. 공개된 이미지 주소나 인라인 이미지도 받지만 파일 ID는 지원하지 않는다. 정식 제공을 모든 파일 형식의 무제한 입력으로 읽어서는 안 된다.

가격은 캐시되지 않은 입력 100만 토큰당 0.10달러이며 출력 토큰에는 요금을 매기지 않는다. 다만 캐시 읽기는 할인되고 캐시 쓰기는 과금된다. 지역 처리 할증과 긴 입력에 대한 배수 요금도 적용된다. 이 조건은 디시전스 전용 경로에 해당하므로 같은 모델을 다른 API에서 호출할 때도 동일한 가격이라고 일반화할 수 없다.

캐시는 반복 입력의 공통 앞부분을 재사용한다. 최소 1,024토큰의 동일한 입력이 있어야 하며 질문 자체와 질문별 이미지는 이 재사용 범위에 포함되지 않는다. 따라서 같은 문서를 두고 질문만 바꾸는 요청과, 공통 자료까지 매번 달라지는 요청의 과금 양상이 다를 수 있다. 공식 안내가 캐시 할인을 설명하면서 입력 구조와 쓰기 비용을 함께 명시하는 이유다.

음성 대화 제품 지피티 라이브(GPT-Live)와의 직접 연결도 가능하다. 다만 변경 이력에 따르면 이 기능은 10월 15일 먼저 추가됐으며, 22일 정식 전환 때 처음 나온 기능은 아니다. 대화의 음성 인식 결과가 들어올 때 판단을 요청하거나 지피티 라이브가 직접 디시전스를 호출하는 구조다. 어떤 행동을 실제로 실행할지는 연결된 서비스가 정한다.

상세 응답 규격에는 답변 거부도 포함된다. 한 질문을 거부했다고 같은 요청의 다른 질문까지 모두 답하지 못하는 것은 아니며, 각 결과를 따로 구분해야 한다. 이 제품의 변화는 작은 판단을 묶어 처리하는 선택지를 늘린 데 있다. 질문 한도만으로 전체 업무의 자동화 수준을 설명하기보다, 어떤 판단을 맡겼고 그 판단 뒤의 실행을 누가 통제하는지까지 함께 봐야 한다.