原文標題:Build more responsive apps with the Decisions API

OpenAI 10 月 22 日宣布 Decisions API 正式提供一般使用。這項 API 專為應用程式與 AI 代理流程中頻繁發生、答案範圍明確的小型決策設計,例如判斷文件類型、決定下一步工具、選擇工作流程路由,或對輸入內容進行分類。官方以 GPT-6 Luna 為基礎,強調不必每次都啟動較長的完整生成流程,便能降低互動延遲。

根據 OpenAI 公布的資料,Decisions API 處理文字、影像與結構化輸入時,相較透過 Responses API 使用 GPT-6 Luna,速度最高可達十倍。這是官方針對特定任務與介面的比較,不應解讀為所有模型推論或應用程式都能提升十倍。開發者可以直接提交原生 JSON,並在問題指示中納入影像。單次請求最多可提出 400 個問題,為先前上限的兩倍。

正式版本相較公開測試階段增加與 GPT-Live 的原生整合、可重用上下文的提示快取,以及美國與歐盟的推論資料駐留選項。OpenAI 也提到已在亞洲部分地區擴充容量,以改善回應速度。這些變更讓決策 API 不只適用於批次分類,也可放進語音互動與即時代理工作流程。

OpenAI 援引早期使用者測試:Box 在 30 份保險憑證的路由評估中,決策速度約為原方法五倍、準確率相同;Ramp 表示其 AI 成本歸因流程速度提高四倍、成本降低三成;Sierra 的部分即時客服決策在第 95 百分位延遲低於 280 毫秒,較先前流程約快三倍且單次成本降低九成。這些均是個別客戶情境,不能直接推廣為統一效能保證。

官方亦舉出 Speak 的語言學習整合案例,下一步動作的等待時間從 1.4 秒縮短到 0.13 秒。對開發者而言,這項產品的定位不是取代需要長篇推理與內容生成的模型,而是把高頻率、有限選項的判斷獨立處理,讓整體系統依需求組合不同能力。

發生了什麼事

OpenAI 將 Decisions API 轉為正式服務,主打 GPT-6 Luna 的快速有限選項判斷,支援每次最多 400 個問題及多種輸入型態。

為什麼重要

代理系統在分類、路由與工具選擇上可能產生大量微小延遲;獨立決策介面可讓開發者依任務需求調整速度與成本,而非所有步驟都走完整生成 API。

影響哪些人

開發 AI 代理、客服系統、語音助理、文件處理、成本歸因及互動教學產品的工程團隊,可評估將高頻率判斷工作切換至此 API。

已確認與未確認

已確認正式推出、GPT-6 Luna、最高十倍速度宣稱、400 問上限、GPT-Live 整合與美歐資料駐留。官方頁面未提供足以推導所有使用情境的統一定價或效能保證,應依實際計費文件測試。