生成式 AI 很擅長回答、摘要、寫作與規劃,但企業流程中的許多關鍵步驟並不需要一段漂亮文字,而是需要一個可以被程式直接使用的判斷:這張工單應該分到哪一組?這筆交易的風險分數是多少?這次操作能否自動執行?信心不足時,是否要轉給人工?

2026 年 9 月,TypeSafe AI 的 JEV 透過 Vercel AI Gateway 上線。Vercel 把它描述為一個機率決策模型:輸入結構化狀態,先宣告有限的答案空間,再取得 Choice、Score 或 Boolean 型別的結果與機率。它不是要取代能寫長文、推理或呼叫各種工具的通用大模型,而是把代理流程中的「決定下一步」縮成更明確、更容易驗證的元件。

JEV 最值得關注的地方,不是又多了一個模型名稱,而是它代表一種架構改變:讓大模型負責理解與生成,讓決策模型負責有限選項與信心,再由企業程式、政策和人工審批決定真正採取什麼動作。對正在建立 AIOS 的組織而言,這正好補上模型能力與營運控制之間的一層。

JEV 作為 AIOS 的機率決策控制層,將結構化狀態轉為 Choice、Score、Boolean 與人工審批路徑

圖:JEV 的價值不在生成更多內容,而在把輸入訊號轉成型別明確、帶機率、可設門檻的決策結果。

一、JEV 是什麼:把「請判斷」改成有邊界的問題

Vercel 的 JEV 說明將它稱為「System One」模型。使用者提供目前狀態與預先定義的問題,模型回傳有限、型別化的答案,而不是自由格式文字。這種設計適合高頻、邊界清楚的判斷,例如分類、評分、風險旗標與路由。

三種常見輸出可以這樣理解:

輸出型別 例子 程式可以怎麼使用 主要風險
Choice billing/technical/sales 直接路由到指定佇列 選項定義不完整,迫使模型選錯類別
Score 0–100 的優先分數 排序、分層或觸發不同 SLA 分數未校準,門檻在不同資料上失真
Boolean 是否允許自動處理 通過、攔截或轉人工 把機率判斷誤當成確定事實

這和一般聊天模型最大的差異,是「答案空間在呼叫前就被定義」。🔗 大型語言模型的基本原理可以幫助理解生成模型如何產生文字;JEV 類型的決策模型則把任務縮小成可由程式消費的選項。型別不會保證答案正確,但能避免解析自由文字、拼字漂移或欄位缺失,讓後續控制更可靠。

二、為什麼 AI 代理需要獨立的決策層

一個企業代理通常同時做四件事:理解輸入、取得資料、決定下一步、執行工具。若全部交給同一個通用模型,提示詞就同時承擔語意理解、政策、路由和輸出格式。流程變長後,很難分辨錯誤究竟來自資料、推理、格式,還是工具權限。

JEV 的架構價值是把「決定下一步」拆成獨立元件。🔗 AI 代理開發處理的是代理如何規劃與執行;🔗 MCP 與 AI 代理處理工具如何標準化接入。決策層則回答:在目前狀態下,哪個動作符合門檻,是否需要人工,以及這個判斷有多大不確定性。

一個更可控的流程可以是:

  1. 通用 LLM 將郵件、通話或文件整理成結構化狀態;
  2. RAG 或業務系統補上客戶、合約和歷史事件;
  3. JEV 同時評估路由、優先級、風險與是否可自動執行;
  4. 程式依機率門檻、角色權限和政策決定動作;
  5. 高風險或低信心案例交給人工;
  6. 結果回寫成可觀測、可再評估的紀錄。

這種分工也讓 🔗 RAG 2.0 的資料品質與決策品質可以分別觀察:檢索錯了就改善資料路徑,門檻錯了就重新校準,不必把所有問題都埋在一段長提示中。

三、速度與成本數字要怎麼看:供應商結果不是普遍保證

Vercel 上線公告引用 TypeSafe AI 的工作流程評估,稱 JEV 在特定測試中最高可比通用 LLM 快 193.6 倍、便宜 444.6 倍。這是供應商回報的結果,並不是所有資料、地區、供應商或企業工作負載的普遍保證。

9 月 18 日的 Vercel 採用報告又指出,JEV 上線 24 小時內被近 13% 的付費團隊使用,並在該平台的模型份額中快速超過部分通用模型。這是 Vercel AI Gateway 內的採用資料,不能解讀成全球市場占有率;但它說明開發者確實有大量「不需要生成長文、只需要快速決定」的工作。

企業評估時,應把行銷數字轉成自己的四組指標:

指標 要測什麼 不應只看什麼
品質 各類別 precision/recall、校準誤差、人工推翻率 單一平均準確率
延遲 P50、P95、P99 與佇列時間 最快的一次回應
成本 每千次判斷、重試、人工審核與錯誤成本 模型標示單價
營運 自動完成率、轉人工率、事件率、回復時間 呼叫成功率

如果錯誤決策的代價很高,即使推論便宜 400 倍,也不代表應該自動放行。真正重要的是在可接受風險下,每一件完成工作的總成本。

四、機率不是答案:門檻、校準與拒答才是控制核心

JEV 回傳機率,使系統可以用門檻控制,而不是把模型第一名答案當成事實。例如客服路由的最高類別機率是 0.61,而第二名是 0.37,系統可以把它送人工;若最高為 0.96 且歷史校準穩定,才自動分派。

但模型說 0.9,不代表在現實中一定有 90% 正確率。團隊需要以自己的資料做校準:把預測信心分桶,觀察每一桶的實際正確率,並按語言、產品、客戶類型與時間拆分。若某一語言的 0.9 只有 70% 正確,門檻就不能與其他語言共用。

建議把決策分成三區:

  • 自動區:信心高、動作可逆、影響低,程式可以直接執行;
  • 人工區:信心不足、類別接近、資料缺漏或影響中高,交由指定角色確認;
  • 拒絕區:輸入不符合範圍、偵測到異常或政策明確禁止,停止而非勉強選一個答案。

這也是 JEV 與規則引擎的互補關係。硬性法規、金額上限和角色權限應由確定性規則執行;語意模糊、優先排序與風險傾向可以交給機率模型。最後動作由規則、模型與人工共同決定。

五、JEV 與通用 LLM 怎麼分工

Vercel 的 JEV 與 GPT-6 Astra 比較給出一個有用的邊界:JEV 適合答案已被定義、需要原生機率的聚焦決策;通用模型適合內容生成、開放式推理和更廣的工具工作。這不是誰取代誰,而是把不同任務放到合適模型。

任務 優先選 JEV 優先選通用 LLM 組合方式
工單分類 類別固定、量大、需要信心 類別未知、需要先理解新問題 LLM 摘要,JEV 路由
風險分級 輸出為固定級別或分數 需要撰寫完整調查說明 JEV 分級,LLM 生成理由草稿
工具操作 判斷是否允許、是否轉人工 規劃多步操作與參數 LLM 規劃,JEV 判定門檻,程式執行
客戶回覆 選擇回覆策略或語氣 產生個人化內容 JEV 選策略,LLM 撰寫,人工抽查

🔗 WAIC 2026 的代理、機器人與晶片觀察顯示,產業焦點正從「模型能說什麼」移到「代理能完成什麼」。決策層讓系統可以在使用大型模型之前先路由,也可以在工具真正執行前做風險閘門,避免每一步都使用最昂貴、最開放的模型。

六、放進 AIOS:決策模型需要共同控制面

JEV 本身只回答有限問題,並不管理企業的身分、資料、GPU、政策、版本或稽核。若每個團隊自行設定問題與門檻,企業仍會得到一批互不相容的決策端點。

AIOS 應為決策模型提供六種共同能力:

  1. 模型與問題登錄:記錄模型版本、問題 schema、選項、用途與負責人;
  2. 資料契約:檢查輸入欄位、來源、敏感度與缺漏;
  3. 門檻政策:依租戶、角色、風險和地區決定自動、人工或拒絕;
  4. 路由與容量:將工作分配到合適模型與資源,必要時降級;
  5. 可觀測性:保存機率、選項、版本、延遲、人工推翻與最終結果;
  6. 持續評估:偵測資料漂移、信心偏移、類別失衡與政策失效。

底層資源仍然重要。🔗 GPU、NPU、TPU 與 LPU 的差異說明不同加速器的工作特性;🔗 有效管理 GPU則處理共享、隔離和利用率。AIOS 的工作是把這些資源訊號連到模型、決策與任務結果,而不是只看到硬體忙碌。

依 NIST AI Risk Management Framework 的 Govern、Map、Measure、Manage 思路,JEV 的每個用途都應有業務邊界、影響等級、衡量方法和例外處理。機率輸出只有進入這套控制面,才會變成可治理的企業決策。

七、三個適合先做、三個不該先做的場景

適合先做

工單與內容路由:選項固定、錯誤可逆、容易累積人工標註,適合測試 Choice 與信心門檻。

告警優先排序:用 Score 排出需要先處理的事件,但仍由既有規則保留強制告警。

低風險自動化閘門:例如決定是否自動補資料、啟動重試或請求人工確認,動作可以回復並有完整日誌。

不該先做

不可逆的高額財務決策:資料、法規與公平性要求高,不應只依單一機率輸出執行。

員工懲處、醫療或法律結論:影響重大且需要可解釋的專業判斷,模型最多只能提供輔助訊號。

答案空間仍在快速變化的任務:若團隊連有哪些類別都不知道,先用通用模型和人工探索,再定義 JEV 的有限問題。

八、90 天導入:先證明一個決策閉環

第 1–30 天:定義問題與失敗成本

選一個高量、低風險、可逆的決策,寫清楚 Choice/Score/Boolean、資料來源、正確答案、拒絕條件與責任人。抽取歷史資料時要保留語言、產品和客戶分布,避免只用最乾淨的樣本。

第 31–60 天:影子模式與校準

讓 JEV 產生結果但不真正執行,與人工決定比較。觀察 precision、recall、校準、延遲、成本和各群體差異,建立自動區、人工區和拒絕區。保留通用 LLM 或現有規則作為對照。

第 61–90 天:只開放可逆動作

先自動執行低風險、可回復的案例,持續記錄人工推翻和最終結果。設定模型或資料異常時的停止開關,並每週重新看門檻,而不是把上線當作評估終點。

JEV 所代表的方向很清楚:企業 AI 不應把每一個步驟都變成自由文字生成。當問題可以被限定,型別化答案、原生機率與外部政策能讓代理更快、更便宜,也更容易控制。但速度與型別都不是治理本身;只有在 AIOS 裡把問題、資料、門檻、權限、人工和稽核接起來,JEV 才會從一個新模型變成可營運的決策控制層。