過去幾年,大家對 AI 的印象幾乎等同「聊天機械人」:問它問題,它回你一段文字。然而,二零二六年九月十五日,一間名為 TypeSafe AI 的美國初創公司推出了一個刻意「不會聊天」的模型 Jev,發布影片在 X 上累積約四千萬次觀看,公司同時宣布獲得四千萬美元種子輪融資。Jev 的賣點很直接:在分類、分流、評分這類工作上,它的速度和成本都比一般大型語言模型優勝一至兩個數量級。本文會詳細拆解 Jev 是什麼、與大模型有何根本分別、適合哪些企業場景、應如何評估,以及導入時需要注意的地方。
Jev 是什麼?
Jev 由 TypeSafe AI 開發,創辦人兼行政總裁 Diogo Almeida 曾在 OpenAI 任職約四年,參與過 RLHF、InstructGPT、ChatGPT 及 GPT-4 等研究。他離開 OpenAI 後思考的問題是:模型在聊天方面早已超越人類,為何企業的自動化仍然遲遲未能普及?他的答案是,聊天模型的設計本身並不適合讓軟件直接使用。於是團隊用了兩年時間,從模型架構、取樣方法到訓練方法重新設計,推出他們稱為「System One 模型」的新類別,Jev 是第一個公開的型號,目前以早期測試(early access)形式開放。
名字背後的兩個概念
「System One」取自心理學家 Daniel Kahneman 的著作《快思慢想》:人腦有快速、直覺的「系統一」,也有緩慢、深思的「系統二」。日常大部分判斷其實靠系統一完成,例如一眼看出一封郵件是否垃圾郵件。Jev 就是專門處理這類快速判斷的模型。至於「Jev」一名,則來自經濟學家 William Stanley Jevons 提出的「傑文斯悖論」:當蒸汽機令煤的使用效率大增,煤的總需求反而上升。TypeSafe 認為 AI 也會一樣,每當智能的成本下降一個數量級,就會釋放出多一個數量級的應用場景。
與大型語言模型的根本分別
一般大型語言模型的輸出是「文字」,而且是逐個字(token)依次生成,每個字都要等前一個字出來才能產生。文字很靈活,可以是回答、程式碼,也可以是胡言亂語;軟件要使用這些輸出,必須先解析和驗證,而且總有機會「出軌」。Jev 的做法完全不同:它不生成文字,而是按事先定義好的答案範圍,回傳「結構化的值」,例如「是或否」、「甲、乙、丙其中一個」、「零至一百的分數」,並且所有答案一次過並行產生。由於答案格式事先鎖定,Jev 不會出現格式錯誤,也不會作出答案範圍以外的「幻覺」回應。TypeSafe 形容它像一個「具前沿智能的函數呼叫」:輸入雜亂的資料,輸出可以直接被程式使用的決定。
信心分數:決定能否真正自動化的關鍵
Jev 另一個重要特點,是每個答案都附帶經過校準的機率和信心分數。這一點看似技術細節,其實直接決定一項工作能否全自動化。假設一個模型九成五的時候答對,但它不會告訴你哪一次屬於答錯的那五成,你就不敢讓它無人看管地運作。相反,如果模型能如實表達「這次我不太肯定」,企業便可以設計一條清晰的規則:信心高的個案自動處理,信心低的個案轉交人手跟進。TypeSafe 為此發展了一套稱為「校準決策強化學習」(RLCD)的訓練方法,目標是令信心越高的答案,準確度也越高。
速度與成本:數字有多驚人?
根據 TypeSafe 公布的資料,Jev 端到端的回應時間約為七十至五百毫秒,而前沿大模型一般需要數秒甚至更長。收費方面,輸入每百萬 token 為零點零四二美元,輸出更是免費;相比之下,一般大模型的輸入收費由每百萬 token 零點二至十美元不等,輸出往往再貴數倍。在該公司自設的工作流程測試中,Jev 的速度最高約為大模型的一百九十倍,成本約為四百四十分之一。值得留意的是,這些是公司自己公布的數字,而且 TypeSafe 亦坦言這屬於實際效益的較高水平;企業應視之為潛力參考,而非保證。
企業可以用 Jev 做什麼?
Jev 最適合「答案範圍清晰、需要大量重複判斷」的工作。第一是分類與分流,例如把客服查詢自動派往正確部門,或把文件歸入合適類別。第二是評分與排序,例如為銷售線索打分、評估申請個案的風險等級。第三是內容審核,例如檢查垃圾訊息、不當內容或敏感資料外洩。第四是 AI agent 的「守門員」:當 AI 助手準備執行一個指令,例如刪除資料庫,Jev 可以即時判斷這個動作是否不可逆,或者是否偏離用戶原本的要求,再決定放行還是攔截。第五是即時應用,由於回應只需零點一秒左右,它可以放進遊戲、模擬等對速度要求極高的場景,TypeSafe 甚至示範過用 Jev 即時操控經典遊戲《Doom》。
它不適合做什麼?
理解 Jev 的限制,與理解它的優勢同樣重要。Jev 不會寫文章、不會撰寫電郵、不能作開放式對話,也不適合需要長篇推理或創意生成的工作;這些仍然是大型語言模型的強項。另外,Jev 每次選擇的答案選項最多約二百五十五個,選項更多時需要分階段處理。它目前亦只處理文字形式的資料,尚未支援圖像。最重要的是,Jev 仍處於早期測試階段,長遠的穩定性、價格能否持續,都需要時間驗證。
老闆應該如何評估與導入?
務實的做法可以分四步。第一,盤點公司現有的 AI 或人手工序,找出哪些其實只是「揀選題」,例如分類、判斷、評分,這些都是可以改用決策模型的候選。第二,揀一個量大而規則相對清晰的工序做小型試點,例如客服查詢分流,並與現有做法比較準確度、速度和成本。第三,設計好「信心門檻」:信心高於某個水平自動處理,低於水平轉交人手,並定期抽查結果。第四,採用「大小模型分工」的架構,由 Jev 這類決策模型處理大量快速判斷,大型語言模型只負責真正需要寫作和推理的部分。這樣既能大幅降低成本,也能提升整個系統的穩定性。
結語:AI 不一定要會聊天
Jev 的出現提醒我們,AI 的價值不在於它能說多少話,而在於它能否可靠地融入日常運作。企業大部分自動化需求,其實是大量細小而重複的判斷,用昂貴的聊天模型處理,就好比駕駛跑車送外賣。懂得為不同工作選對工具,才是真正的 AI 策略。想了解如何為公司規劃合適的 AI 架構,並把 AI 員工部署到實際業務流程,歡迎前往 ai.ud.hk 了解 UD 的 AI 員工方案。
懂AI,更懂你|UD相伴,AI不冷