新版本 0.5.11

目前 0.5.10。產生此頁時偵測到新版本。

這次更新:

在終端機執行:

npx skills update answer-me-with-html -y

或者告訴 Agent:

更新 answer-me-with-html
查看更新內容

Generated by Answer me with HTML 0.5.10 · 2026-11-14 09:59 · ★ Star on GitHub

Perplexity Decider v1.3:決策模型的訓練、評測與用途

Perplexity Decider v1.3:把分類交給決策模型

Decider v1.3 與 Flash v1.3 釋出。通用分類器,一次前向傳遞回答多個問題並回傳機率,另新增 locate 擷取功能。完整權重以 Apache 授權釋出。

A

決策模型是什麼

輸入一段內容與一組問題,每題回傳答案的機率分布。免逐字生成,省成本也更快。

題型 說明 例子
是非題 二元判斷 摘要是否忠於原文
選擇題 自訂多類標籤 查詢應否觸發搜尋
評分題 有序等級 頁面品質打幾分

典型用途:評判輸出、請求路由、內容審核、過濾標籤、檢索重排。過去這類任務多由大型語言模型處理,但其實不需要自由生成文字。

B

生成式模型如何變成決策模型

共用脈絡搭配多個問題,特殊標記處讀出預測,以精簡過的輸出層打分。

請求由共用脈絡與多個問題組成。脈絡由所有問題共用。每個問題附選項,對應代碼 A、B、C。特殊 <|marker|> 標記預測讀出點。

可學習的線性輸出層把隱藏狀態映射為選項分數,再轉成機率。輸出層由基座模型初始化,只保留選項代碼對應的列。訓練資料來自數百個公開資料集,統一轉成相同問答格式。

C

locate:新增擷取功能

不只選答案,也能從原文抽出人名、個資與問答片段,並回傳字元位置。

locate 問題描述要找什麼,可短標籤,也可完整指令。模型回傳原文完全一致的片段,附起始與結束字元位置。找不到就回空串列。分類、評分與擷取可併在同一個請求。訓練只更新新嵌入、跨度頭與低秩 adapter,骨幹與決策頭凍結。adapter 不合併,只在 locate 請求啟用。

D

雙向注意力:兩種讀法

v1.3 改用隔離問題設計,答案更穩定。

設計 作法 代價
全相連 (v1.2) 脈絡與所有問題互相可見 多問一題,舊答案可能改變
隔離問題 (v1.3) 脈絡看全部問題,每題只看脈絡與自己 穩定,仍共享脈絡計算

另有全可快取版,脈絡完全獨立,預設不用。消融證實雙向注意力優於因果注意力,故全面採用。

E

訓練三階段與蒸餾

大模型先練通用再補專項,小模型用蒸餾學老師的信心分布。

大模型基座為 Qwen3.8-27B,小模型為 Qwen3.5-4B。第一階段通用訓練,全參數微調,只收跨任務有助益的資料,排除基準測試訓練集。第二階段低秩微調,補特定領域資料,合併時加權控制漂移。第三階段視覺專項,同樣以低秩處理,文字指標優先。

每階段取三個隨機種子權重平均。小模型以大模型為師,以 KL 散度學預測分布,泛化優於交叉熵。另做去污染與偏差稽核。

F

評測數字一覽

七大領域全勝,檢索與多語言同步領先,Flash 主打高吞吐低成本。

評測 Decider v1.3 對照組
查詢分類 63 任務 準確率 91.6 生產基線低 6.54 個百分點
七領域分類 七域全領先 金融勝 Jev 12.9,法律勝 9.3
檢索重排 72 任務 nDCG@10 83.99 勝 Qwen3-Reranker-8B 1.81
BEIR 領先 8.78 Flash 版領先 7.05
八語言分類 均值 88.16 Jev 85.41,Flash 86.50
擷取 17 任務 均值 69.0 Liquid 43.3,Clairic 41.5
圖像五任務 均值 76.99 勝 Jev 1.47
百萬真實請求 一致率 93.98 Jev 93.35,v1.2 93.68
同批成本 26.47 美元 Jev 68.10,GLM 312.21
標籤穩健性 翻轉率 0.27 Jev 2.69 至 4.84

內部另建 200 項以上零樣本套件,避免只對公開榜調參。

G

Perplexity 內部三種用法

安防自修、強化學習監控、爬蟲品質過濾,皆已上線運轉。

自修安防規則:以 Decider 複查智慧體日誌,揪出規則漏放與誤報。一天讀 10 億 token、7000 個 session,提出 14 項修正,6 項兩天內上線,最忙規則量降 52%。監控強化學習:定位可疑片段,多選題診斷失敗歸因,只觀察不改獎勵。頁面品質過濾:爬蟲同時判斷資訊量、受眾、有害內容與個資,比大型語言模型評判更快更便宜。外部亦適用:視覺品檢、瀏覽器導航、研究任務規劃。

H

上手與 HN 討論速覽

精細判斷選 v1.3,高流量選 Flash。閾值請以自家開發集調校。

HN 主串 99 分、21 則留言。實測分歧:有人稱 Flash 在個人基準退步,也有人說本地基準表現好、價格具競爭力。Flash 定位引辯:一方認決策模型本就為高速而生,不必再分級,另一方指難度與風險仍有分布。基準文化弱:留言互報 Jev 決策指數與 Artificial Analysis 指數補資訊。locate 有對照組:留言點名 Cloudflare Clairic 與 ScaleDown。創意質疑:少數留言稱只是複刻,餘者回以市場卡位本就如此。