新版本 0.5.11

目前 0.5.10。產生此頁時偵測到新版本。

這次更新：

am export 把頁面匯出成 A4 PDF 或 PNG 切片，方便傳到聊天工具
表格後面寫 {table sort filter}，就能排序和篩選
am video --audio-map 用你自己的音訊檔做影片旁白

在終端機執行：

npx skills update answer-me-with-html -y

或者告訴 Agent：

更新 answer-me-with-html

查看更新內容

Generated by Answer me with HTML 0.5.10 · 2026-11-12 13:05 · ★ Star on GitHub

華為開源 MACaQ

模型無關量化器，文字圖像影片語音全吃

sourceHN 50458166・huawei-csl/MACaQ・arXiv 2611.10649

Lead: 華為把內部量化器開源了。主打模型無關，四種推論後端全包。122B 模型 64 分鐘完成量化，記憶體只要 32.5GB。

A

它是什麼

全名是模型無關校準量化，MXFP4 W4A4 訓練後量化方法。
每層獨立處理，逐通道縮放加區塊阿達瑪轉換，線上作用在激活值。
逆變換吸入權重，一次只駐留一層，串流實作不爆記憶體。
Flip-Refinement 是 Hessian 感知的座標下降，把 FP4 碼往相鄰可表示值貪心搬移。
推論期開銷只有百分之 2 點 3，困惑度低於 DuQuant++ 與 MR-GPTQ。

B

關鍵數字

項目	數值
122B 模型量化	64 分鐘，32.5GB 記憶體
達 Llama-3-8B 最佳困惑度	量化時間少 11 倍
同 22.36GB 下 KL	0.013367，贏 Unsloth 的 0.015731
vLLM 加速	前填充 2.33 倍，解碼 2.58 倍
困惑度代價	2.8994 對 BF16 的 2.8463

C

四個後端

後端	吃什麼	精度
Diffusers	圖像、影片、語音生成	W4A4
llama.cpp	文字生成 GGUF	2、3、4 位元
vLLM	文字生成與服務	W4A4 預設
PyTorch	語音生成	W4A4

D

怎麼驗證

標準 llama.cpp 就能跑 MACaQ-R 的 GGUF，不用裝分叉版。
精煉指令吃已量化 GGUF 加原始模型與校準文字，吐出精煉版。
同檔可用 llama cli 本機跑，也能用 llama serve 開服務。
HF 上已有 Qwen3.6-35B-A3B 的 MACaQ-R GGUF 可直接下載。

E

HN 討論四組

組	正反
GitHub 派對官網派	程式碼一點就懂，產品頁全是行銷話術
制裁疑慮	免費東西為何制裁，商務部層級非財政部
模型去哪抓	Qwen 3.8 27B 已有量化版，有人在復現做 GGUF
名字哏	最大子樹，獼猴諧音玩笑，純噪音

F

基本檔案

組織是 huawei-csl，授權 Apache-2.0。
建於 2026 年 11 月 10 日，星 121，fork 6。
語言以 C++ 為主，另有 C、Python、CUDA。
論文第一作者是洛倫茲穆勒（Lorenz K. Muller）等人。
官網部落格有完整模型對照數據。

---
template: sheet
theme: auto
title: 華為開源 MACaQ
subtitle: 模型無關量化器，文字圖像影片語音全吃
lang: zh-Hant
source: HN 50458166・huawei-csl/MACaQ・arXiv 2611.10649
cols: 3
---
Lead: 華為把內部量化器開源了。主打模型無關，四種推論後端全包。122B 模型 64 分鐘完成量化，記憶體只要 32.5GB。

## 它是什麼 {span=2}
- 全名是模型無關校準量化，MXFP4 W4A4 訓練後量化方法。
- 每層獨立處理，逐通道縮放加區塊阿達瑪轉換，線上作用在激活值。
- 逆變換吸入權重，一次只駐留一層，串流實作不爆記憶體。
- Flip-Refinement 是 Hessian 感知的座標下降，把 FP4 碼往相鄰可表示值貪心搬移。
- 推論期開銷只有百分之 2 點 3，困惑度低於 DuQuant++ 與 MR-GPTQ。

## 關鍵數字
| 項目 | 數值 |
|------|------|
| 122B 模型量化 | 64 分鐘，32.5GB 記憶體 |
| 達 Llama-3-8B 最佳困惑度 | 量化時間少 11 倍 |
| 同 22.36GB 下 KL | 0.013367，贏 Unsloth 的 0.015731 |
| vLLM 加速 | 前填充 2.33 倍，解碼 2.58 倍 |
| 困惑度代價 | 2.8994 對 BF16 的 2.8463 |

## 四個後端 {span=2}
| 後端 | 吃什麼 | 精度 |
|------|--------|------|
| Diffusers | 圖像、影片、語音生成 | W4A4 |
| llama.cpp | 文字生成 GGUF | 2、3、4 位元 |
| vLLM | 文字生成與服務 | W4A4 預設 |
| PyTorch | 語音生成 | W4A4 |

## 怎麼驗證
- 標準 llama.cpp 就能跑 MACaQ-R 的 GGUF，不用裝分叉版。
- 精煉指令吃已量化 GGUF 加原始模型與校準文字，吐出精煉版。
- 同檔可用 llama cli 本機跑，也能用 llama serve 開服務。
- HF 上已有 Qwen3.6-35B-A3B 的 MACaQ-R GGUF 可直接下載。

## HN 討論四組 {span=2}
| 組 | 正反 |
|---|------|
| GitHub 派對官網派 | 程式碼一點就懂，產品頁全是行銷話術 |
| 制裁疑慮 | 免費東西為何制裁，商務部層級非財政部 |
| 模型去哪抓 | Qwen 3.8 27B 已有量化版，有人在復現做 GGUF |
| 名字哏 | 最大子樹，獼猴諧音玩笑，純噪音 |

## 基本檔案
- 組織是 huawei-csl，授權 Apache-2.0。
- 建於 2026 年 11 月 10 日，星 121，fork 6。
- 語言以 C++ 為主，另有 C、Python、CUDA。
- 論文第一作者是洛倫茲穆勒（Lorenz K. Muller）等人。
- 官網部落格有完整模型對照數據。