開場白

本期雷達最亮眼的是 Unsloth 官方釋出的 Qwen3.8-27B-GGUF，Hugging Face 熱度 200、累積 610 萬次下載，附帶 mmproj 多模態投影與完整 LoRA 訓練腳本，號稱 24GB 顯卡即可跑 Q4_K_M 量化版。同場加映：Zyphra 推出 MoE 架構的輕量 TTS 模型 Zonos3-mini，以及社區量化大神 mradermacher 打包的 Gemma 4 31B 指令版，兩者皆為 Apache-2.0 授權、支援繁體中文，等一下告訴你哪個適合拿來做離線客服語音、哪個適合處理政府公文抽取。

本期精選

1. unsloth/Qwen3.8-27B-GGUF：自帶多模態與 LoRA 腳本的 27B 旗艦，24GB 顯卡可上手

• 這是什麼: 由 Unsloth 官方團隊釋出的 Qwen3.8-27B 量化倉庫，參數量 27B，授權 Apache-2.0，提供 12 種 GGUF 量化檔（Q2_K 至 Q8_0），並同步釋出 mmproj 多模態投影檔與一鍵 LoRA 微調腳本，支援 llama.cpp、Ollama、LM Studio 直接部署。
• 能用在哪些場景:
  1. 獨立開發者手邊有一張 RTX 3090 或 4090（24GB 顯示記憶體），想架設離線程式碼助手與文件問答系統，載入 Q4_K_M（約 16.9 GB）即可運作，搭配 mmproj 還能讓模型讀取截圖、圖表進行說明。
  2. 想注入自有領域知識的工程師，可依官方 README 範例指令，在 16GB 顯卡搭配系統記憶體混載環境下完成 Unsloth LoRA 微調，訓練完成後量化回 GGUF 部署，全流程不出資料。
  3. Mac 統一記憶體 24GB 以上用戶，透過 Ollama 直接執行 ollama run hf.co/unsloth/Qwen3.8-27B-GGUF:Q4_K_M，即可獲得接近雲端的中文與程式碼生成品質，來源為官方 README 與社區整理測試報告（來源：https://blog.csdn.net/gitblog_00412/article/details/170436341）。
• 跑得動嗎: 官方 README 標示 12 種量化檔大小（Q2_K 11 GB _{Q8_0 29.1 GB），並給出「可用記憶體 ≈ 模型大小 × 1.2}1.5」經驗法則：12GB 記憶體勉強跑 Q2_K、16GB 顯示記憶體建議 Q3_K_L 或 IQ4_XS、24GB 顯示記憶體首推 Q4_K_S/M、32GB 以上可上 Q6_K/Q8_0；Mac M 系列 24GB 以上統一記憶體可流暢跑 Q4_K_M（來源：官方 README 並參考社區整理，https://blog.csdn.net/gitblog_00412/article/details/170436341）。
• 本期聲量: HF 熱度 200，累積 610 萬次下載、5.8k 個讚，本期同家族量化／重打包版本共 6 個。
• 跟同類比: 同基礎模型的社區量化版（如 mradermacher/ggml-org 等）僅提供推論檔，Unsloth 版由官方團隊維護，獨家附贈完整 LoRA 訓練腳本與多模態 mmproj，適合想「自己訓練再部署」的工程師（來源：模型頁描述與 Unsloth 官網教學）。
• 怎麼取得: 官方建議從模型頁下載單一 .gguf 檔，配合 llama.cpp 啟動：llama-server -m Qwen3.8-27B-Q4_K_M.gguf --mmproj Qwen3.8-27B.mmproj-Q8_0.gguf -c 8192 -ngl 999；或直接用 Ollama：ollama run hf.co/unsloth/Qwen3.8-27B-GGUF:Q4_K_M（來源：模型頁 README）。
• 連結: https://huggingface.co/unsloth/Qwen3.8-27B-GGUF

2. Zyphra/ZONOS3-Mini：MoE 架構的輕量開源 TTS，16GB 顯卡跑離線中英語音合成

• 這是什麼: Zyphra 推出的第三代輕量級文字轉語音模型，採用 MoE 稀疏激活架構，參數量未公開細節但主打小模型高效能，支援中英文，格式含 GGUF 與 safetensors，授權 Apache-2.0 可商用。
• 能用在哪些場景:
  1. 後端工程師在 16GB 顯卡上以 GGUF 量化跑 Zonos3-mini，為自架客服 Bot 或語音通知系統提供零延遲、可離線的中英 TTS 服務。
  2. 內容創作者將模型部署在本地 Mac（M 系列 16GB 以上），搭配 Gradio 或 WebUI 批次把文章轉成有聲書，完全離線、無字數限制、無 API 費用。
  3. 邊緣裝置開發者（如 Jetson Orin、Raspberry Pi 5 + 16GB 記憶體）透過 llama.cpp 載入 GGUF 版，實現完全離線的語音助理原型。
• 跑得動嗎: 官方 model card 未標示具體顯存門檻；參考 Zonos2（同架構）社區實測：MoE 稀疏激活使 4-bit GGUF 約 2_{3 GB 顯存即可啟動，8-bit 約 4}5 GB，生成速度在消費級 GPU 上可達即時因子 <0.3。以上顯存與速度數據為 Zonos2 社區實測，Zonos3-mini 同架構參考，實際數值可能不同（來源：B 站評測影片 https://www.bilibili.com/video/BV1Gypt64EnQ/）。
• 本期聲量: HF 熱度 196，累積 8.5k 次下載、224 個讚。
• 跟同類比: 對比 Coqui XTTSv2、Bark、Fish Speech 等開源 TTS，Zonos 系列主打 MoE 稀疏架構，參數量小但合成速度快、語音自然度高；Zonos3-mini 是 Zyphra 針對本地部署優化的輕量版，授權更寬鬆（Apache-2.0 vs. Coqui 的 CPML），適合商用自架（來源：B 站評測者 Hewkick 對 Zonos2 的綜合評價）。
• 怎麼取得: 模型頁提供 GGUF 檔案，可用 llama.cpp 啟動：llama-server -m zonos3-mini-Q4_K_M.gguf -c 2048；或參考 Zonos2 官方 repo 的 zonos serve 指令啟動 OpenAI 相容 API（來源：模型頁 Files 頁面與 https://github.com/Zyphra/Zonos2/ README）。
• 連結: https://huggingface.co/Zyphra/ZONOS3-Mini

3. mradermacher/gemma-4-31B-it-ARA-heretic-GGUF：Gemma 4 31B 多語言指令版，繁中公文處理首選

• 這是什麼: 社區知名量化作者 mradermacher 打包的 Google Gemma 4 31B 指令微調版（ARA-heretic 版本），參數量 31B，授權 Apache-2.0，提供完整 GGUF 量化檔，針對多語言（含繁體中文）指令遵循與工具呼叫優化。
• 能用在哪些場景:
  1. 需處理繁體中文客服工單、政府公文的工程師，在 24GB 顯卡載入 Q4_K_M（約 18~19 GB），離線跑分類、摘要、結構化欄位抽取，零資料外洩風險。
  2. 多語言產品團隊在 Mac Studio 64GB 統一記憶體上部署，可載入較高精度量化（如 Q6_K 區間約 20-24 GB，依 Q4_K_M 18.1 GiB 與 Q8_0 26.6 GiB 推估），支援繁中、日文、韓文、東南亞語言的單一模型服務，簡化部署架構。
  3. 想比較指令遵循品質的開發者，對照 Qwen3.8-27B、Llama-3.1-8B-Instruct，在同硬體上跑相同基準集（如 IFEval、MT-Bench），評估 Gemma 4 在結構化輸出與工具呼叫的表現。
• 跑得動嗎: 官方 model card 未標示硬體需求；參考同量化作者對 Qwen3.6-27B-GGUF 的說明：Q4_K_M 約 18.1 GiB、Q8_0 約 26.6 GiB、BF16 約 50 GiB，建議 24GB 顯示記憶體跑 Q4_K_M、32GB 以上跑 Q8_0、Mac 統一記憶體 32GB 以上可流暢跑 Q4_K_M（來源：同作者量化邏輯類推，https://blog.csdn.net/gitblog_01081/article/details/170605107）。
• 本期聲量: HF 熱度 202，累積 96.3k 次下載、237 個讚。
• 跟同類比: 恆遠數位 2026/10 實測 16 款開源模型中，Gemma 4 31B 綜合分 93~94%、工具呼叫滿分、繁中用語表現優於多數中資模型；相較 Qwen3.8-27B，Gemma 4 在指令遵循、函式呼叫、多語言一致性上有優勢，但程式碼生成略遜於 Qwen 系（來源：https://foreverwebs.com/blog/open-source-ai-model-comparison-taiwan-benchmark）。
• 怎麼取得: 模型頁提供 GGUF 分檔下載，配合 llama.cpp：llama-server -m gemma-4-31b-it-ara-heretic-Q4_K_M.gguf -c 8192 -ngl 999；或 Ollama 自建 Modelfile FROM ./gemma-4-31b-it-ara-heretic-Q4_K_M.gguf 後 ollama create gemma4-31b-ara -f Modelfile（來源：模型頁 Files 與 llama.cpp/Ollama 通用用法）。
• 連結: https://huggingface.co/mradermacher/gemma-4-31B-it-ARA-heretic-GGUF

結尾段落

本期三款模型皆為 Apache-2.0 授權、支援 GGUF 格式、且在消費級硬體可跑，分別切中「多模態程式助手」、「離線語音合成」、「繁中公文多語言處理」三大剛需。最值得先動手的是 Unsloth 版 Qwen3.8-27B，因同時具備微調腳本與多模態能力，擴展性最高。下集我們會繼續挖掘適合塞進自己機器的開源好物，再見。