開場白

5.2k 下載、103 個讚,HF 熱度 100:ccore/Qwen3.5-4B-GLB-3D-Coder 是一顆 4B、Apache-2.0、直接附 GGUF 的小模型,官方 model card 說它被訓練來做一件事,替用 GLB 檔的 Godot 編輯器產生遊戲素材。今天另外兩則走完全相反的路線,一個是把 763.2B 的 MoE 剪掉一半專家塞進本機,一個是 560B 總參數的純文字新架構。至於那個「剪掉一半專家」到底剪出多大的檔案,等一下告訴你。


本期精選

1. ccore/Qwen3.5-4B-GLB-3D-Coder:專門生 Three.js 場景、能按鈕匯出 GLB 的 4B 小模型

  • 來源/摘要: 由本節目的「地端模型雷達」自 Hugging Face 抓取(https://huggingface.co/ccore/Qwen3.5-4B-GLB-3D-Coder )。官方 model card 把它標為 Early preview,定位是「可匯出 GLB 的 3D 場景與素材生成」,作者同時註明訓練仍在進行中。

  • 這是什麼: 一顆 4B 的 coding 特化模型,授權 Apache-2.0,目前只以 GGUF 形式釋出(Q8_0 與 Q4_K_M)。作者在說明裡把它定位成「一個 4B 的小型 coding 模型,被訓練來產生 Three.js 場景與可匯出 GLB 的素材」。要注意的是,完整 Safetensors 權重與訓練資料集,model card 寫的是要等訓練結束才會釋出。

  • 能用在哪些場景:

    (1) 獨立遊戲開發者在 Godot 裡臨時缺素材。 你在做一個小品遊戲,場景裡還缺一棵樹、一隻雜魚怪、一塊會動的平台,美術外包還沒回來,但你今天就想把關卡的 blocking 排完。官方 model card 寫的用途就是「替使用 GLB 檔的 Godot 編輯器產生遊戲素材」。另有一則第三方描述提到,它會輸出一個帶「Export GLB」按鈕的獨立 Three.js HTML 檔,開發者按下按鈕就能把素材拉進專案。這則第三方線索來自 GitHub 上一個名為 haruspex 的專案的 issue #906,不過選題簡報只記到 issue 編號,沒有留下 repo 全名與連結,所以它的可查證度低於官方 model card,請當「他人回報」看待。

    (2) 前端/WebGL 工程師做互動場景原型。 客戶要一個產品 3D 展示頁,你想先丟三四個版本的場景草稿出來談方向,但專案內容不方便送雲端。4B + GGUF 的組合可以直接掛在本機 llama.cpp 上當場景草稿機,程式碼和需求描述都不出機器。

    (3) 想做「大模型派工給小模型」架構的人。 前面那則 haruspex 的 issue 把它當成專職特化模型的第一個使用案例,說它「太小不適合通用 coding,但這一件事做得好」。如果你正在自架 agent 工具鏈,由主模型把「生 3D 素材」這種窄任務外包給一顆 4B 常駐小模型,這是現成的素材。

  • 跑得動嗎: 官方 model card 沒有標示 VRAM 門檻,只列出可下載的量化檔:Q8_0 與 Q4_K_M 兩種 GGUF,另附一個可選的原版未修改 Qwen3.5-4B BF16 vision encoder/projector。既然官方沒寫,就只能從規格推估:4B 參數搭 Q4_K_M,體感上屬於一般筆電與消費級顯卡的射程範圍,但這是依參數量與量化格式所做的推估,不是官方標示的數字。

  • 本期聲量: HF 熱度 100,5.2k 次下載、103 個讚。在本期清單裡,它是少數「不是把別人的權重重新量化打包」的獨立微調。

  • 跟同類比: 同作者已經有一版比較成熟的 ccore/Qwen3.5-4B-3D-Coder,那一版的 model card 說訓練集是 4,146 個 Three.js 場景範例,並已公開 FP16 權重與技術報告;GLB 版則是訓練資料橫跨 25 個遊戲素材領域、主打素材匯出。另外有一筆第三方結論要先看清楚:一個名為 beemodel 的來源在其 issue #434 中判定「不行」,理由是它是 text-to-code 模型,不是 image-to-3D 模型,你丟一張參考圖進去不會得到模型。前述 haruspex 在 2026-11-01 的試跑紀錄則是:首次嘗試 15 題有 8 題產出有效 GLB,加上修復迴圈後 15/15。以上兩筆皆為他人回報,且同樣只留下 issue 編號而無 repo 全名與連結,本節目未執行驗證。

  • 怎麼取得: HF 頁面直接給 llama.cpp 指令,原文寫的是 llama serve -hf ccore/Qwen3.5-4B-GLB-3D-Coder:Q4_K_M 起一個 OpenAI 相容的本機伺服器,或 llama cli -hf ... 在終端機直接跑;同頁也列出 ollama run hf.co/ccore/Qwen3.5-4B-GLB-3D-Coder:Q4_K_M 與 Docker Model Runner 的用法。這裡提醒一下:llama.cpp 一般常見的執行檔名是 llama-server 與 llama-cli(本期第 2、3 則引用的官方指令就是這種寫法),如果你照 model card 原文貼上去找不到指令,請改成 llama-server -hf ... 再試一次。

  • 連結: https://huggingface.co/ccore/Qwen3.5-4B-GLB-3D-Coder


2. ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF:不是降位元,是直接剪掉一半專家

  • 來源/摘要: 「地端模型雷達」自 Hugging Face 抓取(https://huggingface.co/ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF )。發布者是 IST Austria 的 DASLab,這版的賣點是自己的壓縮方法論,而不是又一份重新量化的打包。

  • 這是什麼: 以 DeepSeek-V4.1-Flash-1017 為基礎、針對 coding 能力做的壓縮版 GGUF,授權 MIT。官方 model card 說這是針對特定能力做的壓縮版本,一半的 routed experts 直接被剪掉而不是量化,其餘權重沿用 IQ2_XXS 的 per-tensor 量化(2.00 bpw)。一句話講白:別人在降位元,它在砍專家。

  • 能用在哪些場景:

    (1) 有大記憶體工作站或高階 Mac 的團隊,想在內網自架 coding 助理。 公司程式碼不能外流、但又想要一個比 7B 小模型強的補完與重構助手,這類「用剪枝換到一個能離線跑的 coder」的版本就是為這種情境存在的。

    (2) 需要帶圖輸入的內部文件或 UI 稽核流程。 README 的啟動範例是 llama-server 搭配 --mmproj mmproj-DeepSeek-V4.1-Flash-1017-BF16.gguf -ngl 99,也就是官方給了視覺投影器的掛載方式。如果你要做的是「把一批內部系統的截圖丟進去,讓它比對 UI 規範或抽欄位」,又不想把畫面送出去,官方文件至少把掛載路徑寫明了。

    (3) 研究量化與剪枝的工程師做對照實驗。 同系列未剪枝的 GSQ-RCO 版本在卡片上註明基礎模型是 763.2B 參數、每層 384 個 routed experts、每個 token 啟用 6 個、1M token 上下文。兩個 repo 放在一起,就是現成的「剪一半專家對能力的影響」教材,省掉你自己訓一輪的成本。

  • 跑得動嗎: 官方未標示最低硬體,但 model card 把檔案大小寫得很清楚:基礎模型 763.2B 參數,其中 551.9B 在 transformer;IQ2_XXS 的 transformer 權重約 72.12 GB(每層保留 384 個專家中的 192 個),另外 Engram 查表檔 IQ4_NL 約 110.60 GB,且該檔未剪枝、與未剪枝版本完全相同。兩個檔案加起來就是你要準備的空間量級,這是官方列出的檔案大小,不是官方標示的 VRAM 門檻。另外同系列 GSQ-RCO 卡片註明需要 llama.cpp b11870 或更新版本,版本太舊會直接載不起來。

  • 本期聲量: HF 熱度 97,28.7k 次下載、101 個讚。本期 DeepSeek-V4.1-Flash-1017 家族刷了半張榜,但多數是純量化重打包,這版是少數有自己方法論的。

  • 跟同類比: 同一顆基礎模型的一般 GGUF 路線可以對照 mrfakename 的版本,其卡片列出 Q8_0 約 473 GiB、Q4_K_M 約 414 GiB,最小可用的 Q2_K 也要 246 GiB。DASLab 走的是剪專家而非純降位元,檔案量級差距就在這裡。另外 AtomicChat 的衍生版宣稱搭配 Strata、把 backbone 放系統記憶體、Engram 表從 SSD 串流,可在單張 12 GB GPU 上跑,但那是該 repo 作者自己的說法,而且它的量化與共用 Engram 檔本來就來自 DASLab。

  • 怎麼取得: README 的流程是用 hf download ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF 取檔,把共用的 Engram 檔以 ln -s 連成第 6 個分片,再用 llama-cli -m IQ2_XXS/...-00001-of-00006.gguf -ngl 99 或 llama-server 啟動。那個 symlink 步驟是重點,漏掉分片湊不齊。

  • 連結: https://huggingface.co/ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF


3. inclusionAI/Ling-3.1-flash-1019:560B 總參數、每 token 只啟用 25B 的混合線性 MoE

  • 來源/摘要: 「地端模型雷達」自 Hugging Face 抓取(https://huggingface.co/inclusionAI/Ling-3.1-flash-1019 )。本期少數「原廠釋出、新架構、MIT、權重直接下載」的通用大模型,不是誰的重打包。

  • 這是什麼: inclusionAI 的新一代純文字大模型,官方 model card 的架構表寫的是 Hybrid-linear MoE、總參數 560B/啟用 25B、63 層 KDA + 9 層 Gated MLA、512 個 routed experts。順帶一提參數量口徑:model card 架構表寫 560B,HF 頁面側欄則顯示 572B params,model card 沒有解釋兩者差異的來源,你在對外引用時最好註明自己用的是哪一個數字。

  • 能用在哪些場景:

    (1) 做工具呼叫 agent 的團隊在選開源底座。 官方 model card 說這次後訓練強化的是科學與真實世界的 agentic 能力,列出 AA-Briefcase 由 1397 升到 1524、AutomationBench-AA 由 62% 升到 68%。如果你正在比較自架 agent 後端的候選清單,這是官方給的評估起點(數字為官方自述)。

    (2) 需要長文件或長流程分析的內部系統。 Vercel AI Gateway 的說明頁寫的是 560B 總參數、每 token 啟用 25B,1M token 上下文支援長文件分析與長流程 agent 工作。講具體一點:法遵部門整份規章加附件、或是整個 repo 的全庫問答,如果你的文件本來就常被 chunk 切壞語意,1M 上下文至少讓你有「不切」這個選項,實際品質本節目沒有驗證。

    (3) 想先免費試水溫再決定要不要自架的人。 Vercel AI Gateway 把它列為免費價格,而同系列 Ling 3.1 Flash 在多家供應商也有 $0.00 的 free 路由。先用 API 把任務可行性驗完,再回頭評估要不要把 MIT 權重拉回地端,順序比較不會燒錢。

  • 跑得動嗎: 官方 model card 未標示硬體門檻,只給了架構表。以下兩個數字請先看清楚身分,一個來自官方 FP8 release 的檔案大小、一個是第三方對「上一代」的估算,兩者都不是 1019 版的官方硬體門檻:EXL3 量化者 vcruz305 在卡片上列出 inclusionAI 官方 FP8 release 約 534.35 GiB;benchlm.ai 則是針對「上一代」Ling 3.1 Flash 估約 640GB VRAM、8× H100。結論是消費級機器基本無緣,它屬於本節目「知道它存在、知道架構長怎樣」的那一格。

  • 本期聲量: HF 熱度 90,2.3k 次下載、94 個讚。下載數明顯低於前兩則,合理,畢竟能自架的人不多。

  • 跟同類比: 跟本期洗榜的 DeepSeek-V4.1-Flash-1017 相比,後者被 unsloth 的卡片描述為 DeepSeek-V4.1-Flash 的小幅更新,在推論、程式、agentic 與視覺基準上有提升且具視覺能力;Ling-3.1-flash-1019 則是純文字、走混合線性注意力路線。inclusionAI 官方在 X 上說它在 Artificial Analysis Intelligence Index 由 41 升到 44,這是官方自述數字。

  • 怎麼取得: HF 上直接提供可下載的 safetensors 權重,頁面標示 572B params、張量型別 BF16 / F8_E4M3 / F32,並帶 bailing_hybrid 與 custom_code 標籤,代表載入時需要信任 repo 內的程式碼。benchlm.ai 另指出,同系列前一版的公開 FP8 權重是 MIT 授權並附 SGLang 與 vLLM 的服務說明。

  • 連結: https://huggingface.co/inclusionAI/Ling-3.1-flash-1019


結尾段落

今天三則剛好把 2026 年底地端生態的光譜拉滿:一端是 4B、Apache-2.0、下載完就能在筆電上玩的窄任務特化模型,另一端是 763.2B 剪一半專家、以及 560B 混合線性 MoE 這種「要嘛有工作站、要嘛先用免費 API」的大傢伙。如果你週末只想動一個,我會推 ccore/Qwen3.5-4B-GLB-3D-Coder,門檻最低、用途最明確,而且它示範了「小模型只做好一件事」這個值得被更多人抄的設計思路。照例提醒,本集所有功能與效能敘述都引述自官方 model card 或他人回報,本節目未實際執行這些模型。我們明天見。

作者

Mark Ku

10 年以上的軟體工程師,做過北美電商與 AI SaaS 訂閱收費系統。閱讀更多

覺得這篇有幫助?

作者做的免費工具、每日 Podcast 與電子報,都在這裡。

Mark Ku · 本文採用 CC BY 4.0 授權,轉載請註明作者並附上原文連結。

留言

訂閱電子報

訂閱後即時收到新文章通知,不錯過任何技術分享。

提交即表示同意接收電子報,隨時可。

熱門文章

View all
Mark Ku
··633

Oracle Cloud 永久免費方案 Linux 主機及固定 IP :0 元打造雲端解決方案

Oracle Cloud 永久免費方案 Linux 主機及固定 IP :0 元打造雲端解決方案
Mark Ku
··464

告別 Postman 收費陷阱!開源 Git 原生 API 測試神器 Bruno 實戰指南

告別 Postman 收費陷阱!開源 Git 原生 API 測試神器 Bruno 實戰指南
Mark Ku
··249

一款免費開源類似於 Notion 類知識庫系統 — Outline Wiki 佈署與備份全攻略

一款免費開源類似於 Notion 類知識庫系統 — Outline Wiki 佈署與備份全攻略
Mark Ku
··205

打造高效 API 管理平台:從 0 開始部署 Kong Gateway - Part 1

打造高效 API 管理平台:從 0 開始部署 Kong Gateway - Part 1
Mark Ku
··202

在 Ubuntu 上設置 Samba 來共享資料夾,讓 Windows 11 用戶可以存取

在 Ubuntu 上設置 Samba 來共享資料夾,讓 Windows 11 用戶可以存取
Mark Ku
··198

訓練自己的 AI 語音:硬體門檻、開源模型比較與 LoRA 微調

訓練自己的 AI 語音:硬體門檻、開源模型比較與 LoRA 微調