開場白
一個 27B 的社群微調,Hugging Face 上累積 1.5M 次下載、2.6k 個讚,作者還直接在 model card 上給你 llama.cpp 跟 Ollama 的一行指令,這就是今天第一個要聊的 DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF。另外兩個選題,一個是只改了兩個張量、完全沒訓練的 0.8B 小模型,另一個是 ComfyUI 玩家的影片生成 turbo LoRA 整理包,至於那個「沒訓練也能大幅改變行為」的故事到底怎麼回事,等一下告訴你。
先講清楚:本節目沒有實際執行這些模型,以下所有功能、效能、硬體敘述一律引述官方 model card 與頁面說明。
本期精選
1. DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF:為消費級硬體打包好的 27B GGUF
-
這是什麼: 名字長到像在報身分證字號,但拆開看其實很清楚。這是以 Qwen/Qwen3.8-27B 為基底的多階段社群微調,作者在 model card 裡自稱是「for consumer hardware」而做,並說是用 Unsloth 在消費級硬體上訓練出來的;repo 直接提供 GGUF,27B 參數,授權 apache-2.0。model card 也說明這是一個 de-censored(heretic)版本,Features 清單另外列出 Vision。
-
能用在哪些場景:
- 想在自己工作站跑本地 coding agent:你已經有一張還可以的卡,想用 llama.cpp 開一個 OpenAI 相容 server,再接 Pi 或 OpenClaw 這種 CLI agent 來改自己的 repo。model card 的 TOOL CALLING 段落講得很具體,建議量化至少 q4km,q5ks/q5km 更好,最推薦 Q6,並且明講低於 q4km 工具呼叫可能會出問題。這種「幾號量化會壞掉」的資訊,在多數 model card 上其實很少見。
- 受不了 reasoning 模型一直空轉的人:作者在說明裡寫,這版之所以叫 TURBO,是因為把 thinking token 壓到原本的 1/2 到 1/10,而且 xhigh/medium/low 三種推論模式都適用。如果你的使用情境是本機多輪 refine,一句 prompt 改一點、再改一點,每輪都要先看一大坨思考區塊確實很磨人,這個取向值得留意。
- 需要不被拒答的寫作或劇情草稿:model card 說這是 de-censored 版本,頁面上放了五段創作示範。拿來寫小說草稿、遊戲劇情分支、不想一直被安全政策擋下來的那種素材生成,是作者自己標示的定位。另外因為 Features 有列 Vision,圖片問答也在它宣稱的能力範圍內。
-
跑得動嗎: 官方沒有標示具體 VRAM 數字,model card 只寫這是為消費級硬體打造、用 Unsloth 在消費級硬體上建構。它給的是量化面的建議值:工具呼叫最低 q4km、建議 Q6,取樣建議 Temp 0.6 或 0.7、Rep pen 設 1(也就是關閉)。我自己的判斷是,27B 在 q4km 這個等級,你大致要準備得起「模型檔案本身搬得進記憶體」的空間,這是從參數量與量化格式推得的常識性推估,不是官方數字,請以你實際下載下來的檔案大小為準。
-
本期聲量: HF 熱度 250,1.5M 次下載、2.6k 個讚,是本期聲量最高的一個。本期在 Hugging Face 上,同家族的量化或重打包版本有 5 個。
-
跟同類比: 以下都是作者單方宣稱:他說這個模型在 7 項核心 benchmark 上都超過 base Qwen 3.8 27B,也超過 Qwen3.6-35B-A3B、Qwen 3.6 27B 與 Qwen 3.5 27B,並宣稱是同尺寸第一個 8-bit ARC-C 達 735、4-bit 達 719 的微調。他自己也註明,如果硬體吃不下,同系列的 Qwen3.5-9B-The-Defiant-Fable 是比較小的替代,但不如這一版強。頁面請讀者到 community 分頁看第三方 benchmark,這點我覺得滿誠實的,要信數字之前先去那邊翻一翻。
-
怎麼取得: HF 頁面的 Local Apps 區塊直接給指令,llama.cpp 用
llama serve -hf DavidAU/Qwen3.8-27B-TURBO-...-MTP-GGUF:Q4_K_M起一個本地 OpenAI 相容 server,或是ollama run hf.co/DavidAU/Qwen3.8-27B-TURBO-...-MTP-GGUF:Q4_K_M。同一個 repo 內同時收錄 regular 與 MTP 兩種 NEO-CODER MAX 雙 imatrix 量化。
2. ML-Intern-lab/Qwen3.5-0.8B-weight-space-programming:只改兩個張量、完全沒訓練的對照組
-
這是什麼: 0.8B 參數、BF16 safetensors、Apache-2.0。重點不在分數,在題材。model card 說這是「Sparks of Weight Space Programming」實驗 8 當中原本沒有釋出的那個 checkpoint,由一個前沿 LLM 直接手改 131,072 個權重,完全沒有做任何訓練。更關鍵的是作者註明:相對於公開 base(Qwen/Qwen3.5-0.8B,有指定 commit),只有 layers.15 與 layers.19 的
mlp.down_proj.weight這兩個張量不同。 -
能用在哪些場景:
- 讀書會或內部分享的教學素材:你要跟團隊解釋「權重編輯」跟「微調」到底差在哪,光講很抽象。model card 說 base 模型在幾乎每題數學題都會迴圈輸出到 token 上限、改過的不會,而且附了一個 Space demo,可以同時看 base 跟編輯版跑同一題。投影片放那個 demo,比你講十分鐘有感。
- 做可解釋性或模型修復研究:只有兩個張量不同,等於拿到一份超乾淨的對照組,可以直接 diff 權重,研究 repetition 或 loop 這種病理到底跟哪些參數有關。這種「變因只有兩個」的素材其實不好找。
- 想在小模型上重現評測流程:model card 把評測協定寫得很完整,vLLM、thinking 開啟、temperature 0.6、top_p 0.95、top_k 20、presence_penalty 1.5、最多 32,768 new tokens、seed 0,最後一個
\boxed{}用 math-verify 0.9.0 判分,raw 分數與逐題結果放在 repo 的 eval/ 目錄。你想練習建一套自己的評測 pipeline,照著它重跑是個很低成本的起點。
-
跑得動嗎: 官方未標示消費級硬體門檻,model card 只提到驗證用的環境是 NVIDIA H200 搭 vLLM 0.33.0 與 transformers 5.20.2,另外說權重重建與 hash 驗證是在 CPU 上完成的。檔案面是 0.9B 參數、BF16 safetensors。以這個參數量與精度推估,權重體積大概落在 2GB 這個等級,一般筆電或消費級顯卡搬得動,不過要提醒一句,這是我從參數量與格式推算的,官方沒有給任何消費級硬體的數字。
-
本期聲量: HF 熱度 64,538 次下載、64 個讚。數字不大,但以這種實驗性質的 checkpoint 來說,讚數跟下載數的比例其實滿有趣的。
-
跟同類比: 跟 base 的 Qwen3.5-0.8B 相比,model card 自己列的表格是 MATH-500 準確率 5.0%(25 題 smoke,原文寫 7.9)對上本 checkpoint 的 51.0%(原文 48.1),截斷率從 95% 降到 31.6%。作者並說明這份 checkpoint 是用原作者的
apply_edit.py重建、每個張量都做過 sha256 比對。這些都是 model card 上的說法。 -
怎麼取得: model card 的 Usage 直接給 vLLM 範例,
LLM(model=ckpt, dtype="bfloat16", max_model_len=34816),搭配 tokenizer 的 chat template(enable_thinking=True);HF 頁面另外提供 transformers pipeline 與vllm serve的一行指令。 -
連結: https://huggingface.co/ML-Intern-lab/Qwen3.5-0.8B-weight-space-programming
3. Minimax H3 Turbo LoRas:把各家 turbo LoRA 做成 ComfyUI 載得進去的相容版
-
這是什麼: 本期唯一的 adapter 類選題,放在 Civitai 上。底模是 MiniMax H3,格式是 BF16 SafeTensor,單檔 591.55 MB,另外有一個 23.97 KB 的
MiniMax_H3.json選用檔。值得先講清楚定位:上傳者自己寫明沒有訓練或蒸餾原始 turbo 權重,這頁提供的是 modified compatibility 版本,目的是讓那些原本載不進去的 LoRA,在使用 pruned 或 curve-form 模型時能被 ComfyUI 內建的 LoRA loader 讀取。 -
能用在哪些場景:
- 想把 MiniMax H3 的影片生成步數壓低:頁面逐一列出各版本的建議參數,例如
larryvrh_v4_600_ema是 6 到 8 steps、sampler 用 er_sde 或 res_multistep、scheduler simple、Strength 1.0;dmad 版則是 er_sde 或 euler,Video/Audio Shift 給 12/2。你手上已經有一條能跑的 workflow,只是每次出片等太久,這類 turbo LoRA 就是典型的解法。 - 想橫向比較不同來源的 turbo LoRA:同一頁收了 lightx2v、larryvrh、DMAD、taomate_fl2va、pika 等多個來源,共 7 個 variants。對想認真調品質的人來說,能在同一個 base 上換 LoRA 比畫面跟音訊,省掉自己到處撿檔案的工。
- 卡在相容性問題的人:如果你曾經下載過某個 turbo LoRA、丟進 ComfyUI 卻載不起來,這頁存在的理由就是解這件事,頁面註明 ComfyUI 相容化是標註 drbaph 與 kijai 的版本。
- 想把 MiniMax H3 的影片生成步數壓低:頁面逐一列出各版本的建議參數,例如
-
跑得動嗎: 官方沒有標示 VRAM 或顯卡門檻,頁面只給得出檔案規格與步數、sampler 建議。授權這塊要特別看一下,頁面載明 MiniMax H3 Community License Agreement 的授權範圍排除歐盟、英國、南韓與美國;Civitai 條款那邊則是二創允許、商用標示為 Image/RentCivit/Rent/Sell/SellMerge。如果你的案子有跨境或商用考量,這段請自己去頁面確認原文,不要聽我轉述就下決定。
-
本期聲量: Civitai 本週榜 54.2k 次下載,評價為 Overwhelmingly Positive,共 969 則。
-
跟同類比: 上傳者自己的評語是,
dmad_minimax_h3_4step_full_critic_comfyui的影像與 larryvrh v4 相當,但他個人覺得音訊品質更好。原始權重分別來自 larryvrh、lightx2v 團隊、TaoLiveAIGC、Bytedance 與 Texas A&M 學生的 DMAD 專案、Pika-Labs。再強調一次,這頁的定位是整合與相容性,不是原創訓練。 -
怎麼取得: 直接在 Civitai 頁面選版本下載 .safetensors,7 個 variants,預設 best match 是
minimax_h3_turbo_v4_step600_pruned_comfyui.safetensors,放進 ComfyUI 的 LoRA 目錄後用內建 LoRA loader 載入。頁面註明所有示範圖都是以 strength 1.0 產生的。
結尾段落
今天這三個東西,共同點是作者都把「怎麼在你自己的機器上接起來」寫在最前面:27B 給你一行 llama.cpp 指令跟明確的量化下限、0.8B 給你完整的評測協定與 eval 目錄、LoRA 給你每個版本的 steps 跟 sampler。這在開源生態裡其實不是常態,值得多看兩眼。如果你今天只想動一個,我會建議先抓那個 0.8B 的 weight-space-programming checkpoint,它最輕、下載最快,而且那個「兩個張量、零訓練」的故事,自己看一次 demo 的衝擊比聽我講有效得多。我們下集見。


























留言