開場白
2026年11月16日的地端模型雷達挖到一個狠角色:tiny-voca只有18.2MB,官方說在CPU上能跑到70倍實時,完全不用GPU。另一個主角是12B參數的FLUX.1-schnell,用Apache-2.0授權開放商用與LoRA訓練,等一下告訴你這兩個該怎麼挑著用。
本期精選
1. tiny-voca:小到可以直接塞進 repo 的語音模型
-
這是什麼:n4ze3m/tiny-voca 是一個文字轉語音(TTS)模型,只有4.5M參數,權重檔案極小,授權是Apache-2.0,個人與商業用途都不受限。對比動輒幾百MB起跳的TTS模型,這顆算是異類的輕量級。
-
能用在哪些場景:
- 手上在做瀏覽器端小工具或Edge/IoT裝置,想加語音回饋功能,但又不想因為掛一台GPU伺服器而讓整個部署變複雜,這個模型小到可以直接嵌進repo裡一起打包出貨,而且授權是Apache-2.0,不用擔心商用卡關。
- 自己做Side Project想加個英文語音提醒或播報功能,例如計時器唸出「time's up」或小機器人回話,用一個不到20MB、不需要跑在雲端的模型就能解決,不用為了一個小功能額外租GPU機器。
- 要比較市面上不同TTS模型的品質時,手邊需要一個輕量baseline,這顆因為有公開可查的WER排名,拿來當對照組比自己隨便找的小模型有說服力。
-
跑得動嗎:官方model card標示「在四個CPU執行緒上大約能跑到70倍實時」(原文:runs about 70x faster than real time on four CPU threads),不需要GPU;模型檔案僅18.2MB(PyTorch格式)或21.4MB(ONNX格式),可用格式還包含gguf,不管是要跑PyTorch、ONNX Runtime還是其他輕量推論環境,都有對應格式可選。
-
本期聲量:HF熱度135,860次下載,143個讚。數字不算驚人,但對一個發布不久、4.5M參數的小模型來說,已經有一群人在用。
-
跟同類比:根據Open TTS Leaderboard(2026年11月)的測試,tiny-voca的M2聲音「目前在平均WER排名第8」,F2聲音「排名第13」。在4.5M參數這個量級的模型裡,少見有公開第三方評測排名可查證,而不是模型自己說自己好。
-
怎麼取得:官方提供安裝指令
pip install git+https://github.com/n4ze3m/dizione git+https://github.com/n4ze3m/tiny-voca,之後執行python -m tiny_voca.infer --checkpoint tiny-voca/tiny-voca.pt --voice F2 --text "Hello"就能生成語音;也有ONNX版本可用onnxruntime載入。
2. FLUX.1-schnell:免授權煩惱的生圖與LoRA訓練基底
-
這是什麼:black-forest-labs/FLUX.1-schnell 是一個12B參數的修正流變換器(rectified flow transformer)生圖模型,用Apache-2.0授權開放。官方說明這是用潛在對抗擴散蒸餾(latent adversarial diffusion distillation)訓練而成,能在1到4個推論步驟內生成圖像,比傳統diffusion模型動輒20到50步快上不少。
-
能用在哪些場景:
- 想在自己機器上架生圖服務,不管是用本機ComfyUI還是自己寫pipeline,又不想因為授權條款被卡住,Apache-2.0的schnell版本個人跟商業用途都不受限,直接拿來當底層模型用。
- 想練自己的風格LoRA,例如公司品牌視覺或特定插畫風格,FLUX.1-schnell是目前社群最常拿來訓練LoRA的免費基底之一,找現成的訓練教學和社群資源相對容易。
- 需要快速出圖原型,例如在設計評審前先丟幾張概念圖給同事參考,不想等傳統diffusion模型跑完整套步驟,官方範例只要設定
num_inference_steps=4就能出圖,等待時間短很多。
-
跑得動嗎:官方model card並未標示明確的VRAM門檻,但Diffusers官方範例提供
enable_model_cpu_offload()選項,讓使用者「透過將模型卸載到CPU來節省VRAM」,可以推測官方也預期這顆會在資源有限的環境下被使用,但具體要多少顯示記憶體才跑得順,官方沒有寫清楚。可用格式是safetensors。 -
本期聲量:HF熱度55,280.1k次下載,6.8k個讚。下載量在這批選題裡算是數字很扎實的一個。
-
跟同類比:官方說明這顆是用潛在對抗擴散蒸餾訓練而成,能在1到4個推論步驟內生成圖像,model card自述效能「達到閉源替代方案的性能」等級,但沒有直接列出跟FLUX.1-dev或SDXL的benchmark數字對比,所以這部分只能參考官方的文字描述,沒有量化的對照表。
-
怎麼取得:官方範例用Diffusers載入:
from diffusers import FluxPipeline搭配FluxPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", torch_dtype=torch.bfloat16),呼叫時帶num_inference_steps=4, guidance_scale=0.0就能生圖。
結尾段落
這集兩個選題剛好站在地端生態的兩端:tiny-voca用極小體積證明語音模型不一定要吃GPU,FLUX.1-schnell則是用寬鬆授權讓生圖與LoRA訓練不被卡關。如果你手上只有一台沒GPU的筆電,tiny-voca可以先試;如果你有張顯卡又想練自己的風格LoRA,FLUX.1-schnell值得列入候選名單。明天同一時間,我們繼續在地端模型堆裡挖寶,下集見。


























留言