開場白

2026年11月16日的地端模型雷達挖到一個狠角色:tiny-voca只有18.2MB,官方說在CPU上能跑到70倍實時,完全不用GPU。另一個主角是12B參數的FLUX.1-schnell,用Apache-2.0授權開放商用與LoRA訓練,等一下告訴你這兩個該怎麼挑著用。

本期精選

1. tiny-voca:小到可以直接塞進 repo 的語音模型

  • 這是什麼:n4ze3m/tiny-voca 是一個文字轉語音(TTS)模型,只有4.5M參數,權重檔案極小,授權是Apache-2.0,個人與商業用途都不受限。對比動輒幾百MB起跳的TTS模型,這顆算是異類的輕量級。

  • 能用在哪些場景:

    • 手上在做瀏覽器端小工具或Edge/IoT裝置,想加語音回饋功能,但又不想因為掛一台GPU伺服器而讓整個部署變複雜,這個模型小到可以直接嵌進repo裡一起打包出貨,而且授權是Apache-2.0,不用擔心商用卡關。
    • 自己做Side Project想加個英文語音提醒或播報功能,例如計時器唸出「time's up」或小機器人回話,用一個不到20MB、不需要跑在雲端的模型就能解決,不用為了一個小功能額外租GPU機器。
    • 要比較市面上不同TTS模型的品質時,手邊需要一個輕量baseline,這顆因為有公開可查的WER排名,拿來當對照組比自己隨便找的小模型有說服力。
  • 跑得動嗎:官方model card標示「在四個CPU執行緒上大約能跑到70倍實時」(原文:runs about 70x faster than real time on four CPU threads),不需要GPU;模型檔案僅18.2MB(PyTorch格式)或21.4MB(ONNX格式),可用格式還包含gguf,不管是要跑PyTorch、ONNX Runtime還是其他輕量推論環境,都有對應格式可選。

  • 本期聲量:HF熱度135,860次下載,143個讚。數字不算驚人,但對一個發布不久、4.5M參數的小模型來說,已經有一群人在用。

  • 跟同類比:根據Open TTS Leaderboard(2026年11月)的測試,tiny-voca的M2聲音「目前在平均WER排名第8」,F2聲音「排名第13」。在4.5M參數這個量級的模型裡,少見有公開第三方評測排名可查證,而不是模型自己說自己好。

  • 怎麼取得:官方提供安裝指令 pip install git+https://github.com/n4ze3m/dizione git+https://github.com/n4ze3m/tiny-voca,之後執行 python -m tiny_voca.infer --checkpoint tiny-voca/tiny-voca.pt --voice F2 --text "Hello" 就能生成語音;也有ONNX版本可用onnxruntime載入。

  • 連結:huggingface.co/n4ze3m/tiny-voca

2. FLUX.1-schnell:免授權煩惱的生圖與LoRA訓練基底

  • 這是什麼:black-forest-labs/FLUX.1-schnell 是一個12B參數的修正流變換器(rectified flow transformer)生圖模型,用Apache-2.0授權開放。官方說明這是用潛在對抗擴散蒸餾(latent adversarial diffusion distillation)訓練而成,能在1到4個推論步驟內生成圖像,比傳統diffusion模型動輒20到50步快上不少。

  • 能用在哪些場景:

    • 想在自己機器上架生圖服務,不管是用本機ComfyUI還是自己寫pipeline,又不想因為授權條款被卡住,Apache-2.0的schnell版本個人跟商業用途都不受限,直接拿來當底層模型用。
    • 想練自己的風格LoRA,例如公司品牌視覺或特定插畫風格,FLUX.1-schnell是目前社群最常拿來訓練LoRA的免費基底之一,找現成的訓練教學和社群資源相對容易。
    • 需要快速出圖原型,例如在設計評審前先丟幾張概念圖給同事參考,不想等傳統diffusion模型跑完整套步驟,官方範例只要設定 num_inference_steps=4 就能出圖,等待時間短很多。
  • 跑得動嗎:官方model card並未標示明確的VRAM門檻,但Diffusers官方範例提供 enable_model_cpu_offload() 選項,讓使用者「透過將模型卸載到CPU來節省VRAM」,可以推測官方也預期這顆會在資源有限的環境下被使用,但具體要多少顯示記憶體才跑得順,官方沒有寫清楚。可用格式是safetensors。

  • 本期聲量:HF熱度55,280.1k次下載,6.8k個讚。下載量在這批選題裡算是數字很扎實的一個。

  • 跟同類比:官方說明這顆是用潛在對抗擴散蒸餾訓練而成,能在1到4個推論步驟內生成圖像,model card自述效能「達到閉源替代方案的性能」等級,但沒有直接列出跟FLUX.1-dev或SDXL的benchmark數字對比,所以這部分只能參考官方的文字描述,沒有量化的對照表。

  • 怎麼取得:官方範例用Diffusers載入:from diffusers import FluxPipeline 搭配 FluxPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", torch_dtype=torch.bfloat16),呼叫時帶 num_inference_steps=4, guidance_scale=0.0 就能生圖。

  • 連結:huggingface.co/black-forest-labs/FLUX.1-schnell

結尾段落

這集兩個選題剛好站在地端生態的兩端:tiny-voca用極小體積證明語音模型不一定要吃GPU,FLUX.1-schnell則是用寬鬆授權讓生圖與LoRA訓練不被卡關。如果你手上只有一台沒GPU的筆電,tiny-voca可以先試;如果你有張顯卡又想練自己的風格LoRA,FLUX.1-schnell值得列入候選名單。明天同一時間,我們繼續在地端模型堆裡挖寶,下集見。

作者

Mark Ku

10 年以上的軟體工程師,做過北美電商與 AI SaaS 訂閱收費系統。閱讀更多

覺得這篇有幫助?

作者做的免費工具、每日 Podcast 與電子報,都在這裡。

Mark Ku · 本文採用 CC BY 4.0 授權,轉載請註明作者並附上原文連結。

留言

訂閱電子報

訂閱後即時收到新文章通知,不錯過任何技術分享。

提交即表示同意接收電子報,隨時可。

熱門文章

View all
Mark Ku
··633

Oracle Cloud 永久免費方案 Linux 主機及固定 IP :0 元打造雲端解決方案

Oracle Cloud 永久免費方案 Linux 主機及固定 IP :0 元打造雲端解決方案
Mark Ku
··464

告別 Postman 收費陷阱!開源 Git 原生 API 測試神器 Bruno 實戰指南

告別 Postman 收費陷阱!開源 Git 原生 API 測試神器 Bruno 實戰指南
Mark Ku
··249

一款免費開源類似於 Notion 類知識庫系統 — Outline Wiki 佈署與備份全攻略

一款免費開源類似於 Notion 類知識庫系統 — Outline Wiki 佈署與備份全攻略
Mark Ku
··205

打造高效 API 管理平台:從 0 開始部署 Kong Gateway - Part 1

打造高效 API 管理平台:從 0 開始部署 Kong Gateway - Part 1
Mark Ku
··202

在 Ubuntu 上設置 Samba 來共享資料夾,讓 Windows 11 用戶可以存取

在 Ubuntu 上設置 Samba 來共享資料夾,讓 Windows 11 用戶可以存取
Mark Ku
··198

訓練自己的 AI 語音:硬體門檻、開源模型比較與 LoRA 微調

訓練自己的 AI 語音:硬體門檻、開源模型比較與 LoRA 微調