把一個 32 位元 RISC-V CPU 塞進 4B 模型權重裡，這到底是什麼黑魔法？本期介紹的 Qwen3.5-4B-Qwenputer 讓 LLM 不用沙盒就能做精確大數運算，甚至執行 C 語言。另外還有一個能本機低延遲運行的語音複製模型 maya2-native，等一下告訴你它是如何超越商業語音 API 的！
本期精選
1. divagr1925/Qwen3.5-4B-Qwenputer：在權重中跑 RISC-V CPU 的極客模型
- 這是什麼: 這是一款參數量為 4B 的特殊模型，採用 apache-2.0 授權，提供 safetensors 格式。它最狂的地方在於，作者將一個完整的 32 位元 RISC-V CPU 編譯並直接嵌入到 Qwen3.5-4B 的權重中，利用模型自身的 Gated DeltaNet 狀態作為 RAM 來運行。
- 能用在哪些場景:
- 場景一（免沙盒的精確數學運算）：當你手上有精確計算需求（例如計算 123456789 * 987654321 這種大數乘除法），但又不希望依賴外部 Python 執行環境或建立安全的沙盒（Sandbox）時，這個模型可以直接在 LLM 內部完成精確運算，避免傳統 LLM 容易算錯的問題。
- 場景二（確定性的邏輯控制）：在 LLM 的前向傳播（Forward Pass）過程中，如果你需要完全確定、不容出錯的邏輯控制，這個模型可以直接執行編譯好的 C 語言或 MicroPython 程式碼來達成。
- 場景三（跨對話的持久化檔案系統）：在進行多輪對話時，你可以利用 Gated DeltaNet 狀態作為持久化檔案系統，在多輪對話之間保存檔案狀態，並在下一輪對話中直接載入讀取，不需要額外維護外部資料庫。
- 跑得動嗎: 根據官方 README 標示，模型在 BF16 精度下的檔案大小為 18.8 GB，不過其中大部分為零填充。其 CPU 是在 Triton 執行器上運行，官方 README 指出，在 NVIDIA L4 GPU 上運行時，每秒約可跑 3,200 個 trace tokens。
- 本期聲量: 目前在 Hugging Face 上的熱度為 89，累積了 572 次下載與 89 個讚。
- 跟同類比: 作者在說明中指出，相較於無工具的 Qwen3.5-4B 基準模型，Qwenputer 在 DeepMind 數學基準測試上的得分從 55% 到 90% 大幅提升至 97.5% 到 100%；在 NUPA 測試中更達到 100% 的神級表現（基準模型僅有 48.6%）。作者表示，其表現等同於在主機端呼叫真實的 Python 解譯器，但完全是在權重內部運行。
- 怎麼取得: 官方 README 說明，可透過
git clone https://github.com/divagr18/qwenputer複製專案，並使用uv run python -m chipformer.rv.chat載入韌體與模型進行互動。 - 連結: divagr1925/Qwen3.5-4B-Qwenputer
2. maya-research/maya2-native：本地低延遲語音合成與複製神器
- 這是什麼: 這是一款由 maya-research 釋出的開源語音合成與複製模型，採用友好的 apache-2.0 授權與 safetensors 格式，主打極佳的地端運行效率。
- 能用在哪些場景:
- 場景一（本地即時語音對話系統）：如果你想在本地架設低延遲的語音代理（Voice Agent）或互動式語音應答（IVR）系統，這款模型能以 80 毫秒的音訊影格進行即時串流語音合成，提供極度流暢、無明顯頓挫感的語音互動。
- 場景二（零樣本跨語言聲音複製）：內容創作者如果想讓自己的聲音說其他語言，只需提供 3 至 10 秒乾淨的單一說話者音訊片段，就能在本地進行零樣本（Zero-shot）聲音複製，並直接用複製出的聲音朗讀其他語言的文本。
- 跑得動嗎: 官方 model card 標示，在單一連線（max_seats=1）的情況下，載入峰值記憶體約為 9.2 GB（此數值需外加 CUDA context），官方建議使用 12 GB 或更大 VRAM 的 GPU 來運行。
- 本期聲量: 目前在 Hugging Face 上的熱度為 119，累積了 1.5k 次下載與 120 個讚。
- 跟同類比: 官方 model card 引用了 VoiceArena 截至 2026 年 10 月 27 日的印地語（Hindi）即時 TTS 排行榜數據，Maya 2 Native 榮登第 2 名，超越了 Cartesia Sonic-3.5、Smallest AI Lightning 3.1 Pro 以及 xAI Grok TTS 等知名的商業與同類模型。
- 怎麼取得: 官方 README 說明，可透過
pip install "maya3[server] @ git+https://github.com/MayaResearch/maya2-native"進行安裝，並執行python -m maya3.server啟動本地的 HTTP 與 WebSocket 伺服器。 - 連結: maya-research/maya2-native
結尾段落
本期介紹的兩款地端模型，完全展現了開源社群把效能壓榨到極致的極客精神。不論是直接在 LLM 權重裡塞進 CPU 跑確定性邏輯，還是用 12 GB 顯卡就能在本機實現超低延遲的語音複製，都證明了地端應用的無限潛力。如果你手癢想體驗黑科技，強烈建議先從 Qwenputer 的專案開始動手玩玩看，我們下期見！
留言