商業機密程式碼不敢送上雲端，又想要有超快 Coding Agent 幫忙寫測試嗎？本期介紹在 M4 Pro 跑出每秒 125 tokens 的 39.8B 離線程式碼模型 RecursiveSI/flint，還有專精 Three.js 的輕量 ccore/Qwen3.5-4B-3D-Coder 與生醫專用 Carbon-X，哪款最適合你的地端？等一下告訴你！
本期精選
1. RecursiveSI/flint：專為地端設計的 39.8B MoE 離線 Coding Agent 模型
- 這是什麼: 官方 README 顯示，這是一款專為本地硬體優化、採 Apache 2.0 開源授權的 39.8B 混合專家（MoE）程式碼生成模型。它在無商業限制的前提下，提供極高的推論速度，特別適合需要「資料不落地」的開發團隊。
- 能用在哪些場景:
- 離線環境的 Coding Agent：軟體工程師在飛機上、地下室或無網路的封閉離線環境下，需要一個能快速分析本地專案、自動修復 Bug 並撰寫單元測試的 AI 助手。
- 敏感商業機密開發：企業開發團隊在處理涉及核心商業機密的程式碼時，為了確保智慧財產權與資安，需要完全在本地端運作的 AI 助手，避免程式碼外流至第三方 API。
- 個人開發者的低延遲開發：個人工程師在 MacBook 或消費級顯卡上，想要一個能快速生成程式碼、支援工具調用（Tool Calling）且反應時間極短的智慧助理。
- 跑得動嗎: 官方 README 指出，BF16 完整權重大小約為 80 GB，可運行於單張 B300 或 H200 GPU。不過針對本地端硬體，官方測試顯示在 M4 Pro MacBook Pro 上可達每秒 125 個 token 以上，在 64GB NVIDIA RTX Spark 上更可達每秒 150 個 token 以上。另外官方也提供了 NVFP4 量化版本，更適合消費級硬體部署。
- 本期聲量: 截至目前，這款模型在 Hugging Face 上的熱度為 886，已累積 8.5k 次下載與 926 個讚。此外，本期在 Hugging Face 上同家族的量化或重打包版本也已經出現了 2 個，可見社群對其關注度正迅速升溫。
- 跟同類比: 官方指出，相較於其他 30B 到 40B 級別的模型，Flint 是專為「本地硬體、離線運作、資料不落地」的 Coding Agent 設計，在 Terminal-Bench 2.1 取得 54.9%、SWE-bench Pro v2 取得 89.7% 的優異成績。
- 怎麼取得: 根據官方 README 說明，開發者可以使用
huggingface_hub下載RecursiveSI/flint權重，並透過官方提供的 Docker 與 SGLang 服務套件進行部署，或使用 vLLM 載入並啟用glm47解析器。 - 連結: RecursiveSI/flint
2. ccore/Qwen3.5-4B-3D-Coder：專精 Three.js 互動 3D 場景生成的 4B 超輕量模型
- 這是什麼: 這是一款僅有 40 億參數（4B）的超輕量模型，由 CCORE 基於 Qwen3.5-4B 進行獨立微調的實驗性版本。它採用 Apache 2.0 授權，專門用來生成可在瀏覽器中直接運行的 3D 互動程式碼。
- 能用在哪些場景:
- 快速開發 3D 網頁元件：前端網頁工程師在開發網頁時，想要快速生成一個包含 3D 互動場景（例如旋轉的雷達管制塔或 3D 櫻花庭園）的 Three.js HTML/JS 程式碼，不需從頭手寫。
- 3D 體素風格場景迭代：獨立遊戲開發者或網頁設計師，想在一般筆電上透過簡單的文字描述，快速迭代並預覽 3D 體素（Voxel）風格的場景模型。
- 地端輕量級 Agent 實驗：開發者想在本地使用輕量級 Agent 框架（如 Hermes Agent 或 OpenClaw）來自動化生成 3D 網頁元件，完全不需調用昂貴且有次數限制的雲端 API。
- 跑得動嗎: 由於是 4B 參數模型，硬體門檻非常親民。官方 README 提供了
Q4_K_M量化版本的 llama.cpp 部署說明，一般消費級電腦或筆電、Mac 都能流暢運行，非常適合個人開發者隨手部署。 - 本期聲量: 目前在 Hugging Face 上的熱度為 113，擁有 1.3k 次下載與 115 個讚，對於小眾專精的模型來說相當受歡迎。
- 跟同類比: 官方指出，相較於 Qwen3.5-4B 通用模型，此微調版本特別針對 Three.js 互動式 3D 場景生成進行了深度優化，能直接輸出包含 cdnjs 引用、可直接在瀏覽器運行的單一 HTML 檔案，省去繁瑣的套件打包過程。
- 怎麼取得: 官方 README 說明，可使用
llama.cpp載入ccore/Qwen3.5-4B-3D-Coder:Q4_K_M，透過指令llama serve -hf ccore/Qwen3.5-4B-3D-Coder:Q4_K_M啟動本地與 OpenAI 相容的伺服器。 - 連結: ccore/Qwen3.5-4B-3D-Coder
3. HuggingFaceBio/Carbon-X：專為 DNA 序列理解與生成設計的 14.8B 生物資訊模型
- 這是什麼: 這是一款專門用來處理 DNA 序列理解與生成的 14.8B 參數模型，採用 Apache 2.0 授權。它能同時理解 DNA 序列與自然語言，是生醫領域與資訊工程跨界結合的強大開源工具。
- 能用在哪些場景:
- 本地端敏感基因序列分析：生物資訊工程師或研究人員在分析敏感的患者基因序列時，需要預測特定 DNA 突變（Variant）是良性還是致病性（Pathogenic），並且要求資料完全不落地以符合醫療法規。
- DNA 與自然語言雙向對話：生醫領域的開發者需要一個能同時理解 DNA 序列與人類語言的 AI，能在對話中直接輸入原始 DNA 序列，並讓 AI 用英文解釋其生物學功能或預測下一個鹼基。
- 跑得動嗎: 官方 model card 標示，其 BF16 權重大小約 25 GB，可裝載於單張 80 GB GPU（如 H100 或 H200）上運行。而根據 LLM Explorer 標示，其所需 VRAM 約為 29.7 GB。為了降低本地部署的門檻，官方也提供了 GGUF 量化版本，讓開發者在消費級硬體上更容易跑起來。
- 本期聲量: 目前在 Hugging Face 上的熱度為 201，已累積 1.1k 次下載與 210 個讚。
- 跟同類比: 官方指出，相較於基準模型 Qwen3-14B，Carbon-X 在 5 個 DNA 理解與生成基準測試中平均得分提升了 27 個百分點。官方更指出其平均表現接近 GPT-6.1 Sol，但推論成本僅為其 1/1800。
- 怎麼取得: 根據官方 README 說明，開發者可透過 Transformers 載入
HuggingFaceBio/Carbon-X。特別注意，由於它使用了自定義的混合 DNA 分詞器（Tokenizer），載入時必須指定trust_remote_code=True，另外也可以使用 vLLM 進行服務部署。 - 連結: HuggingFaceBio/Carbon-X
結尾段落
從今天的選題可以看出，地端模型正朝向「極度專精」與「硬體極致優化」兩個方向發展。不論是專為 Mac M4 優化的 Flint，還是專攻 3D 前端與 DNA 序列的小模型，都展現出地端部署的強大潛力。如果你手邊剛好有 M4 晶片或消費級顯卡，不妨先從最輕巧的 3D-Coder 開始玩起，體驗一下地端 AI 的魅力。我們下期地端 AI 實驗室再見！
留言