Hugging Face 最近出現一款 1.3B 參數量的 MiniCPM-OCR-1.0,能讓筆電在地端秒讀複雜發票與 PDF。本期還要介紹在單張 RTX 4090 就能跑的 35B MoE 代理模型 Sage-A1.5,它如何幫你自動拆解工程需求並自我修正程式碼?等一下告訴你!這兩款主打地端、免費且採 Apache 2.0 授權的開源神兵,絕對是工程師不可錯過的利器。
本期精選
1. openbmb/MiniCPM-OCR-1.0:超輕量 1.3B 文件解析與 OCR 模型,地端發票與 PDF 結構化利器
- 這是什麼:這款由 OpenBMB 釋出的 MiniCPM-OCR-1.0 是一款僅有 1.3B 參數量的超輕量視覺語言模型,專攻文件解析與 OCR 任務。它採用友善的 Apache 2.0 開源授權,對商業應用非常友善,特別擅長處理繁簡中英文的文件、複雜表格與圖表。
- 能用在哪些場景:
- 場景一:隱私安全的發票與收據自動化處理。當軟體工程師需要開發一套完全不聯網的財務系統時,只要把發票或收據圖片輸入,利用該模型的關鍵資訊提取(KIE)功能,直接透過 Prompt 抓出商店名稱、消費日期與金額,並直接輸出成乾淨的 JSON 格式。
- 場景二:地端 RAG 系統的 PDF 文件解析 Pipeline。當你需要幫公司建置檢索增強生成(RAG)系統,面對成千上萬份包含複雜表格、數學公式與圖表的掃描檔 PDF,可以用它快速轉換成結構化的 Markdown 文本,解決傳統 OCR 格式混亂的痛點。
- 場景三:老舊或手機翻拍文獻的數位化。數位存檔人員或研究人員面對歪斜、模糊、甚至用手機在昏暗光線下翻拍的古籍與歷史文獻,可以用它精確還原文字與段落順序,連同圖表內容一起數位化。
- 跑得動嗎:官方 model card 標示,該模型參數量僅 1.3B,並提供了 GGUF、GPTQ、AWQ 等多種量化版本,開發者可以直接在一般的筆記型電腦或工作站上輕鬆運行 GGUF 版本。此外,官方還提供了 DSpark 推測解碼(speculative decoding)加速方案,說明中指出這能提升約 55% 的端到端處理效率,對硬體資源有限的地端環境非常友善。
- 本期聲量:目前在 Hugging Face 上的熱度為 111,累積了 791 次下載與 184 個讚,是一顆剛冒出頭但備受矚目的新星。
- 跟同類比:根據 OpenBMB 官方測試,MiniCPM-OCR-1.0 的吞吐量達到約 1.2 頁/秒。在 OmniDocBench 等多個文件解析基準測試中取得領先,官方宣稱其吞吐量約為 PaddleOCR-VL-1.6 的 1.49 倍、MinerU2.5 Pro 的 3.62 倍。
- 怎麼取得:官方 README 說明指出,你可以透過
llama.cpp直接載入 GGUF 版本來運行本地與 OpenAI 相容的伺服器,指令為:llama serve -hf openbmb/MiniCPM-OCR-1.0-gguf:Q4_K_M;或者使用 vLLM 部署,指令為:vllm serve openbmb/MiniCPM-OCR-1.0。 - 連結:Hugging Face 頁面連結
2. InternScience/Sage-A1.5:單張 RTX 4090 就能跑的 35B MoE 高階 AI 代理模型,主打複雜任務拆解
- 這是什麼:Sage-A1.5 是由上海人工智慧實驗室開源的 35B 混合專家(MoE)代理(Agentic)模型。它基於 Qwen3.6 構建,採用 Apache 2.0 授權,專門針對長流程任務執行、工具調用(Tool Calling)與代理協調進行優化。
- 能用在哪些場景:
- 場景一:自主程式碼代理(Autonomous Coding Agent)。軟體工程師在開發自動化寫 Code 工具時,需要模型能將複雜的系統需求拆解成多個子步驟,自動調用外部工具(如 Code Interpreter 或搜尋引擎)來測試,甚至在執行出錯時,還能自己看 Error Log 進行自我驗證與修正程式碼。
- 場景二:地端企業研發與法規情報分析。企業內部的研發人員需要進行競爭對手情報或複雜法規分析,利用該模型的代理協調(Agentic Orchestration)能力,把任務分派給多個並行的子代理去搜集資料,最後再彙整成一份完整的分析報告,全程不外洩機密。
- 場景三:科學資料集的探索性研究。科研人員面對大型、複雜的科學資料集時,需要模型進行多步驟的資料分析規劃,並根據中間產生的圖表與數據,動態調整下一步的分析策略,實現高度自主的探索。
- 跑得動嗎:官方技術報告與 model card 標示,Sage-A1.5 雖然是 35B 規模的 MoE 模型,但每個 Token 實際上僅會激活約 3B 參數。在 BF16 精度下,權重大小約為 65.4 GiB,而進行 4-bit 量化(Q4_K_M)後會降到約 19.6 GiB。第三方評估指出,在 Q4_K_M 量化下,該模型加上 8K Token 的上下文長度,可以完整裝進單張 RTX 4090(24 GB VRAM)中運行,讓個人工作站也能擁有強大的 Agent 能力。
- 本期聲量:在 Hugging Face 上人氣極高,目前熱度達 299,並擁有 8.2k 次下載與 350 個讚。
- 跟同類比:上海人工智慧實驗室的技術報告指出,相較於前代 Agents-A1,Sage-A1.5 在工程與代理任務上有了大幅提升。例如在 SWE-bench Pro 上提升了 17.6 分,在 SWE-bench Multilingual 上提升了 14.0 分;而在 BrowseComp 基準測試中,Sage-A1.5 取得了 81.7% 的成績,超越了前代的 75.5%。
- 怎麼取得:官方 README 說明指出,推薦使用 SGLang 框架來進行高效能的部署服務,啟動指令為:
python -m sglang.launch_server --model-path InternScience/Sage-A1.5 --port 8000 --mem-fraction-static 0.8 --context-length 262144 --reasoning-parser qwen3 --tool-call-parser qwen3_coder。 - 連結:Hugging Face 頁面連結
結尾段落
從本期的選題可以看出,開源社群正朝著「極致輕量化」與「強大代理能力」兩個極端快速演進。不論是想在筆電上用 MiniCPM-OCR-1.0 搞定文件結構化,還是在工作站用 Sage-A1.5 打造自動化 Agent,現在地端硬體都能輕鬆駕馭了。趕快挑一個下載到你的機器上試試看吧,我們下期見!


























留言