一推出就斬獲破萬下載,Xiaomi-OCR-0 這款 0.8B 超輕量模型,在複雜文檔解析上表現驚人!本期我們精選兩款極低門檻的開源利器,除了這款發票結構化解析高手,還有一款僅需 1.3 GB 顯示記憶體就能實現多國語音複製的 Edge0/Audio8-TTS-Realistic-0.6b,它們能解決哪些地端痛點?等一下告訴你!


本期精選

1. xiaomi-research/Xiaomi-OCR-0:0.8B 超輕量級文檔理解與結構化解析模型

  • 這是什麼: 這是由小米研究團隊(xiaomi-research)推出的 0.8B 超輕量級文檔理解模型,基礎模型採用 Qwen3.5-0.8B-Base,並採用友善的 Apache-2.0 開源授權,非常適合在本地端進行高精度的圖片文字提取與結構化解析。
  • 能用在哪些場景:
    1. 自動化記帳與財務報支: 軟體工程師需要從大量的 PDF 帳單或發票圖片中,自動提取特定欄位(如金額、日期、統一編號)並轉換成結構化的 JSON 格式,以利直接匯入記帳系統,完全不用擔心機密財務資料上雲。
    2. 隱私安全的文檔問答(VQA): 開發者想要在本地端建立一個安全度極高的文檔問答系統,讓使用者可以直接上傳合約或內部報表圖片,並用自然語言詢問其中的數據細節,確保敏感商業合約不外流。
    3. 歷史檔案與複雜排版數位化: 系統整合商需要解析排版複雜、含有手寫字或表格的歷史文檔圖片,將其轉換為結構化的 Markdown 或純文字,以利後續建立全文檢索系統。
  • 跑得動嗎: 根據官方 model card 標示,官方並未提供最低顯示記憶體(VRAM)的要求,但特別指出其為 0.8B 參數規模,下載大小約為 1.8 GB。官方說明也提到,實際運行所需的硬體資源會取決於視覺編碼器、圖像解析度以及上下文長度。由於參數規模極小,對於台灣開發者在本地低配備機器上運行非常友善,目前可用的格式為 safetensors。
  • 本期聲量: 目前在 Hugging Face 上的熱度為 97,擁有約 16.0k 次下載與 153 個讚。
  • 跟同類比: 根據官方技術報告指出,該模型在 Real5-OmniDocBench 的得分為 95.24,且在五項 OCR 導向的 VQA 基準上平均得分為 83.2。這個成績高於 Qwen3.5-0.8B(72.9)與 Qwen3.5-2B(80.9),在 1B 以下的模型中表現極具競爭力。
  • 怎麼取得: 官方 README 說明可透過 vLLM 部署,部署指令為:
    vllm serve xiaomi-research/Xiaomi-OCR-0 --host 127.0.0.1 --port 8000 --max-model-len 16384
    
    另外也可以直接使用 Transformers 載入。
  • 連結: xiaomi-research/Xiaomi-OCR-0

2. Edge0/Audio8-TTS-Realistic-0.6b:1.3 GB 顯示記憶體即可運行的多國語言語音合成與複製模型

  • 這是什麼: 這是 Edge0 推出的一款 0.6B 超輕量語音合成與複製模型,同樣採用 Apache 2.0 授權。它能在極低的硬體資源下,實現高擬真的多國語言語音生成與聲音複製。
  • 能用在哪些場景:
    1. 獨立遊戲 NPC 配音: 獨立遊戲開發者在預算有限的情況下,想為遊戲中的 NPC 加上多國語言配音,只需提供一段 3 秒的參考音檔與台詞,即可在本地端生成自然流暢的語音,省下龐大的配音成本。
    2. Podcast 與影音旁白自動生成: Podcast 創作者或影音小編需要將文字腳本快速轉為語音旁白,並希望聲音帶有自然的節奏與呼吸起伏,而非死板的機器音,讓聽眾更有沉浸感。
    3. 低配邊緣設備的語音助理: 軟體工程師想在本地建立一個支援 23 種語言的語音助理,需要極低的推論延遲與記憶體佔用,以整合進低規格的邊緣設備中。
  • 跑得動嗎: 根據官方 README 標示,在 FP16 推論模式下,僅需要約 1.3 GB 的顯示記憶體(VRAM),如果進行 INT4 量化,還能進一步降低記憶體佔用。另外,依據論文說明,在 Apple M2 CPU 上運行 INT4 ONNX 格式時,峰值記憶體僅需要 1.1 至 1.2 GiB,對於沒有高階顯卡甚至只有 Mac 的開發者來說極度友善。目前可用的格式為 safetensors。
  • 本期聲量: 目前在 Hugging Face 上的熱度為 140,擁有 2.8k 次下載與 142 個讚。
  • 跟同類比: 根據官方與社群評測指出,該模型在 CV3(包含 9 種語言)的平均錯誤率僅為 4.86%,優於 CosyVoice3-1.5B(6.89%)與 Qwen3-TTS-1.7B(7.73%),以極小的 0.6B 體積達到了與更大尺寸模型媲美、甚至超越的表現。
  • 怎麼取得: 官方 README 說明,在 Python 3.10+ 環境與相容 GPU 下,可直接使用 Transformers 載入,程式碼如下:
    from transformers import AutoProcessor, AutoModel
    
    processor = AutoProcessor.from_pretrained("Edge0/Audio8-TTS-Realistic-0.6b", trust_remote_code=True)
    model = AutoModel.from_pretrained("Edge0/Audio8-TTS-Realistic-0.6b", trust_remote_code=True)
    
  • 連結: Edge0/Audio8-TTS-Realistic-0.6b

結尾段落

從今天的選題可以看出來,「小參數、高精準度」的端側(edge)模型正在快速崛起,不論是文檔解析還是語音合成,在 1B 以下的規模都能展現出超越過去大模型的驚人表現。如果你手上正好有發票報帳或是合約解析的專案,非常推薦先試試看 Xiaomi-OCR-0,用極低的資源就能建立起安全不外流的本地端工作流,那我們下期見囉!

作者

Mark Ku

10 年以上的軟體工程師,做過北美電商與 AI SaaS 訂閱收費系統。閱讀更多

覺得這篇有幫助?

作者做的免費工具、每日 Podcast 與電子報,都在這裡。

Mark Ku · 本文採用 CC BY 4.0 授權,轉載請註明作者並附上原文連結。

留言

訂閱電子報

訂閱後即時收到新文章通知,不錯過任何技術分享。

提交即表示同意接收電子報,隨時可。

熱門文章

View all
Mark Ku
··633

Oracle Cloud 永久免費方案 Linux 主機及固定 IP :0 元打造雲端解決方案

Oracle Cloud 永久免費方案 Linux 主機及固定 IP :0 元打造雲端解決方案
Mark Ku
··464

告別 Postman 收費陷阱!開源 Git 原生 API 測試神器 Bruno 實戰指南

告別 Postman 收費陷阱!開源 Git 原生 API 測試神器 Bruno 實戰指南
Mark Ku
··249

一款免費開源類似於 Notion 類知識庫系統 — Outline Wiki 佈署與備份全攻略

一款免費開源類似於 Notion 類知識庫系統 — Outline Wiki 佈署與備份全攻略
Mark Ku
··205

打造高效 API 管理平台:從 0 開始部署 Kong Gateway - Part 1

打造高效 API 管理平台:從 0 開始部署 Kong Gateway - Part 1
Mark Ku
··202

在 Ubuntu 上設置 Samba 來共享資料夾,讓 Windows 11 用戶可以存取

在 Ubuntu 上設置 Samba 來共享資料夾,讓 Windows 11 用戶可以存取
Mark Ku
··198

訓練自己的 AI 語音:硬體門檻、開源模型比較與 LoRA 微調

訓練自己的 AI 語音:硬體門檻、開源模型比較與 LoRA 微調