---
title: "🧪 Inkling-2-Mini 能做什麼？從程式助理聊到文件問答｜地端 AI 實驗室"
description: "Inkling-2-Mini 的研究摘要，把程式助理、文件問答和看圖問答放在同一張用途清單上。2026年11月20日這集也整理 Clairic 的欄位擷取，以及 Olala-v1.0-mini-7A1B-GGUF 的文字助理場景，等一下告訴你，為什麼選模型前還得先確認部署資訊。"
canonical_url: "https://blog.markkulab.net/local-ai-lab/local-ai-lab-2026-11-20"
author: "Mark Ku"
author_url: "https://blog.markkulab.net/author/mark-ku"
site: "Mark Ku's Blog"
date_published: "2026-11-20T02:00:00.000Z"
category: "地端 AI 實驗室"
tags: ["local-ai", "podcast", "地端模型", "lora", "Inkling-2-Mini", "Clairic", "Olala-v1.0-mini-7A1B-GGUF", "GGUF", "RAG"]
language: "zh-TW"
license: "CC BY 4.0"
license_url: "https://creativecommons.org/licenses/by/4.0/"
attribution: "轉載或引用請註明作者並附上原文連結"
---

# 🧪 Inkling-2-Mini 能做什麼？從程式助理聊到文件問答｜地端 AI 實驗室

## 開場白

Inkling-2-Mini 的研究摘要，把程式助理、文件問答和看圖問答放在同一張用途清單上。2026年11月20日這集也整理 Clairic 的欄位擷取，以及 Olala-v1.0-mini-7A1B-GGUF 的文字助理場景，等一下告訴你，為什麼選模型前還得先確認部署資訊。

## 本期精選

這集依據選題研究摘要整理，附上各模型的 Hugging Face 頁面供查核。摘要沒有附上本次工具回傳的來源證據，因此下列規格、授權、聲量與部署細節仍需到原頁確認；本節目也沒有實際執行這些模型。

### 1. Inkling-2-Mini：值得留意的程式與文件問答選項

- **這是什麼**：研究摘要將 Inkling-2-Mini 列為通用模型，整理的用途包括程式助理、RAG 與多模態應用。摘要稱官方以 Apache 2.0 開放權重，未列出參數量。
- **能用在哪些場景**：

  **開發程式助理**：工程師想在開發流程加入程式問答時，可以把摘要列出的 coding assistant 用途當成評估起點，讓模型協助處理程式相關問題。

  **建立文件問答系統**：團隊規劃內部文件搜尋時，可以考慮摘要提到的 RAG 場景，將檢索到的文件內容交給模型組織回答。

  **製作看圖問答介面**：開發者想讓使用者針對畫面內容提問時，可以參考摘要所述的圖片與文字輸入能力，規劃問答介面。

- **跑得動嗎**：研究摘要稱官方 model card 標示權重約 20GB，採混合 NVFP4 與 MXFP8，支援 32GB 以上記憶體的 Apple silicon 裝置及單台 NVIDIA DGX Spark；其他 GPU 或平台建議至少 32GB VRAM。摘要列出的格式有 safetensors、8-bit，也提到可透過 llama.cpp 與 Unsloth 使用量化 GGUF。
- **本期聲量**：研究摘要列出 HF 熱度 856、7.9k 次下載和 1.1k 個讚，同家族有 2 個量化或重打包版本。
- **跟同類比**：研究摘要稱，Inkling-2-Mini 的官方 model card 將它描述為使用共享權重循環計算的多模態 MoE；SenseNova-Loop-9B 的 model card 則描述共享中間層的循環架構。這是架構描述的比較，不能當成效能排名。
- **怎麼取得**：研究摘要稱官方提供 Hugging Face 權重，並列出 vLLM、SGLang 和 Ollama 等地端推論選項；其中 vLLM 範例是 `vllm serve "thinkingmachines/Inkling-2-Mini"`。
- **連結**：[Inkling-2-Mini 的 Hugging Face 頁面](https://huggingface.co/thinkingmachines/Inkling-2-Mini)、[SenseNova-Loop-9B 的 Hugging Face 頁面](https://huggingface.co/sensenova/SenseNova-Loop-9B)

### 2. Clairic：聚焦資料欄位整理的候選模型

- **這是什麼**：研究摘要稱 Clairic 以 Qwen3.8-27B 為底模，重點是從文字或圖片整理有型別的欄位，也提供估計與預測介面。摘要列出的授權為 Apache 2.0，格式為 safetensors；Clairic 本身的參數量仍待查核。
- **能用在哪些場景**：

  **整理發票文字**：財務系統工程師處理發票文字時，可以參考摘要提到的官方範例，指定供應商、日期、品項與金額，產生結構化資料供後續流程使用。

  **擷取收據資訊**：開發報帳工具的工程師收到收據圖片時，可以參考摘要提到的圖片範例，要求模型擷取商家名稱和總額。

  **整理需求預測**：需求規劃工具的開發者整理每日需求資料時，可以參考摘要提到的估計與預測範例，指定資料範圍和預測期間，再交由人工檢視結果。

- **跑得動嗎**：研究摘要稱官方未標示硬體門檻，量化格式仍待查核。摘要提到載入範例使用 CUDA，頁面另有量化版本入口，但目前無法確認需要多少記憶體或顯示記憶體。
- **本期聲量**：研究摘要列出 HF 熱度 105、547 次下載和 204 個讚。
- **跟同類比**：研究摘要稱 Clairic 以 Qwen3.8-27B 為底模，另提供依欄位規格輸出型別化值、擷取信心資訊、估計與預測的介面。這是用途與介面的差異，不能當成效能排名。
- **怎麼取得**：研究摘要稱官方指示使用 Python 3.11 以上及 `requirements.txt` 中的套件，以 `snapshot_download("Cloudflare/clairic")` 取得檔案，再用 `load_release_model` 載入模型與 processor，呼叫 `systemone`。
- **連結**：[Clairic 的 Hugging Face 頁面](https://huggingface.co/Cloudflare/clairic)

### 3. Olala-v1.0-mini-7A1B-GGUF：值得留意的文字助理候選

- **這是什麼**：研究摘要將它列為原模型團隊提供的 Olala-v1.0-mini-7A1B GGUF 版本，並提到程式問題、tool calling 與文字問答等用途。摘要的參數量標記為 1B，授權列為 Apache 2.0；這些資訊仍需查核。
- **能用在哪些場景**：

  **探索程式輔助工具**：想在筆電上建立程式問答工具的工程師，可以從摘要提到的程式評測項目出發，評估讓模型協助處理開發時遇到的程式問題。

  **串接既有工具流程**：開發助理的工程師希望使用者提出需求後，由助理串接團隊自己的工具時，可以評估摘要所述的 tool calling 與 OpenAI 相容伺服器介面，看看如何接進既有流程。

  **設計文字問答介面**：開發者想讓使用者以文字提出問題並取得回答時，可以參考摘要提到的多種推論強度設定，嘗試調整模型處理問題的方式。

- **跑得動嗎**：研究摘要稱官方 model card 列出 CPU、NVIDIA GPU 與 Apple Silicon 選項。GGUF 的 Q8、Q6、Q5 量化檔分別約 6.9GB、6.3GB、6.0GB，官方建議 16GB Mac 使用 Q6_K；BF16 檔約 13.6GB，列為 NVIDIA GPU 或 24GB 以上 Mac 的選項。這些是摘要轉述的檔案大小與設備建議，實際部署條件仍需查核。
- **本期聲量**：研究摘要列出 HF 熱度 48、10.3k 次下載和 73 個讚，同家族有 2 個量化或重打包版本。
- **跟同類比**：研究摘要稱，這是 Olala-v1.0-mini-7A1B 的 GGUF 發行版本，提供 BF16、8-bit、6-bit 與 5-bit 檔案；作者另提供 Apple Silicon 的 MLX 版本。
- **怎麼取得**：研究摘要提醒，官方說明要求依頁面指示建置專用 llama.cpp fork；上游 llama.cpp、Ollama 與 LM Studio 尚不支援這個架構，因此頁面自動產生的啟動指令不適用。
- **連結**：[Olala-v1.0-mini-7A1B-GGUF 的 Hugging Face 頁面](https://huggingface.co/OVHaiLLM/Olala-v1.0-mini-7A1B-GGUF)

## 結尾段落

這集整理的三個方向分別是程式與文件問答、欄位整理，以及文字助理。想挑模型的話，可以先從自己的工作流程出發，再查核模型頁面上的授權、硬體需求與載入方式，下集再見。

---

## 關於本文與作者

本文出自 [Mark Ku's Blog](https://blog.markkulab.net/local-ai-lab/local-ai-lab-2026-11-20)

授權條款： [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/) — 轉載或引用請註明作者並附上原文連結

### 關於作者

**[Mark Ku](https://blog.markkulab.net/author/mark-ku)** — 軟體工程師

- 10 年以上軟體工程師
- 做過北美電商與 AI SaaS 訂閱收費系統

### 作者開發的免費工具

以下工具皆可免費使用：

- [免費 PDF 簽名工具](https://blog.markkulab.net/tools/pdf-sign): 線上 PDF 簽名工具，瀏覽器內完成手繪、打字、上傳簽名，可拖曳放置、縮放、下載。所有處理都在你的裝置完成，檔案不會上傳。
- [VS Code Refactory](https://blog.markkulab.net/tools/refactory): Refactory 是一款 VS Code 重構擴充套件：34 個重構動作、37 條 code smell 檢查、Code Health 儀表板、18 種語言、534 支測試。懂你的專案慣例：介面放哪、DI 註冊寫在哪、'use client' 該不該加；還會用 git 修改頻率 × 複雜度排出「該先修哪個檔案」，並一鍵把壞味道交給你自己電腦上的 Claude Code 修。免費使用，原始碼不離開你的機器。
- [DB-Kit 資料庫管理工具](https://blog.markkulab.net/tools/db-kit): DB-Kit 是一個用 Tauri + Rust + React 打造的輕量跨平台資料庫管理工具，用單一一致的介面同時管理 MySQL、MariaDB、PostgreSQL、SQL Server、Oracle、SQLite、MongoDB、Redis、Kafka、Elasticsearch 與 RabbitMQ 十一種資料來源：連線密碼以 OS keychain 加密、SSH Tunnel、完整 CRUD、視覺化查詢建構器、多結果集同時顯示、跨連線資料傳輸、結構與資料比對（同步 SQL、結構快照）、Excel / CSV 匯入匯出、執行計畫視覺化、ER 圖、排程備份、SQL 壓力測試（p50～p99 延遲百分位）、15 條規則的 SQL 審查、執行前 AI 審查並逐句備份的「審查並執行」（自動產生回滾腳本）、Kafka 訊息瀏覽與監控告警、SSH 終端機與 SFTP / FTP、Docker / Kubernetes、遠端桌面（RDP / VNC / RustDesk）、檔案 / 資料夾比對、預存程序整合測試；六種介面語言，內建 AI 助手（本機 CLI 或 Anthropic / OpenAI 相容 API，自然語言生成 SQL、AI 審查與調校建議）與命令列工具 dbk。免費開源（MIT），提供 Windows / macOS / Linux 安裝檔。
- [VS Code Super Mermaid](https://blog.markkulab.net/tools/super-mermaid): Super Mermaid 是一款 VS Code 擴充套件：開箱即用的漂亮 Mermaid 圖表，自動上色、即時預覽、滑鼠平移縮放、PNG / SVG 高解析匯出，內建 21 種範本與多種主題。免費開源（MIT）。
- [React Super Mermaid](https://blog.markkulab.net/tools/react-super-mermaid): react-super-mermaid 是一個開源 React 元件庫：一行 <MermaidViewer> 即可渲染漂亮的 Mermaid 圖表，內建 colorful / sketch 主題、平移縮放、圖內搜尋、SVG / PNG 高解析匯出。輕量、SSR 安全、完整 TypeScript 型別。免費開源（MIT）。
- [Jira / Confluence Super Mermaid](https://blog.markkulab.net/tools/jira-super-mermaid): Atlassian Forge app：在 Jira issue 與 Confluence 內文直接寫 Mermaid 語法，畫流程圖、時序圖、狀態機與甘特圖。11 種圖表、SVG / PNG 匯出、明暗主題、完整中日韓文字支援。取得 Runs on Atlassian 資格：圖表存在你自己的站台，app 不呼叫任何第三方服務。免費，即將上架 Atlassian Marketplace。
- [Mermaid 線上預覽](https://blog.markkulab.net/tools/mermaid-preview): 在瀏覽器裡寫 Mermaid、即時看圖，整張圖表壓進網址就能分享。免註冊、不上傳伺服器，相容 mermaid.live 的分享連結。
- [React Intl Phone Number](https://blog.markkulab.net/tools/react-intl-phone-number): react-intl-phone-number 是一個開源 React 元件：framework-agnostic、不依賴 antd，提供 E.164 進出、可搜尋國旗 / 國碼下拉、可配置驗證等級（strict / mobile-strict / loose）、可主題化 CSS 與 i18n，電話邏輯由 google-libphonenumber 驅動。輕量、完整 TypeScript 型別。免費開源（MIT）。
- [Uptime Kuma Cluster](https://blog.markkulab.net/tools/uptime-kuma-cluster): 把單機版 Uptime Kuma 改造成高可用叢集：OpenResty + Lua 智慧負載平衡、MariaDB 共享狀態、健康檢查與自動 Failover，附監控與叢集管理 RESTful API，一行 Docker Compose 啟動。免費開源（MIT）。
- [AI Podcast Cut 音檔剪輯](https://blog.markkulab.net/tools/ai-podcast-cut): 丟進一段錄音，AI 幫你剪掉「嗯、呃、那個」與講到一半重講的片段，平衡逐段音量，並派第二個 agent 覆核每一刀。辨識與去人聲都在你自己的電腦上跑，不上傳、不需要金鑰。剪點會貼齊字邊界與零交越、每一刀都有漸弱漸強，句尾還留得住呼吸感。Windows / macOS / Linux 桌面應用，MIT 開源，Windows 安裝檔內建 ffmpeg。
- [AI Video Cut 影片剪輯](https://blog.markkulab.net/tools/ai-video-cut): 在影片裡選一個東西：打字（人臉、車牌、手機螢幕、logo）、手動點選或拖框，或交給 Claude Code / Codex 挑。AI Video Cut 會逐幀追蹤它，再幫你打馬賽克或模糊、調色、加跟著走的貼紙與文字、把螢幕或海報換成你的圖片或影片，甚至用其他幀拍到的背景把它移除。另有序列剪輯、本機字幕與 AI 助手。免費開源（MIT）的 Windows 桌面應用（macOS / Linux 實驗中），本機運行，影片不上傳。
- [open-pos 開源餐飲 POS](https://blog.markkulab.net/tools/open-pos): 一台電腦加一台出單機就能開店。資料存在自己的硬碟裡、沒有月租、沒有綁約，MIT 全開源。金額用整數元依營業稅法拆算稅額，銷售額加稅額恆等於總額；出單走網路型 ESC/POS（TCP 9100），不必裝廠商驅動。Tauri + Rust + SQLite 桌面應用，v1.0 開發中。
- [.NET 電商 API 架構範本](https://blog.markkulab.net/tools/dotnet-ecommerce-api): 以 .NET 10 打造的電商平台後端 API 架構範本：Controller → Service → Repository 分層、Autofac 依命名慣例自動註冊、SqlSugar 支援 MySQL / MariaDB 與 SQL Server、Redis 快取與訊息佇列、Hangfire 排程、JWT 認證，內建可擴充的金流 Provider 模組（綠界 ECPay、藍新 Newebpay）。Apache 2.0 開源。
- [Open Token Monitor 團隊 AI 用量監控](https://blog.markkulab.net/tools/open-token-monitor): 把每位員工電腦上 AI coding 工具的 token 用量與等值成本集中到公司自架的 hub：PostgreSQL、組織名單、依公司與部門比較的 dashboard、報表 API。員工端有 Electron 與 Rust/Tauri 兩種，每 30 分鐘自動上傳。MIT 開源，Docker 一行起。
- [AI 資安監控 ai-security-monitor](https://blog.markkulab.net/tools/ai-security-monitor): 網站上線了，漏洞、憑證與安全設定誰來檢查？ai-security-monitor 用自架 Security Hub 集中網站掃描與主機監控，合併重複發現、比對修補前後，讓你知道哪些問題還沒處理。

### 每日 Podcast

- [Mark's Tech Insights 每日 AI 新鮮事](https://blog.markkulab.net/category/tech-news): 每日精選 AI 與科技趨勢，透過語音摘要快速掌握最新技術動態，涵蓋 AI 應用、軟體架構、DevOps 與工程實戰。 — RSS: https://blog.markkulab.net/feed.xml
- [AI股市蝦聊](https://blog.markkulab.net/category/ai-stock-chat): 每個交易日用 AI 分析台股盤勢，以雙人對話聊當天的盤中觀察與隔日預測。 — RSS: https://blog.markkulab.net/ai-stock-chat/feed.xml
- [開源好物日報](https://blog.markkulab.net/category/open-source-weekly): 每天從 Hacker News、GitHub、Reddit 聲量雷達精選免費開源工具，以雙人對話聊解決什麼痛點與怎麼快速上手。 — RSS: https://blog.markkulab.net/open-source-weekly/feed.xml
- [AI 運動日報](https://blog.markkulab.net/category/sports-weekly): 每天以雙人對話聊 NBA、MLB 與國際體壇大事，台灣球迷視角，輕鬆有梗不酸人。 — RSS: https://blog.markkulab.net/sports-weekly/feed.xml
- [AI 國際新聞快報](https://blog.markkulab.net/category/world-news): 每天早上以雙人對話把過去一天的國際大事講白：政治外交、全球經濟、衝突與安全、災害與氣候，台灣視角、中立客觀、每則附出處。 — RSS: https://blog.markkulab.net/world-news/feed.xml
- [地端 AI 實驗室](https://blog.markkulab.net/category/local-ai-lab): 每天精選可以下載到自己機器上跑的開源模型與 LoRA，用雙人對話講清楚能用在哪些場景、你的顯卡跑不跑得動、跟同類差在哪，規格一律引述官方 model card。 — RSS: https://blog.markkulab.net/local-ai-lab/feed.xml
- [AI 行銷日報](https://blog.markkulab.net/category/ai-marketing): 每天以雙人對話整理最新 AI 在行銷、廣告、SEO／GEO 與內容行銷的大事，實戰視角、不業配、每則附出處。 — RSS: https://blog.markkulab.net/ai-marketing/feed.xml
- [AI 資安日報](https://blog.markkulab.net/category/ai-security): 每天以雙人對話整理最新 AI 與資安交會的大事：LLM 與 AI agent 漏洞、prompt injection、模型供應鏈、攻擊者怎麼用 AI，防禦視角、每則附出處。 — RSS: https://blog.markkulab.net/ai-security/feed.xml

### 站長優惠

- [eSIM 226](https://blog.markkulab.net/esim): 旅遊 eSIM・190+ 目的地落地掃碼就上網，優惠碼：TRAVEL30

### 電子報

[訂閱電子報](https://blog.markkulab.net/subscribe) — 第一時間收到新文章通知，無垃圾信、隨時可取消訂閱。
