--- title: "🛡️ 載入模型竟會自動幫駭客挖礦？當心 trust_remote_code 成為 GPU 伺服器的後門｜AI 資安日報" description: "Hugging Face 平台上驚傳惡意模型供應鏈攻擊，駭客利用載入程式碼的預設功能，直接強佔企業的 GPU 伺服器來挖礦。今天沐妍除了帶大家看這起「Load/Mine」攻擊，還會解析 vLLM 框架的遠端程式碼執行漏洞。另外，AI 開發平台在十月爆發的憑證危機，究竟讓企業平白損失了多少 API 費用？等一下告訴你。" canonical_url: "https://blog.markkulab.net/ai-security/ai-security-2026-11-01" author: "Mark Ku" author_url: "https://blog.markkulab.net/author/mark-ku" site: "Mark Ku's Blog" date_published: "2026-11-01T02:00:00.000Z" category: "AI 資安日報" tags: ["ai-security", "podcast", "AI 資安", "AI資安", "供應鏈安全", "trust_remote_code", "RCE", "提示詞注入", "AI代理人", "API安全"] language: "zh-TW" license: "CC BY 4.0" license_url: "https://creativecommons.org/licenses/by/4.0/" attribution: "轉載或引用請註明作者並附上原文連結" --- # 🛡️ 載入模型竟會自動幫駭客挖礦？當心 trust_remote_code 成為 GPU 伺服器的後門｜AI 資安日報 ## 開場白 Hugging Face 平台上驚傳惡意模型供應鏈攻擊，駭客利用載入程式碼的預設功能，直接強佔企業的 GPU 伺服器來挖礦。今天沐妍除了帶大家看這起「Load/Mine」攻擊，還會解析 vLLM 框架的遠端程式碼執行漏洞。另外，AI 開發平台在十月爆發的憑證危機，究竟讓企業平白損失了多少 API 費用？等一下告訴你。 --- ## 今日 AI 資安焦點 ### 1. AI 開發平台爆發「黑色十月」憑證危機，多個平台遭 AI 代理人蜂群攻擊 - **發生什麼**: 根據 Wiz Research 最新報告指出，2024 年 10 月有多達 9 個 AI 開發平台，包括 Fireworks AI、Lightning AI 等，發生嚴重的安全事件，被稱為「黑色十月」。攻擊者鎖定平台上的環境變數與憑證進行大規模濫用，導致企業下游憑證外洩，並產生超過 10 萬美元的 API 額外費用。其中部分平台更偵測到「AI 代理人蜂群（Agent Swarm）」的自動化攻擊，導致如 Zeabur 等服務商因受波及而宣布暫時關閉服務。 - **影響範圍**: 使用這 9 家 AI 開發平台，且在平台上儲存了敏感環境變數、API 金鑰或資料庫憑證的企業與開發團隊。 - **防禦建議**: 立即盤點並重設所有部署在第三方 AI 開發平台上的 API 憑證，並落實嚴格的環境變數生命週期管理與權限最小化。 - **來源**: The Futurum Group（） ### 2. Hugging Face 遭惡意模型供應鏈攻擊，利用 trust_remote_code 劫持 GPU 挖礦 - **發生什麼**: 據資安團隊 JFrog 揭露，Hugging Face 平台上出現一起名為「Load/Mine」的惡意模型供應鏈攻擊。攻擊者利用多個惡意帳號發布了數十個偽裝成 Qwen2 測試節點的惡意模型，累積下載已破萬次。該攻擊利用了平台上下載模型時常用的 `trust_remote_code`（信任遠端程式碼）功能，在模型載入時於 GPU 伺服器上執行惡意 Python 程式碼，藉此植入挖礦軟體並建立反向 Shell 以取得伺服器控制權。 - **影響範圍**: 下載並運行未經審查的第三方 Hugging Face 模型，且在程式碼中將 `trust_remote_code` 設定為 True 的開發人員與企業。 - **防禦建議**: 在程式碼中停用不必要的遠端程式碼載入功能，並針對 GPU 運算叢集實施嚴格的出站流量限制，阻斷異常的挖礦與 C2（命令與控制）連線。 - **來源**: BleepingComputer（） ### 3. vLLM 部署框架存在 RCE 漏洞，載入惡意模型恐遭執行任意程式碼 - **發生什麼**: 熱門 AI 模型部署工具 vLLM 被揭露存在一項遠端程式碼執行（RCE）漏洞，編號為 CVE-2024-22807。該漏洞源於 vLLM 在載入 `auto_map` 模組時，未能正確驗證遠端程式碼的設定，導致惡意模型在伺服器啟動並載入時，能直接執行任意系統指令。 - **影響範圍**: 使用 vLLM 0.10.1 至 0.14.0 之前版本，且會載入不受信任之外部模型的企業部署環境。 - **防禦建議**: 受影響的企業應儘速將 vLLM 升級至 0.14.0 或更新版本，以修補此安全漏洞。 - **來源**: Protect AI（） ### 4. 開源 AI 助理平台 MaxKB 爆發間接提示詞注入漏洞，可遭 root 權限執行系統指令 - **發生什麼**: 開源 AI 助理與代理人建置平台 MaxKB 被揭露存在間接提示詞注入（Indirect Prompt Injection）漏洞，編號為 CVE-2024-77521。由於系統預設允許 AI 助理在無需人類確認的情況下呼叫並執行 Shell 工具，攻擊者可透過在外部文件中植入惡意指令，引導 AI 助理以 root 權限在容器內執行任意系統指令。 - **影響範圍**: 部署 MaxKB 2.10.5-lts 之前版本，且開啟 AI 助理自動執行工具功能的使用者。 - **防禦建議**: 儘速升級至 MaxKB 2.10.5-lts 版本，並在系統設定中為所有敏感工具呼叫加入人工審核機制（Human-in-the-loop）。 - **來源**: 資安研究團隊 Truvo（） ### 5. 駭客利用 CyberStrikeAI 與 ARTEX AI 代理人框架，對日韓機構發動自動化攻擊 - **發生什麼**: 資安研究人員發現多起針對日本與南韓機構的自動化網路攻擊，威脅者利用開源滲透測試工具 CyberStrikeAI 部署了 44 個 AI 代理人，自動化執行從偵察、漏洞利用到資料外洩的完整攻擊生命週期。此外，據研究指出，有特定背景的威脅組織使用 ARTEX AI 代理人框架，在短短 3 小時內自動化入侵了超過 2,250 個 Microsoft 365 租戶。 - **影響範圍**: 亞太地區的政府機構與企業，特別是缺乏快速偵察與阻斷自動化攻擊能力的 IT 環境。 - **防禦建議**: 防禦方必須提升偵測與聯防的速度，導入自動化防禦機制，以應對這種「機器速度（Machine-speed）」的 AI 自動化威脅。 - **來源**: The Hacker News（） ### 6. Microsoft Teams 推出 AI 即時防釣魚偵測，主動攔截社交工程攻擊 - **發生什麼**: 微軟正式為 Microsoft Teams 推出由 AI 驅動的即時防釣魚偵測功能。該系統透過即時分析對話模式、訊息上下文與行為訊號，識別 Teams 聊天中的社交工程與釣魚攻擊，並在敏感憑證遭竊取前主動攔截可疑訊息。 - **影響範圍**: 擁有 Microsoft 365 Enterprise E5 或 Microsoft Defender for Office 365 Plan 2 授權的企業客戶。 - **防禦建議**: 企業 IT 管理員應確認組織授權，並在 Teams 安全設定中啟用此 AI 即時防護功能。 - **來源**: Emergent（） ### 7. CrowdStrike 擴展提示詞注入分類法至 222 種技術，全面防禦 AI 代理人規劃階段攻擊 - **發生什麼**: 知名資安大廠 CrowdStrike 發表了新版「提示詞注入分類法（Prompt Injection Taxonomy）」，將相關攻擊技術擴展至 222 種。本次更新特別針對自主 AI 代理人（Autonomous Agents）的「規劃（Planning）」與「推理（Reasoning）」階段，防範攻擊者干預代理人的決策邏輯，並已整合至其端點遙測防禦方案中。 - **影響範圍**: 正在開發或部署自主 AI 代理人，且需要防範惡意指令操縱決策決策鏈的企業。 - **防禦建議**: 研發團隊在設計 AI 代理人的工作流時，應參考此分類法對代理人的推理決策路徑進行安全審查與邊界限制。 - **來源**: CrowdStrike（） --- ## 結尾段落 今天最值得大家警惕的，就是 AI 開發平台與開源模型框架的供應鏈安全。沐妍建議資安與開發主管今天進辦公室的第一件事，就是清查內部部署的 vLLM 與 Hugging Face 專案中，是否開啟了 `trust_remote_code` 設定，並立即盤點外發平台的 API 憑證。我是沐妍，我們明天見。 --- --- ## 關於本文與作者 本文出自 [Mark Ku's Blog](https://blog.markkulab.net/ai-security/ai-security-2026-11-01) 授權條款： [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/) — 轉載或引用請註明作者並附上原文連結 ### 關於作者 **[Mark Ku](https://blog.markkulab.net/author/mark-ku)** — 軟體工程師 - 10 年以上軟體工程師 - 做過北美電商與 AI SaaS 訂閱收費系統 ### 作者開發的免費工具 以下工具皆可免費使用： - [免費 PDF 簽名工具](https://blog.markkulab.net/tools/pdf-sign): 線上 PDF 簽名工具，瀏覽器內完成手繪、打字、上傳簽名，可拖曳放置、縮放、下載。所有處理都在你的裝置完成，檔案不會上傳。 - [VS Code Refactory](https://blog.markkulab.net/tools/refactory): Refactory 是一款 VS Code 重構擴充套件：34 個重構動作、37 條 code smell 檢查、Code Health 儀表板、18 種語言、534 支測試。懂你的專案慣例：介面放哪、DI 註冊寫在哪、'use client' 該不該加；還會用 git 修改頻率 × 複雜度排出「該先修哪個檔案」，並一鍵把壞味道交給你自己電腦上的 Claude Code 修。免費使用，原始碼不離開你的機器。 - [DB-Kit 資料庫管理工具](https://blog.markkulab.net/tools/db-kit): DB-Kit 是一個用 Tauri + Rust + React 打造的輕量跨平台資料庫管理工具，用單一一致的介面同時管理 MySQL、MariaDB、PostgreSQL、SQL Server、Oracle、SQLite、MongoDB、Redis、Kafka、Elasticsearch 與 RabbitMQ 十一種資料來源：連線密碼以 OS keychain 加密、SSH Tunnel、完整 CRUD、視覺化查詢建構器、多結果集同時顯示、跨連線資料傳輸、結構與資料比對（同步 SQL、結構快照）、Excel / CSV 匯入匯出、執行計畫視覺化、ER 圖、排程備份、SQL 壓力測試（p50～p99 延遲百分位）、15 條規則的 SQL 審查、執行前 AI 審查並逐句備份的「審查並執行」（自動產生回滾腳本）、Kafka 訊息瀏覽與監控告警、SSH 終端機與 SFTP / FTP、Docker / Kubernetes、遠端桌面（RDP / VNC / RustDesk）、檔案 / 資料夾比對、預存程序整合測試；六種介面語言，內建 AI 助手（本機 CLI 或 Anthropic / OpenAI 相容 API，自然語言生成 SQL、AI 審查與調校建議）與命令列工具 dbk。免費開源（MIT），提供 Windows / macOS / Linux 安裝檔。 - [VS Code Super Mermaid](https://blog.markkulab.net/tools/super-mermaid): Super Mermaid 是一款 VS Code 擴充套件：開箱即用的漂亮 Mermaid 圖表，自動上色、即時預覽、滑鼠平移縮放、PNG / SVG 高解析匯出，內建 21 種範本與多種主題。免費開源（MIT）。 - [React Super Mermaid](https://blog.markkulab.net/tools/react-super-mermaid): react-super-mermaid 是一個開源 React 元件庫：一行 即可渲染漂亮的 Mermaid 圖表，內建 colorful / sketch 主題、平移縮放、圖內搜尋、SVG / PNG 高解析匯出。輕量、SSR 安全、完整 TypeScript 型別。免費開源（MIT）。 - [Jira / Confluence Super Mermaid](https://blog.markkulab.net/tools/jira-super-mermaid): Atlassian Forge app：在 Jira issue 與 Confluence 內文直接寫 Mermaid 語法，畫流程圖、時序圖、狀態機與甘特圖。11 種圖表、SVG / PNG 匯出、明暗主題、完整中日韓文字支援。取得 Runs on Atlassian 資格：圖表存在你自己的站台，app 不呼叫任何第三方服務。免費，即將上架 Atlassian Marketplace。 - [Mermaid 線上預覽](https://blog.markkulab.net/tools/mermaid-preview): 在瀏覽器裡寫 Mermaid、即時看圖，整張圖表壓進網址就能分享。免註冊、不上傳伺服器，相容 mermaid.live 的分享連結。 - [React Intl Phone Number](https://blog.markkulab.net/tools/react-intl-phone-number): react-intl-phone-number 是一個開源 React 元件：framework-agnostic、不依賴 antd，提供 E.164 進出、可搜尋國旗 / 國碼下拉、可配置驗證等級（strict / mobile-strict / loose）、可主題化 CSS 與 i18n，電話邏輯由 google-libphonenumber 驅動。輕量、完整 TypeScript 型別。免費開源（MIT）。 - [Uptime Kuma Cluster](https://blog.markkulab.net/tools/uptime-kuma-cluster): 把單機版 Uptime Kuma 改造成高可用叢集：OpenResty + Lua 智慧負載平衡、MariaDB 共享狀態、健康檢查與自動 Failover，附監控與叢集管理 RESTful API，一行 Docker Compose 啟動。免費開源（MIT）。 - [AI Podcast Cut 音檔剪輯](https://blog.markkulab.net/tools/ai-podcast-cut): 丟進一段錄音，AI 幫你剪掉「嗯、呃、那個」與講到一半重講的片段，平衡逐段音量，並派第二個 agent 覆核每一刀。辨識與去人聲都在你自己的電腦上跑，不上傳、不需要金鑰。剪點會貼齊字邊界與零交越、每一刀都有漸弱漸強，句尾還留得住呼吸感。Windows / macOS / Linux 桌面應用，MIT 開源，Windows 安裝檔內建 ffmpeg。 - [AI Video Cut 影片剪輯](https://blog.markkulab.net/tools/ai-video-cut): 在影片裡選一個東西：打字（人臉、車牌、手機螢幕、logo）、手動點選或拖框，或交給 Claude Code / Codex 挑。AI Video Cut 會逐幀追蹤它，再幫你打馬賽克或模糊、調色、加跟著走的貼紙與文字、把螢幕或海報換成你的圖片或影片，甚至用其他幀拍到的背景把它移除。另有序列剪輯、本機字幕與 AI 助手。免費開源（MIT）的 Windows 桌面應用（macOS / Linux 實驗中），本機運行，影片不上傳。 - [open-pos 開源餐飲 POS](https://blog.markkulab.net/tools/open-pos): 一台電腦加一台出單機就能開店。資料存在自己的硬碟裡、沒有月租、沒有綁約，MIT 全開源。金額用整數元依營業稅法拆算稅額，銷售額加稅額恆等於總額；出單走網路型 ESC/POS（TCP 9100），不必裝廠商驅動。Tauri + Rust + SQLite 桌面應用，v1.0 開發中。 - [.NET 電商 API 架構範本](https://blog.markkulab.net/tools/dotnet-ecommerce-api): 以 .NET 10 打造的電商平台後端 API 架構範本：Controller → Service → Repository 分層、Autofac 依命名慣例自動註冊、SqlSugar 支援 MySQL / MariaDB 與 SQL Server、Redis 快取與訊息佇列、Hangfire 排程、JWT 認證，內建可擴充的金流 Provider 模組（綠界 ECPay、藍新 Newebpay）。Apache 2.0 開源。 - [Open Token Monitor 團隊 AI 用量監控](https://blog.markkulab.net/tools/open-token-monitor): 把每位員工電腦上 AI coding 工具的 token 用量與等值成本集中到公司自架的 hub：PostgreSQL、組織名單、依公司與部門比較的 dashboard、報表 API。員工端有 Electron 與 Rust/Tauri 兩種，每 30 分鐘自動上傳。MIT 開源，Docker 一行起。 - [AI 資安監控 ai-security-monitor](https://blog.markkulab.net/tools/ai-security-monitor): 網站上線了，漏洞、憑證與安全設定誰來檢查？ai-security-monitor 用自架 Security Hub 集中網站掃描與主機監控，合併重複發現、比對修補前後，讓你知道哪些問題還沒處理。 ### 每日 Podcast - [Mark's Tech Insights 每日 AI 新鮮事](https://blog.markkulab.net/category/tech-news): 每日精選 AI 與科技趨勢，透過語音摘要快速掌握最新技術動態，涵蓋 AI 應用、軟體架構、DevOps 與工程實戰。 — RSS: https://blog.markkulab.net/feed.xml - [AI股市蝦聊](https://blog.markkulab.net/category/ai-stock-chat): 每個交易日用 AI 分析台股盤勢，以雙人對話聊當天的盤中觀察與隔日預測。 — RSS: https://blog.markkulab.net/ai-stock-chat/feed.xml - [開源好物日報](https://blog.markkulab.net/category/open-source-weekly): 每天從 Hacker News、GitHub、Reddit 聲量雷達精選免費開源工具，以雙人對話聊解決什麼痛點與怎麼快速上手。 — RSS: https://blog.markkulab.net/open-source-weekly/feed.xml - [AI 運動日報](https://blog.markkulab.net/category/sports-weekly): 每天以雙人對話聊 NBA、MLB 與國際體壇大事，台灣球迷視角，輕鬆有梗不酸人。 — RSS: https://blog.markkulab.net/sports-weekly/feed.xml - [AI 國際新聞快報](https://blog.markkulab.net/category/world-news): 每天早上以雙人對話把過去一天的國際大事講白：政治外交、全球經濟、衝突與安全、災害與氣候，台灣視角、中立客觀、每則附出處。 — RSS: https://blog.markkulab.net/world-news/feed.xml - [地端 AI 實驗室](https://blog.markkulab.net/category/local-ai-lab): 每天精選可以下載到自己機器上跑的開源模型與 LoRA，用雙人對話講清楚能用在哪些場景、你的顯卡跑不跑得動、跟同類差在哪，規格一律引述官方 model card。 — RSS: https://blog.markkulab.net/local-ai-lab/feed.xml - [AI 行銷日報](https://blog.markkulab.net/category/ai-marketing): 每天以雙人對話整理最新 AI 在行銷、廣告、SEO／GEO 與內容行銷的大事，實戰視角、不業配、每則附出處。 — RSS: https://blog.markkulab.net/ai-marketing/feed.xml - [AI 資安日報](https://blog.markkulab.net/category/ai-security): 每天以雙人對話整理最新 AI 與資安交會的大事：LLM 與 AI agent 漏洞、prompt injection、模型供應鏈、攻擊者怎麼用 AI，防禦視角、每則附出處。 — RSS: https://blog.markkulab.net/ai-security/feed.xml ### 電子報 [訂閱電子報](https://blog.markkulab.net/subscribe) — 第一時間收到新文章通知，無垃圾信、隨時可取消訂閱。