--- title: "淺談高併發的網站架構設計" description: "整理高併發網站的架構設計要點，涵蓋前端優化、後端分散式架構、資料庫分片、快取策略、負載平衡與安全防護等面向。" canonical_url: "https://blog.markkulab.net/post/how-to-build-high-concurrency-website" author: "Mark Ku" author_url: "https://blog.markkulab.net/author/mark-ku" site: "Mark Ku's Blog" date_published: "2024-11-10 20:01:35 +0800" category: "Learning" tags: ["architecture", "concurrency", "load balancer", "cache", "redis", "kubernetes", "database"] language: "zh-TW" license: "CC BY 4.0" license_url: "https://creativecommons.org/licenses/by/4.0/" attribution: "轉載或引用請註明作者並附上原文連結" --- # 淺談高併發的網站架構設計 ## 前言 整理了一下大流量的網站架構設計，看起來大多的共通性都是把大拆小 "拆"，把工作或瓶頸拆分出去，讓系統或服務夠容易水平擴展，避免在在單點上過載，造成系統瓶頸，其實就和真實世界的大型組織一樣，遇到發展瓶頸都得拆。 ### 前端 * [前端優化，如:最佳化圖片、JS、CSS、延遲載入、頁面靜態化](https://blog.markkulab.net/enhance-nextjs-performance/)。 * 使用 CDN ，將靜態內容搬到CDN上，減少主伺服器的 IO 壓力。 ### 後端 * 採用成熟的程式語言框架，並採用非同步的方式撰寫，讓其 CPU 及 IO 利用率極大化，不需要的資料，就不要傳到前端，可以在一個request 要到，就不需要多個request。 * 採分散式架構 - 把應用拆解成多個獨立服務，避免一個服務卡住造成系統瓶頸。 如: 金流模組、物流模組 * 採用一些佇列技術 - 當系統在短時間內接收到大量請求時，佇列可以將這些請求暫時存放，然後按照系統的處理能力逐步處理，避免瞬間使用率對系統造成衝擊 * [可以透過一些程式的演算，來消化瞬間的效能瓶頸，融斷、隔離、重試、降級、超時、限流(令牌桶、等候室、漏桶)](https://blog.csdn.net/github_38592071/article/details/140196235) ## 資料庫 * 資料庫效能優化。如:建立索引、語法優化、反正規化，減少Join、表垂直拆分或使用快取伺服器，將不常變動的資料，快取起來，不要每次從Db 撈取等。 * 可以將資料庫進行分片（Sharding）或分庫，將數據分散到多個數據庫上進行處理。 * 讀寫分離 - 將資料庫讀寫分離，透過[主從複製(Master Slave Replication)](https://ithelp.ithome.com.tw/articles/10267454)來處理大量讀請求。 * 使用 NoSQL 資料庫，NoSQL 能有效地分區、分片，並具備水平擴展特性，特別適合處理大規模數據，例如:會員資料。 * [確保交易一致性，使用鎖機制](https://ouch1978.github.io/blog/2022/09/21/common-locks-in-programming-world) ## 快取 * 前端快取 - 開啟 Client side cahce ，用戶端讓要過的檔案，沒有變更，就不需要重覆在請求。 * 後端快取 - 對於不常變更、但頻繁查詢的資料，可利用快取伺服器進行快取，或採用 [Redis Cluster](https://isdaniel.github.io/redis-cluster-introduce-01/) 進行資料分片（適合 Redis Key 連續的場景）。 ## 運維 * 負載平衡器 - 負載平衡的核心原理是透過反向代理機制，將流量和任務分攤至多台伺服器上。如果 QPS 小於 10k，建議使用軟體反向代理（例如 nginx 或 yarp），因為硬體負載平衡設備的晶片經過額外設計，可以承載更高的流量負荷。當 QPS 超過 10k 時，就需要考慮採購硬體負載平衡器，例如 [F5](https://www.f5.com/glossary/load-balancer)。 * 採用現代化系統運維架構(K8s)，可以依據 QPS 或系統資源擴容及縮容。 * 服務監控 (Health Check) - 及時偵測並回應服務異常，確保服務穩定運行。例如：[Uptime-Kuma](https://blog.markkulab.net/2021/12/11/application-monitor-uptime-kuma/) * 應用服務可觀測性 - 提供應用性能的可視化與分析，方便問題診斷與效能優化。例如：[Signoz](https://www.cnblogs.com/hacker-linner/p/17581720.html)、Prometheus * 日誌服務器 (Log Server) - 集中管理與分析日誌，便於查找與追溯問題來源。例如：Grafana、SEQ ## 安全 * 使用 Cloudfalre 之類的網站防護的服務，避免一些惡意攻擊。如:[DDoS](https://blog.markkulab.net/prevent-ddos-part2/) * [防範 CSRF 攻擊以增強系統安全。](https://www.telerik.com/blogs/protecting-nextjs-applications-cross-site-request-forgery-csrf-attacks) ## 最後 其實有些功能，我也沒實作過，但整理出來是希望自己有個概念，當遇到時，至少有個解決方案，但不是每個網站都需要這樣的架構設計，拆的太細的架構也會增加維護成本，而是考量未來的生意量，評估這種網站架構，會更適合。 ## 參考 * [前同事Ouch 大大](https://ouch1978.github.io/) * [拓元售票系統](https://aws.amazon.com/tw/solutions/case-studies/tixcraft/?fbclid=IwZXh0bgNhZW0CMTAAAR1OkXmUsFGJZ4x086DzwYbK4Ox1JEuJWDA6umSIx2edlKKucWm4jWU6PGY_aem_aztLGVHLLc9EvEnDe6WTMg) --- ## 關於本文與作者 本文出自 [Mark Ku's Blog](https://blog.markkulab.net/post/how-to-build-high-concurrency-website) 授權條款： [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/) — 轉載或引用請註明作者並附上原文連結 ### 關於作者 **[Mark Ku](https://blog.markkulab.net/author/mark-ku)** — Software Solution Provider - 10+ 年資深軟體工程師，現為 AI 應用 Builder - 專注大型平台架構設計，從北美電商到AI SaaS訂閱收費系統 - 結合 AI Agent 與自動化，打造高效可演進的產品技術基礎 ### 作者開發的免費工具 以下工具皆可免費使用： - [免費 PDF 簽名工具](https://blog.markkulab.net/tools/pdf-sign): 線上 PDF 簽名工具，瀏覽器內完成手繪、打字、上傳簽名，可拖曳放置、縮放、下載。所有處理都在你的裝置完成，檔案不會上傳。 - [VS Code Refactory](https://blog.markkulab.net/tools/refactory): Refactory 是一款 VS Code 重構擴充套件：34 個重構動作、37 條 code smell 檢查、Code Health 儀表板、18 種語言、534 支測試。懂你的專案慣例：介面放哪、DI 註冊寫在哪、'use client' 該不該加；還會用 git 修改頻率 × 複雜度排出「該先修哪個檔案」，並一鍵把壞味道交給你自己電腦上的 Claude Code 修。免費使用，原始碼不離開你的機器。 - [DB-Kit 資料庫管理工具](https://blog.markkulab.net/tools/db-kit): DB-Kit 是一個用 Tauri + Rust + React 打造的輕量跨平台資料庫管理工具，用單一一致的介面同時管理 MySQL、MariaDB、PostgreSQL、SQL Server、Oracle、SQLite、MongoDB、Redis、Kafka、Elasticsearch 與 RabbitMQ 十一種資料來源：連線密碼以 OS keychain 加密、SSH Tunnel、完整 CRUD、視覺化查詢建構器、多結果集同時顯示、跨連線資料傳輸與比對同步、Excel / CSV 匯入匯出、執行計畫視覺化、ER 圖、排程備份、SQL 壓力測試（p50～p99 延遲百分位）、15 條規則的 SQL 審查、Kafka 訊息瀏覽與監控告警；繁中 / 英文雙語介面，內建 AI 助手（自然語言生成 SQL、AI 審查與調校建議）與命令列工具 dbk。免費開源（MIT），提供 Windows / macOS / Linux 安裝檔。 - [VS Code Super Mermaid](https://blog.markkulab.net/tools/super-mermaid): Super Mermaid 是一款 VS Code 擴充套件：開箱即用的漂亮 Mermaid 圖表，自動上色、即時預覽、滑鼠平移縮放、PNG / SVG 高解析匯出，內建 21 種範本與多種主題。免費開源（MIT）。 - [React Super Mermaid](https://blog.markkulab.net/tools/react-super-mermaid): react-super-mermaid 是一個開源 React 元件庫：一行 即可渲染漂亮的 Mermaid 圖表，內建 colorful / sketch 主題、平移縮放、圖內搜尋、SVG / PNG 高解析匯出。輕量、SSR 安全、完整 TypeScript 型別。免費開源（MIT）。 - [Jira / Confluence Super Mermaid](https://blog.markkulab.net/tools/jira-super-mermaid): Atlassian Forge app：在 Jira issue 與 Confluence 內文直接寫 Mermaid 語法，畫流程圖、時序圖、狀態機與甘特圖。11 種圖表、SVG / PNG 匯出、明暗主題、完整中日韓文字支援。取得 Runs on Atlassian 資格：圖表存在你自己的站台，app 不呼叫任何第三方服務。免費，即將上架 Atlassian Marketplace。 - [Mermaid 線上預覽](https://blog.markkulab.net/tools/mermaid-preview): 在瀏覽器裡寫 Mermaid、即時看圖，整張圖表壓進網址就能分享。免註冊、不上傳伺服器，相容 mermaid.live 的分享連結。 - [React Intl Phone Number](https://blog.markkulab.net/tools/react-intl-phone-number): react-intl-phone-number 是一個開源 React 元件：framework-agnostic、不依賴 antd，提供 E.164 進出、可搜尋國旗 / 國碼下拉、可配置驗證等級（strict / mobile-strict / loose）、可主題化 CSS 與 i18n，電話邏輯由 google-libphonenumber 驅動。輕量、完整 TypeScript 型別。免費開源（MIT）。 - [Uptime Kuma Cluster](https://blog.markkulab.net/tools/uptime-kuma-cluster): 把單機版 Uptime Kuma 改造成高可用叢集：OpenResty + Lua 智慧負載平衡、MariaDB 共享狀態、健康檢查與自動 Failover，附叢集管理 REST API，一行 Docker Compose 啟動。免費開源（MIT）。 - [特教專案](https://blog.markkulab.net/education): 為特殊教育學生製作的學習教材 ### 每日 Podcast - [科技新鮮事](https://blog.markkulab.net/category/tech-news): 每日精選 AI 與科技趨勢，透過語音摘要快速掌握最新技術動態，涵蓋 AI 應用、軟體架構、DevOps 與工程實戰。 — RSS: https://blog.markkulab.net/feed.xml - [AI股市蝦聊](https://blog.markkulab.net/category/ai-stock-chat): 每個交易日用 AI 分析台股盤勢，以雙人對話聊當天的盤中觀察與隔日預測。 — RSS: https://blog.markkulab.net/ai-stock-chat/feed.xml ### 電子報 [訂閱電子報](https://blog.markkulab.net/subscribe) — 第一時間收到新文章通知，無垃圾信、隨時可取消訂閱。