--- title: "Docker Desktop for Windows + Jenkins + Kubernetes 佈署筆記" description: "說明如何在 Windows Docker Desktop 啟用 Kubernetes，並整合 Jenkins Pipeline 實現自動化建置 Docker 映像與部署至本機 K8s 叢集的完整流程。" canonical_url: "https://blog.markkulab.net/post/jenkins-deploy-kubernetes-with-docker-for-windows" author: "Mark Ku" author_url: "https://blog.markkulab.net/author/mark-ku" site: "Mark Ku's Blog" date_published: "2024-03-06 01:01:35 +0800" category: "DevOps" tags: ["kubernetes", "docker", "windows", "jenkins", "pipeline", "ci/cd", "devops"] language: "zh-TW" license: "CC BY 4.0" license_url: "https://creativecommons.org/licenses/by/4.0/" attribution: "轉載或引用請註明作者並附上原文連結" --- # Docker Desktop for Windows + Jenkins + Kubernetes 佈署筆記 ## 時空背景 因為公司的容器越來越多，好幾台的Docker desktop ，實在不好調度及橫向擴展，因此花了些時間研究，如何在 Docker Desktop for windows 裡安裝jenkins 整合 K8s。 ## 為什麼要用 Kubernetes 1. 按需的垂直擴展，新的服務器(node)能夠輕易的增加或刪除，叢集內的溝通 1. 依據需自動橫向擴展，縮減資源能力 1. 服務及效能監控 1. Auto Recovery 1. 伺服器資源，最佳化 1. 負載平衡 ( 分流 ) 1. 服務融斷 1. 自動部署和回滾，如果應用狀態錯誤，可以實現自動回滾 1. 混合雲佈署 ## 為什麼使用Windows kubernetes 公司沒Linux Server ，多數成員不擅長用 Linux ## 佈署流程 ![Kubernetes deployment flow](https://blog.markkulab.net/content/markku/posts/jenkins-deploy-kubernetes-with-docker-for-windows/images/windows-k8s-deployment.png) ## 預先準備 ### 1.安裝Docker Desktop，並勾選 Kubernetes 及 Show system containers ![setup widnows docker](https://blog.markkulab.net/content/markku/posts/jenkins-deploy-kubernetes-with-docker-for-windows/images/set-up-widnows-docker.png) P.S. 按下 apply 後會自動建立 %USERPROFILE%\.kube\config 連線的檔案 ### 2. 架設Private Docker registry server ``` docker run -d -p 5000:5000 -e REGISTRY_STORAGE_DELETE_ENABLED=true --name registry registry:2 docker update --restart always registry ``` ### 3. 設定 Docker Engine，加入private ip ``` "insecure-registries": [ "192.168.50.49:5000" ] ``` P.S. 192.168.50.49 為我的實驗機IP，可透過訪問 http://192.168.50.49:5000/v2/_catalog 檢查目前私有的docker hub 有那些映像檔 ## 設定 Kubernetes ### Dashboard ``` kubectl apply -f https://raw.githubusercontent.com/kubernetes/dashboard/v2.7.0/aio/deploy/recommended.yaml kubectl get pod -n kubernetes-dashboard kubectl proxy 訪問此目錄 http://127.0.0.1:8001/api/v1/namespaces/kubernetes-dashboard/services/https:kubernetes-dashboard:/proxy/#/login ``` ### 首先我們來，建立 Token (這個token 是要拿去給jenkins 用的) ``` kubectl describe secrets -n kube-system (kubectl get secrets -n kube-system | Select-String "dashboard" | ForEach-Object { $_ -split " " | Select-Object -First 1 }) ``` ### 查詢 Token ``` $TOKEN=((kubectl -n kube-system describe secret default | Select-String "token:") -split " +")[1] kubectl config set-credentials docker-for-desktop --token="${TOKEN}" echo $TOKEN ``` ![get-token](https://blog.markkulab.net/content/markku/posts/jenkins-deploy-kubernetes-with-docker-for-windows/images/get-token.png) 也可以透過config 查詢 token ``` kubectl config view // 同等於訪問 %USERPROFILE%\.kube\config ``` ![kube config](https://blog.markkulab.net/content/markku/posts/jenkins-deploy-kubernetes-with-docker-for-windows/images/kube-config.png) ## Jenkins 配置 Kubernetes ### 安裝 Jenkins 參考先前撰寫的[文章](https://blog.markkulab.net/docker-jenkins-build-docker-image-and-github-integration/) ### 在Jenkins 容器中中安裝 kubectl ``` docker exec -it -uroot jenkins bash // 進入jenkins 容器中 curl -LO https://storage.googleapis.com/kubernetes-release/release/v1.29.1/bin/linux/amd64/kubectl // 下載 kubectl chmod +x ./kubectl // 給予權限 mv ./kubectl /usr/local/bin/kubectl // 複製到系統環境資料夾 kubectl version --client // 查詢版本 ``` P.S. Docker Desktop 和 Jenkins 容器的 kubectl 版本最好一致 ### 複製 kubectl 設定至 Jenkins 容器中 (需要逐行執行) ``` docker exec -it -uroot jenkins /bin/bash mkdir -p /.kube exit docker cp C:/Users/Mark/.kube jenkins:/root/.kube // 複製檔案到 Jenkins 容器中 ``` ### Jenkins 透過 Kubernetes CLI 連線 kubernetes 1. 要想把jenkins關聯到Kubernetes中需要安裝幾個最件，打開 系統管理 > 套件管理 * Kubernetes plugin * Kubernetes CLI Plugin ![install kubernetes plugin](https://blog.markkulab.net/content/markku/posts/jenkins-deploy-kubernetes-with-docker-for-windows/images/install-kubernetes-plugin.png) 2. [set up cloud](http://localhost:8080/configureClouds/) ![set up cloud](https://blog.markkulab.net/content/markku/posts/jenkins-deploy-kubernetes-with-docker-for-windows/images/set-cloud.png) 3. set Disable https certificate check => true ![disable http certificate check](https://blog.markkulab.net/content/markku/posts/jenkins-deploy-kubernetes-with-docker-for-windows/images/disable-http-certificate-check.png) 4. Kubernetes URL => kubectl cluster-info https://host.docker.internal:6443 5. Jenkins URL Jenkins URL:http://host.docker.internal:8080/ Jenkins tunnel:host.docker.internal:50000 6. Credentials => ![add public key to jenkins](https://blog.markkulab.net/content/markku/posts/jenkins-deploy-kubernetes-with-docker-for-windows/images/add-public-key-to-jenkins.png) 7. Copy dashboard token to here ![Copy dashboard token to here](https://blog.markkulab.net/content/markku/posts/jenkins-deploy-kubernetes-with-docker-for-windows/images/copy-dashboard-token-to-here.png) ### 撰寫 Jenkins pipeline ``` properties([pipelineTriggers([githubPush()])]) pipeline { agent any environment { tag = ':latest' imageShortName = 'de-next-ap' imageName = "${imageShortName}${tag}" containerName = "${imageShortName}-1" containerUrl = "192.168.50.49:2376" dockerfile = "./Dockerfile" registry = "192.168.50.49:5000/next-ec" } stages { stage("GitHub Pull") { steps { git branch: 'main', credentialsId: '946a703f-dff7-4138-84b2-0aba700dedca', url: 'git@github.com:markku636/ec.git/' } } stage("Building Docker Image") { steps { script { dockerImage = docker.build "$registry:latest" } } } stage("Deploying to Registry Server") { steps { script { docker.withRegistry("http://192.168.50.49:5000", "") { dockerImage.push() } } } } stage("Cleaning Up") { steps { sleep(time: 3, unit: "SECONDS") sh "docker rmi --force $registry:latest" } } stage("Deply") { steps { withKubeConfig([credentialsId: 'k8s-secret', serverUrl: 'https://host.docker.internal:6443']) { sh 'kubectl apply -f ./next-js-deployment.yaml' } } } } } ``` ## 在 Github next-ec 專案裡建立 Kubernetes 的 YAML 佈署設定檔(next-js-deployment.yaml) ``` apiVersion: v1 kind: Deployment metadata: name: nextjs-deployment labels: app: nextjs spec: replicas: 1 selector: matchLabels: app: nextjs template: metadata: labels: app: nextjs spec: containers: - name: nextjs image: 192.168.50.49:5000/next-ec:latest ports: - containerPort: 80 resources: limits: memory: "128Mi" cpu: "500m" --- apiVersion: v1 kind: Service metadata: name: nextjs-service spec: type: NodePort selector: app: nextjs ports: - protocol: TCP port: 80 targetPort: 80 nodePort: 30099 ``` 此時執行 Jenkins 執行建置，應該己經可以執行成功。 ![Jenkins 執行結果](https://blog.markkulab.net/content/markku/posts/jenkins-deploy-kubernetes-with-docker-for-windows/images/final.png) ## 結論 K8S 功能及配置還蠻複雜的，光配置就花蠻多時間，蠻多細節還需要花些時間實驗及測試。 ## 其他遇到問題 ### 1. no matcher for kind "Deploy" in version v1 問題 yaml 檔改了幾次版本，請依據[官方文件](https://kubernetes.io/docs/concepts/services-networking/service/#type-nodeport)撰寫最新的 YAML 佈署檔 ### 2. kubectl: command not found [需要在Jenkins 容器中安裝 kubectl](https://blog.markkulab.net/jenkins-deploy-kubernetes-with-docker-for-windows/#%E5%9C%A8jenkins-%E5%AE%B9%E5%99%A8%E4%B8%AD%E4%B8%AD%E5%AE%89%E8%A3%9D-kubectl) ## 參考資料 * [從0開始學習DevOps，並部署CICD至Java專案中 ](https://ithelp.ithome.com.tw/articles/10339029) * [通过jenkins交付微服务到kubernetes](https://blog.csdn.net/m0_53758775/article/details/121157016?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522170578082016800186589323%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fvipall.%2522%257D&request_id=170578082016800186589323&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~vipall~first_rank_ecpm_v1~rank_v31_ecpm-3-121157016-null-null&utm_term=windows%20%E5%AE%89%E8%A3%85kubernetes%20jenkins&spm=1018.2226.3001.4187) * [windows系统docker Desktop 和k8s 安装jenkins等软件 ](https://blog.csdn.net/qq_40250122/article/details/120966650?utm_medium=distribute.pc_relevant.none-task-blog-2~default~baidujs_utm_term~default-1-120966650-blog-121157016.235^v40^pc_relevant_anti_vip_base&spm=1001.2101.3001.4242.1&utm_relevant_index=4) * [Jenkins执行shell脚本报错：bash: kubectl: command not found](https://blog.csdn.net/m0_45806184/article/details/128190069) --- ## 關於本文與作者 本文出自 [Mark Ku's Blog](https://blog.markkulab.net/post/jenkins-deploy-kubernetes-with-docker-for-windows) 授權條款： [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/) — 轉載或引用請註明作者並附上原文連結 ### 關於作者 **[Mark Ku](https://blog.markkulab.net/author/mark-ku)** — Software Solution Provider - 10+ 年資深軟體工程師，現為 AI 應用 Builder - 專注大型平台架構設計，從北美電商到AI SaaS訂閱收費系統 - 結合 AI Agent 與自動化，打造高效可演進的產品技術基礎 ### 作者開發的免費工具 以下工具皆可免費使用： - [免費 PDF 簽名工具](https://blog.markkulab.net/tools/pdf-sign): 線上 PDF 簽名工具，瀏覽器內完成手繪、打字、上傳簽名，可拖曳放置、縮放、下載。所有處理都在你的裝置完成，檔案不會上傳。 - [VS Code Refactory](https://blog.markkulab.net/tools/refactory): Refactory 是一款 VS Code 重構擴充套件：34 個重構動作、37 條 code smell 檢查、Code Health 儀表板、18 種語言、534 支測試。懂你的專案慣例：介面放哪、DI 註冊寫在哪、'use client' 該不該加；還會用 git 修改頻率 × 複雜度排出「該先修哪個檔案」，並一鍵把壞味道交給你自己電腦上的 Claude Code 修。免費使用，原始碼不離開你的機器。 - [DB-Kit 資料庫管理工具](https://blog.markkulab.net/tools/db-kit): DB-Kit 是一個用 Tauri + Rust + React 打造的輕量跨平台資料庫管理工具，用單一一致的介面同時管理 MySQL、MariaDB、PostgreSQL、SQL Server、Oracle、SQLite、MongoDB、Redis、Kafka、Elasticsearch 與 RabbitMQ 十一種資料來源：連線密碼以 OS keychain 加密、SSH Tunnel、完整 CRUD、視覺化查詢建構器、多結果集同時顯示、跨連線資料傳輸與比對同步、Excel / CSV 匯入匯出、執行計畫視覺化、ER 圖、排程備份、SQL 壓力測試（p50～p99 延遲百分位）、15 條規則的 SQL 審查、Kafka 訊息瀏覽與監控告警；繁中 / 英文雙語介面，內建 AI 助手（自然語言生成 SQL、AI 審查與調校建議）與命令列工具 dbk。免費開源（MIT），提供 Windows / macOS / Linux 安裝檔。 - [VS Code Super Mermaid](https://blog.markkulab.net/tools/super-mermaid): Super Mermaid 是一款 VS Code 擴充套件：開箱即用的漂亮 Mermaid 圖表，自動上色、即時預覽、滑鼠平移縮放、PNG / SVG 高解析匯出，內建 21 種範本與多種主題。免費開源（MIT）。 - [React Super Mermaid](https://blog.markkulab.net/tools/react-super-mermaid): react-super-mermaid 是一個開源 React 元件庫：一行 即可渲染漂亮的 Mermaid 圖表，內建 colorful / sketch 主題、平移縮放、圖內搜尋、SVG / PNG 高解析匯出。輕量、SSR 安全、完整 TypeScript 型別。免費開源（MIT）。 - [Jira / Confluence Super Mermaid](https://blog.markkulab.net/tools/jira-super-mermaid): Atlassian Forge app：在 Jira issue 與 Confluence 內文直接寫 Mermaid 語法，畫流程圖、時序圖、狀態機與甘特圖。11 種圖表、SVG / PNG 匯出、明暗主題、完整中日韓文字支援。取得 Runs on Atlassian 資格：圖表存在你自己的站台，app 不呼叫任何第三方服務。免費，即將上架 Atlassian Marketplace。 - [Mermaid 線上預覽](https://blog.markkulab.net/tools/mermaid-preview): 在瀏覽器裡寫 Mermaid、即時看圖，整張圖表壓進網址就能分享。免註冊、不上傳伺服器，相容 mermaid.live 的分享連結。 - [React Intl Phone Number](https://blog.markkulab.net/tools/react-intl-phone-number): react-intl-phone-number 是一個開源 React 元件：framework-agnostic、不依賴 antd，提供 E.164 進出、可搜尋國旗 / 國碼下拉、可配置驗證等級（strict / mobile-strict / loose）、可主題化 CSS 與 i18n，電話邏輯由 google-libphonenumber 驅動。輕量、完整 TypeScript 型別。免費開源（MIT）。 - [Uptime Kuma Cluster](https://blog.markkulab.net/tools/uptime-kuma-cluster): 把單機版 Uptime Kuma 改造成高可用叢集：OpenResty + Lua 智慧負載平衡、MariaDB 共享狀態、健康檢查與自動 Failover，附叢集管理 REST API，一行 Docker Compose 啟動。免費開源（MIT）。 - [特教專案](https://blog.markkulab.net/education): 為特殊教育學生製作的學習教材 ### 每日 Podcast - [科技新鮮事](https://blog.markkulab.net/category/tech-news): 每日精選 AI 與科技趨勢，透過語音摘要快速掌握最新技術動態，涵蓋 AI 應用、軟體架構、DevOps 與工程實戰。 — RSS: https://blog.markkulab.net/feed.xml - [AI股市蝦聊](https://blog.markkulab.net/category/ai-stock-chat): 每個交易日用 AI 分析台股盤勢，以雙人對話聊當天的盤中觀察與隔日預測。 — RSS: https://blog.markkulab.net/ai-stock-chat/feed.xml ### 電子報 [訂閱電子報](https://blog.markkulab.net/subscribe) — 第一時間收到新文章通知，無垃圾信、隨時可取消訂閱。