Mark Ku's Blog
Podcast 對話本文 AI 對話朗讀版

開場白

哈囉大家,歡迎收聽「Mark 的 Tech Insights」,我是 Mark!今天我們要聊的話題真的會讓科技迷熱血沸騰。從台積電法說會上那句霸氣的「AI 需求是真的」,到 OpenAI 終於端出會「深思熟慮」的 o1 模型,再到各大巨頭在開源與閉源之間的瘋狂廝殺。今天資訊量超大,大家咖啡準備好,我們馬上開始!


本日重點新聞

1. 台積電法說會魏哲家霸氣宣告:AI 需求是真的!調高全年營收預期

  • 來源: Bloomberg(https://www.bloomberg.com/news/articles/2024-07-18/tsmc-raises-revenue-outlook-as-ai-spurs-node-development-surge
  • 摘要: 在 2024 年 7 月的法說會上,台積電董事長魏哲家親自破除市場對 AI 泡沫的質疑,直言「AI 需求是真的(AI demand is real)」。由於高效能運算(HPC)與智慧型手機對 3 奈米、5 奈米先進製程的強勁需求,台積電調高了全年美元營收成長預期。
  • 台灣觀點: 這無疑給台灣半導體產業打了一劑強心針。當全世界都在懷疑 AI 是不是泡沫時,手握全球最先進製程的「護國神山」直接用真金白銀的財測告訴大家:別慌,訂單根本做不完。
  • 討論要點:
    1. 魏哲家的「AI demand is real」如何影響科技股的市場信心?
    2. 產能供不應求的情況下,台積電的定價策略會如何影響下游的輝達(NVIDIA)與蘋果?
  • 講稿建議: 各位聽眾,你知道最近市場上很多人在唱衰,說 AI 只是個吹出來的泡泡嗎?結果我們台積電的魏哲家董事長在法說會上,直接用一句『AI 需求是真的』把大家的質疑給頂了回去!這感覺就像是大家都還在爭論這家餐廳好不好吃,結果大廚直接端出一張排隊排到兩年後的訂單給你看。台積電不僅調高了營收預期,還暗示先進製程產能吃緊。簡單來說,現在只要你想做 AI 晶片,你就得乖乖去台灣排隊。這已經不是泡沫了,這是實打實的科技工業革命!

2. 像人類一樣思考?OpenAI 發表具備推理能力的「o1」模型

  • 來源: TechCrunch(https://techcrunch.com/2024/09/12/openai-releases-o1-its-first-llm-with-reasoning-abilities/
  • 摘要: OpenAI 正式推出代號為「Strawberry(草莓)」的全新系列模型「o1」。這款模型在回答前會進行「思考」,模擬人類的思維鏈(Chain of Thought),在科學、數學和程式碼編寫等複雜推理任務上,表現大幅超越以往的模型。
  • 台灣觀點: 對於台灣的軟體開發者與系統整合商來說,o1 的出現意味著 AI 不再只是個「會講漂亮話的聊天機器人」,而是真正能幫忙解決複雜邏輯與演算法除錯的「虛擬資深工程師」。
  • 討論要點:
    1. 「會思考」的 AI 跟以往「靠概率預測下一個字」的 AI,本質上有什麼不同?
    2. 這種需要消耗更多運算時間來換取精準度的模式,會如何改變未來的使用者體驗?
  • 講稿建議: 以前我們用 ChatGPT,它就像是搶答比賽的選手,你問題還沒說完,它就劈頭蓋臉地給你一堆答案,雖然快,但有時候根本是胡言亂語。但這次 OpenAI 剛出的 o1 模型完全不一樣!它就像是個圍棋大師,你問它一個難題,它不會馬上回答,而是會在心裡『嘖』一聲,默默思考個五秒鐘,把所有邏輯理清楚了才開口。這種『思維鏈』技術讓它在算數學和寫程式時,出錯率低得驚人。這代表我們離真正的『人工通用智慧(AGI)』又更近了一步。

3. 開發者新寵!Anthropic 推出 Claude 3.5 Sonnet,程式碼能力壓倒 GPT-4o

  • 來源: TechCrunch(https://techcrunch.com/2024/06/20/anthropic-claims-its-new-model-claude-3-5-sonnet-beats-gpt-4o/
  • 摘要: Anthropic 發表了 Claude 3.5 Sonnet,這款中階模型在多項基準測試中超越了對手的旗艦級模型,特別是在程式碼編寫、多步驟工作流和圖表分析上。同時,新推出的「Artifacts」功能讓使用者能直接在網頁上即時預覽 AI 生成的網頁或小遊戲。
  • 台灣觀點: 台灣的軟體圈和 UI/UX 設計師社群對這款模型幾乎是零負評,特別是 Artifacts 功能,讓前端開發和原型設計的效率直接翻倍,甚至有人開玩笑說這簡直是「外掛般的存在」。
  • 討論要點:
    1. Anthropic 靠著 Claude 3.5 成功在中高階市場站穩腳步,這對 OpenAI 造成了什麼壓力?
    2. Artifacts 這種即時互動介面,會如何重塑我們與 AI 協作的工作流程?
  • 講稿建議: 如果說 OpenAI 是名氣響亮的武林盟主,那 Anthropic 就像是個行事低調但內功深厚的世外高人。他們推出的 Claude 3.5 Sonnet 簡直把開發者社群給震驚了!尤其是那個 Artifacts 功能,你只要跟它說:『幫我寫一個貪食蛇遊戲。』它不僅程式碼寫得好,螢幕右邊還直接跳出一個視窗,讓你當場就可以用鍵盤玩起來!這對我們台灣許多做產品原型的設計師和工程師來說,簡直是請到了一個不喝咖啡、爆肝加班還不會抱怨的頂級神助手。

4. 麥當勞公開秘方?Meta 推出 Llama 3.1 405B 挑戰閉源巨頭

  • 來源: The Verge(https://www.theverge.com/2024/7/23/24204055/meta-llama-3-1-open-source-ai-model
  • 摘要: Meta 執行長祖克柏宣布推出開源大模型 Llama 3.1 系列,其中包含體量高達 4050 億參數的旗艦模型。祖克柏強調,開源 AI 將成為產業標準,並預測 Llama 未來將超越 GPT 系列,成為最受歡迎的模型。
  • 台灣觀點: 開源模型的強大,讓台灣許多重視資安、不希望資料外流到國外伺服器的金融業與政府機關,有了在本地端(On-Premise)佈署頂級 AI 的絕佳選擇。
  • 討論要點:
    1. Meta 堅持「開源」背後的商業算盤是什麼?他們要怎麼賺錢?
    2. 405B 的超大體量對於企業佈署的硬體設備(如 GPU 伺服器)會帶來多大的挑戰?
  • 講稿建議: Meta 這次真的太狂了!祖克柏這舉動,簡直就像是麥當勞突然宣布:『來,這是我們大麥克醬汁的祕方,全世界免費拿去用,你高興怎麼改就怎麼改!』這個 Llama 3.1 405B 是一個體量極大、能力直接逼近 GPT-4 的開源模型。為什麼這對台灣企業很重要?因為很多銀行、醫院根本不敢把敏感資料傳到 OpenAI 的伺服器去。現在有了 Llama,他們可以直接買幾台搭載輝達晶片的伺服器,在自家機房裡跑最頂級的 AI,安全又省錢。小祖這招,真的是把閉源陣營逼得要瘋掉了。

5. 蘋果 AI 的中國難題:Apple Intelligence 傳與百度洽談合作

  • 來源: Wall Street Journal(https://www.wsj.com/tech/ai/apple-has-held-talks-with-baidu-about-ai-for-its-devices-in-china-84382e21
  • 摘要: 蘋果在 WWDC 發表 Apple Intelligence 後,面臨中國嚴格的生成式 AI 監管審查。為了讓 iPhone 的 AI 功能能在中國市場順利落地,傳出蘋果正積極與百度等中國本土大模型業者洽談合作,由百度提供底層 AI 模型支援。
  • 台灣觀點: 這反映了全球 AI 地緣政治的分裂。這也讓台灣消費者在選購時會更加關注:我們買到的 iPhone,其背後的 AI 到底是美系血統,還是混雜了其他地區的技術?
  • 討論要點:
    1. 蘋果為了市場妥協,在不同地區採用不同的底層 AI 模型,這會如何影響其品牌形象與使用者體驗的一致性?
    2. 中國的監管政策如何迫使跨國科技巨頭不得不走上「一國兩制」的技術路線?
  • 講稿建議: 大家都知道蘋果今年推出了超酷的 Apple Intelligence,但當這項技術要進軍中國市場時,卻踢到了大鐵板。因為中國規定所有的 AI 模型都必須通過官方審查,這讓蘋果那些基於 OpenAI 和自家雲端的技術卡關了。怎麼辦呢?傳出蘋果找上了當地的百度合作。這感覺就像是,一家美式高檔餐廳開到當地,為了生存,不得不把招牌漢堡肉換成在地的滷肉。雖然是在地化了,但對於講究原汁原味的果粉來說,這味道還對不對,可就見仁見智了。

6. 瘋狂科學家馬斯克!xAI 打造 10 萬張 H100 的 Colossus 超級電腦

  • 來源: Tom's Hardware(https://www.tomshardware.com/tech-industry/artificial-intelligence/elon-musks-xai-officially-switches-on-colossus-100k-h100-gpu-cluster-in-just-122-days-plans-to-double-its-size-to-200k-gpus-soon
  • 摘要: 馬斯克旗下的 AI 公司 xAI,在短短 122 天內,於美國孟菲斯建置完成了名為「Colossus(巨像)」的超級電腦叢集,配備 10 萬張液冷輝達 H100 GPU。然而,如此龐大的規模也帶來了極大的電力考驗,甚至需要使用移動式發電機來應急。
  • 台灣觀點: 這台超級電腦背後的液冷技術和伺服器機架,絕大多數都是由台灣的 ODM 廠(如廣達、緯穎、雙鴻等)通宵達旦趕工出來的,再次證明台灣是 AI 硬體軍備競賽背後的最強後盾。
  • 討論要點:
    1. 馬斯克用「極限速度」蓋出這台超級電腦,這種「矽谷速度」對其他 AI 競爭對手造成了什麼樣的壓力?
    2. AI 訓練的能耗問題越來越嚴重,這會不會成為制約未來 AI 發展的最大瓶頸?
  • 講稿建議: 說到瘋狂,誰能瘋得過馬斯克?他旗下的 xAI 居然在短短 122 天內,就把 10 萬張輝達的 H100 晶片拼裝成一台叫做 Colossus 的超級電腦。122 天耶!我們一般人裝潢個客房都不止這時間了。但這台『吃電怪獸』一開機,當地的電網差點沒崩潰,馬斯克甚至還得自己弄渦輪發電機來供電。這簡直是為了喝一杯牛奶,直接在隔壁牽了一整座牧場的牛過來。不過話說回來,這台龐然大物裡面的液冷散熱技術和伺服器,可全都是我們台灣廠商爆肝做出來的。馬斯克在前面風光,台灣供應鏈在後面默默拯救世界!

結尾段落

好啦,聽完今天這六則重磅新聞,大家是不是跟我一樣,覺得現在的科技發展速度快到讓人有點喘不過氣,卻又無比興奮呢?從硬體的晶片霸主台積電,到軟體端會思考的 OpenAI o1,這場 AI 聖戰顯然才剛剛開始。感謝大家今天的收聽,如果你喜歡今天的內容,別忘了訂閱「Mark 的 Tech Insights」,並分享給身邊的科技迷朋友。我們下次再見囉,拜拜!


作者

Mark Ku

擁有 10+ 年經驗的資深軟體工程師,現為 AI 應用 Builder,專注於大型平台架構與簡化複雜系統設計,從電商系統到訂閱與收費平台,結合 AI Agent、AI 整合與自動化開發,打造高效率且可持續演進的產品技術基礎。閱讀更多

覺得這篇有幫助?

作者做的免費工具、每日 Podcast 與電子報,都在這裡。

Mark Ku · 本文採用 CC BY 4.0 授權,轉載請註明作者並附上原文連結。

留言

訂閱電子報

訂閱後即時收到新文章通知,不錯過任何技術分享。

提交即表示同意接收電子報,隨時可

熱門文章

View all
Mark Ku
··601

Oracle Cloud 永久免費方案 Linux 主機及固定 IP :0 元打造雲端解決方案

Oracle Cloud 永久免費方案 Linux 主機及固定 IP :0 元打造雲端解決方案
Mark Ku
··441

告別 Postman 收費陷阱!開源 Git 原生 API 測試神器 Bruno 實戰指南

告別 Postman 收費陷阱!開源 Git 原生 API 測試神器 Bruno 實戰指南
Mark Ku
··318

一款免費開源類似於 Notion 類知識庫系統 — Outline Wiki 佈署與備份全攻略

一款免費開源類似於 Notion 類知識庫系統 — Outline Wiki 佈署與備份全攻略
Mark Ku
··239

打造高效 API 管理平台:從 0 開始部署 Kong Gateway - Part 1

打造高效 API 管理平台:從 0 開始部署 Kong Gateway - Part 1
Mark Ku
··223

在 Ubuntu 上設置 Samba 來共享資料夾,讓 Windows 11 用戶可以存取

在 Ubuntu 上設置 Samba 來共享資料夾,讓 Windows 11 用戶可以存取
Mark Ku
··202

訓練自己的 AI 語音:硬體門檻、開源模型比較與 LoRA 微調

訓練自己的 AI 語音:硬體門檻、開源模型比較與 LoRA 微調
🎙️ AI 日報 Podcast,台積電狂潮、OpenAI 推理革命、開源大戰 - Mark Ku's Blog