![2024 Computex 心得 - AI PC 元年](/static/dde5ea81ee611c619d2e7e9b8ea760f0/144fe/computex-1.jpg)
今年應該是AI PC 元年,各大廠在聚焦在離線及私有的 AI,各大廠商推出自己的開源軟體生態(一堆預訓練的模型),好讓終端多買顯示卡和CPU,讓終端用戶可以自己訓練自己的AI。
台灣的Computex,大多是硬體廠商在火力展示,軟體及AI 解決方案比較少,如果要看軟體的解決方案,應該要去美國的CES 展。
我想自己訓練的成本仍然太高,跟Open AI 沒得比,但在限定的情境或離線場域,比較有機會用到,但有一天應該開源模型成熟度夠時,拿了再訓練,就能用。
花了蠻多和硬體廠商交流,順便,整理了一下,Computex 中大所使用的離線預訓練語言模型及軟體生態