使用 Langchain 和開源 Llama AI 在 Next.js 打造 AI Bot API Part 2 - 打造 AI 具有記憶功能的 AI Agent![Mark Ku]()
前言 先前有試著將 Python Langchain 換成 Node 版 ，但 Langchain node…
October 12, 2024
1 min
AI 14
使用 Langchain 和開源 Llama AI 在 Next.js 打造 AI Bot API Part 1 - 從了解 lanchain 開始![Mark Ku]()
前言 先前我利用 Langchain 來優化德國某電子商務網站的 SEO ，當時使用的是 Azure AI，不過，由於月底總是預算耗盡，我開始尋找替代方案，最終找到Facebook 開源的AI…
September 30, 2024
1 min
開源AI微調工具 - LLAMA Factory 模型微調![Mark Ku]()
接續先前 LLama factory 的微調 首先，我打算用，並用本地的資料集 (Data Set)進行訓練 定義本地資料夾 faqs 訓練檔 acer_faqs.json…
September 25, 2024
1 min
開源AI微調工具 - LLAMA Factory 環境建置![Mark Ku]()
前言 LLAMA Facotry 都是很熱門的自己微調模型的框架，因為想打造自己的客服機器人，因此參考了資料，試著嘗試想拿一些開源AI模型來調整看看。 潛在的 AI 需求 AI…
September 06, 2024
1 min
Docker 安裝AI大型語言模型 Ollama ，並實測比較CPU與GPU硬體加速效能![Mark Ku]()
背景說明 過去使用 Azure Open AI 來優化 SEO ，但由於 Azure Open AI 每月僅有 $150 美金的額度，常在月底因 MSDN…
August 26, 2024
1 min
2024 Computex 心得 - AI PC 元年![Mark Ku]()
時空背景 今年應該是AI PC 元年，各大廠在聚焦在離線及私有的 AI，各大廠商推出自己的開源軟體生態（一堆預訓練的模型），好讓終端多買顯示卡和CPU，讓終端用戶可以自己訓練自己的AI…
June 04, 2024
1 min