🤖 Edge AI 研究報告

• 整理開源模型與相關工具、服務等使用心得
• 實際於內部架設AI服務應用，進行多種測試
• 整理研究結果，製作精簡報告分享

📝PDF簡報

單純看簡報請按此

📂 Architecture

📁asset
  📁img     #--- 簡報圖檔
  📁json    #--- 提供模型參考與 Fine-Tuning
  📁pdf     #--- 提供模型參考
  📁raw     #--- 原始資料，轉 pdf 用
📁puslish
  📄slide.pdf   #--- 簡報pdf
📁src
  📄slide.md    #--- 簡報原始檔
📄README.md     #--- 本檔案

🌐 Live Demo

http://10.213.125.140/

• 需註冊帳號
• 系統預設帳號需開通才可使用
• 系統不具備通知功能，註冊後請通知 Brian 開通

⚠️補充說明

• 網站位於公司內部
• 外網斷線也能使用
• 所有資料均不會外流，隱私與資安等級高
• 性能不夠好 (低參數模型 + 一般PC，無GPU)
• 目前僅供測試使用

📚 Resources

• Ollama
• Docker
• Open WebUI
• Hugging Face
• unsloth
• Google Colab
• LM Studio
• AnythingLLM
• Taiwan-LLM