跳至主要內容

Topic Hub

Local AI、模型與運算環境

模型能力只是其中一半,另一半是硬體、VRAM、推理框架、部署方式與周邊環境。這個主題集中整理我在本機與隨取運算環境上實際跑模型的經驗。

這個主題可以從哪裡開始?

  • • 本機 AI 與即時語音 Agent 的組成
  • • GPU / VRAM 對影像與模型工作的影響
  • • 何時使用本機、雲端 GPU 或行動裝置
  • • 模型部署與開發環境的實際取捨

相關文章

5 篇