本地运行 AI 令人兴奋、 overwhelm 又令人沮丧

作者开始在日常中真正使用本地 AI，在 256GB 统一内存的 M5 Ultra Mac Studio 上安装了开源的自托管 AI 智能体桌面应用 Hermes Agent，并运行了 1250 亿参数、约 105GB 的 Qwen 3.8 Flash Next 模型。