Locals 让多个 Agent 共用一台 Mac 的本地模型

GitHub 上的 Generated-Computers/Locals 项目把模型服务留在一台 Apple Silicon Mac 内，让已有客户端连到同一个本地接口，从而让多个 Agent 共用本地模型。 安装需有 uv，在 macOS 14+ 终端执行 uv tool install --python 3.12 locals；首次要下载模型，内存还需容纳上下文与并发请求。 官方特定实验的总吞吐提升不能理解为每个 Agent 都获得同样倍数的提速；本地推理也不替外部 Agent 工具约束联网与文件操作。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。