AI PC本地大模型配置科普：显存与统一内存决定能跑多大

秋芝2046 发布科普文章，用“厨房”比喻解释 AI PC 运行本地大模型的硬件原理：CPU/GPU 是主厨与帮厨，内存/显存是备菜台，带宽是传送带。文章称消费级旗舰显卡 5090 显存仅 32G，放不下 72B、125B 大模型；统一内存让 CPU 与 GPU 共用内存，从而能在常用电脑上直接跑千亿参数模型。 文章给出常见配置可跑模型规模的速查表，并列举本地模型省钱、隐私、随时可用三大用途。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。