Google 开源 TorchTPU,让 PyTorch 应用无需重写即可跑在 TPU 上
Google 周二宣布开源 TorchTPU,这是 PyTorch 的 TPU 版本,开发者只需改配置、无需重写应用,就能把现有 PyTorch 应用迁移到 Google 的 TPU 和 Google Cloud。
推荐理由:Google 与 Amazon 先后推出 PyTorch 的 TPU 与 Trainium 适配版本,读者可据此观察非 Nvidia 硬件生态的推进方式。
Google 周二宣布开源 TorchTPU,这是 PyTorch 的 TPU 版本,开发者只需改配置、无需重写应用,就能把现有 PyTorch 应用迁移到 Google 的 TPU 和 Google Cloud。
推荐理由:Google 与 Amazon 先后推出 PyTorch 的 TPU 与 Trainium 适配版本,读者可据此观察非 Nvidia 硬件生态的推进方式。
NVIDIA 发布 Cosmos3-H-Dreams,把交互式生成仿真扩展到临床胆囊切除术场景,可依据器械动作实时生成体内手术画面。模型基于 160 亿参数的 Cosmos3-H-Embodied-Nano,用 Versius 平台临床录像与运动学数据训练,提供四步和两步去噪两个检查点,经 FlashDreams 加速后可在单张 RTX PRO 6000 GPU 上交互运行。
推荐理由:原文交代了从桌面任务到临床场景的训练路径、四步与两步蒸馏检查点,以及单卡实时推理的部署方式。
Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 在 MPS 后端的更新,新增 torch.float8_e4m3fn 张量与 F.scaled_mm,FP8 张量占用为 BF16 的一半。
推荐理由:原文列出 MPS 后端在 FP8、MoE 解码和显存占用上的具体变化,可据此判断 Mac 本地跑模型的实际收益。
Hugging Face 宣布接入 TorchTPU 这一原生 PyTorch 后端,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,不再需要 torch_xla 或 Optimum TPU。
推荐理由:原文给出了安装命令、device_map 用法和实测加速数据,读者可据此判断 PyTorch 模型迁移到 TPU 的成本。
Hugging Face 宣布 TorchNeuron 作为 PyTorch 在 AWS Trainium 上的原生后端,将于 2026 年 10 月 20 日进入公开测试,可通过 pip install torch-neuronx 安装。
推荐理由:原文给出 TorchNeuron 在 HF 库中的接入方式与支持比例变化,读者可据此判断 Trainium 上的迁移成本。
美国新实验室 Reflection 的首个模型 Beam 已在 Hugging Face 开源,采用 MoE 架构,总参数 501B、每 token 激活 23B,支持 1M token 上下文,Apache 2.0 许可,面向编码与智能体场景。
推荐理由:原文给出 501B MoE 模型的架构细节、多精度基准与部署配置,可据此判断自托管前沿模型的门槛。