AWS 详解 vLLM 双向 KV 传输如何降低多轮智能体 TTFT
AWS 团队介绍 vLLM 中的双向 KV 传输机制，让 decode 节点在后续轮次把已算好的 KV 块回传给 prefill 节点，避免重复计算对话历史。在 Amazon EC2 P5en 实例、EFA 互联的 1P1D 部署上，该机制使 Qwen3-32B 的 TTFT 最多降低 1.6 倍、zai-org/GLM-5-FP8 最多降低 3.3 倍。
全部 AI 动态
AWS Machine Learning BlogAI 评分5858 AWS Machine Learning BlogAI 评分4242 vLLM 推出基于 push 的 KV 传输，提升分离式推理的 TTFT 与 TPOT
vLLM 新增 push 模式的 NIXL connector，把 prefill 后的传输协调与准备工作移出关键路径，从而降低 TTFT 和 TPOT。在基于 Amazon EC2 P5en 实例、通过 EFA 连接的 1P1D 部署上，Qwen3-32B 的测试显示 TTFT 最高提升 3 倍、TPOT 最高提升 30%。
AWS Machine Learning BlogAI 评分2929 Deepgram 如何用 AWS Trainium2 优化大规模语音 AI 推理
Deepgram 与 AWS 合作将 Nova-3 语音转文字模型移植到 Trainium2，用于联络中心分析、医疗转写等离线批处理场景。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本，每美元处理的音频量比原有算力方案高 11%–70%。优化包括 TorchNeuron 原生 PyTorch 编译、NKILib 融合内核替换与手写 NKI 内核调优。
AWS Machine Learning BlogAI 评分5252 TwelveLabs Pegasus 1.5 上线 Amazon Bedrock
TwelveLabs 的视频语言模型 Pegasus 1.5 已在 Amazon Bedrock 上线，可将长视频按用户定义的分段条件输出带起止时间的结构化 JSON 元数据。
AWS Machine Learning BlogAI 评分3636 Amazon SageMaker JumpStart 2026 年至今回顾：新增 100+ 模型
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增超 100 个模型，覆盖 30 家提供商。
AWS Machine Learning BlogAI 评分3838 新用户可通过全新 AWS 注册体验直接进入 SageMaker Studio
Amazon SageMaker AI 新客户现在可用 Google、GitHub、Apple、Amazon 账号或邮箱在 2–3 步内注册 AWS，并自动在约 20 秒内创建配置好的 SageMaker Studio 环境。
AWS Machine Learning BlogAI 评分5555 Amazon Bedrock 为 Anthropic Claude 模型上线结构化输出
Amazon Bedrock 在 bedrock-runtime 和 bedrock-mantle 两个端点上为所有 Anthropic Claude 模型提供结构化输出，返回符合 JSON Schema 的响应，无需自定义解析或重试逻辑。
AWS Machine Learning BlogAI 评分3434 用 AtScale 和 Amazon Bedrock AgentCore 在 AWS 上为智能体 AI 构建语义层
AWS 博客演示用 AtScale 作为语义层、在 Amazon Redshift 上构建 Customer 360 模型，并通过 MCP 暴露给 AgentCore 托管的 Strands 智能体。
AWS Machine Learning BlogAI 评分3434 用 Strategy Mosaic 与 Amazon Bedrock AgentCore 在 AWS 上为智能体 AI 构建语义层
AWS 发布教程，演示如何用 Strategy Mosaic 作为语义层、在 Amazon Bedrock AgentCore 上运行 Strands 智能体，跨 Amazon Redshift 与 Amazon Aurora 建模 C360 域且无需 ETL。
AWS Machine Learning BlogAI 评分3434 用 Denodo 和 Amazon Bedrock AgentCore 在 AWS 上为智能体 AI 构建语义层
AWS 博客演示用 Denodo Platform 作为语义层、配合 Amazon Bedrock AgentCore 托管智能体，联邦查询 Amazon Aurora、Amazon Redshift 和本地 PostgreSQL 三处数据源。
AWS Machine Learning BlogAI 评分4040 Eon 如何用 Amazon Bedrock AgentCore 上的 MCP Gateway 构建多云调查能力
Eon 基于 Amazon Bedrock AgentCore 的 MCP Gateway 搭建了统一的多云调查入口，用单一认证网关替代逐工具凭证和本地 MCP 进程，让开发者与自主智能体统一访问 AWS、GCP、Azure 三朵云上的调查工具。
AWS Machine Learning BlogAI 评分5252 i14 与 AWS 如何在 Trainium2 上用原生 PyTorch 训练和部署 Laplace 3B 线性注意力模型
i14 与 AWS 合作，通过 TorchNeuron Native 的原生 PyTorch 支持，把采用 Gated Linear Attention 的 Laplace 3B 移植到 AWS Trainium2，保留了 GLA 结构和 Muon 优化器。
Hugging Face Blog精选AI 评分6262 NVIDIA 发布 Cosmos3-H-Dreams 手术生成式仿真模型
NVIDIA 发布 Cosmos3-H-Dreams，把交互式生成仿真扩展到临床胆囊切除术场景，可依据器械动作实时生成体内手术画面。模型基于 160 亿参数的 Cosmos3-H-Embodied-Nano，用 Versius 平台临床录像与运动学数据训练，提供四步和两步去噪两个检查点，经 FlashDreams 加速后可在单张 RTX PRO 6000 GPU 上交互运行。
推荐理由：原文交代了从桌面任务到临床场景的训练路径、四步与两步蒸馏检查点，以及单卡实时推理的部署方式。
AWS Machine Learning BlogAI 评分3636 Smartsheet 在 AWS 上线 MCP Server，AI 智能体可读写工作管理数据
Smartsheet 已在 AWS 上线正式可用的 MCP Server，AI 助手可通过标准化协议读写和管理 Smartsheet 数据，覆盖 40 多个用于探索、创建和管理 sheet、行、列及自动化的工具。该服务提供三个区域端点，支持 OAuth 2.0 或 Personal Access Token 认证，可接入 Amazon Quick 和 Kiro 等 MCP 客户端。
AWS Machine Learning BlogAI 评分3838 用 Amazon Quick 与 Amazon Bedrock AgentCore 构建对话式供应链智能
AWS 展示用 Amazon Quick 作为交互界面、Amazon Bedrock AgentCore 作为智能层，通过 MCP 服务器把 ERP、监控、采购等系统串成可组合工具层，让供应链管理者用自然语言跨系统提问。
AWS Machine Learning BlogAI 评分3838 在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理
针对 GPT-OSS-20B 在多语言推理测试中仅 22% 用目标语言思考的问题，AWS 在 Amazon SageMaker HyperPod 上用 SFT 与 GRPO 进行微调。结论是 SFT 承担大部分工作，GRPO 在存在提升空间时进一步优化，技术选择需匹配能力差距。团队还通过 Qwen2.5-7B 对照实验验证了 GRPO 的适用条件。
AWS Machine Learning BlogAI 评分3434 Octave 如何基于 Amazon Bedrock 构建安全多租户 AI 基础平台
Octave 在 Amazon Bedrock 上用 Cohere Embed v4 构建三层多租户 AI 基础平台，将每个用例的部署时间缩短 50%。该平台把 20 亿份文档嵌入按租户隔离的 Amazon OpenSearch Service 向量库，并通过 AgentCore Gateway 与隔离 microVM 调用 Anthropic Claude 模型。
AWS Machine Learning BlogAI 评分3434 加拿大 AWS 区域可通过跨区域推理在 Amazon Bedrock 上使用 OpenAI GPT 模型
Amazon Bedrock 的跨区域推理（CRIS）现支持从加拿大（中部）和加拿大西部（卡尔加里）区域调用 OpenAI GPT-5.6（Sol、Terra、Luna）、GPT-6（Astra、Sol、Luna）和 GPT-6.1 Sol。
AWS Machine Learning BlogAI 评分5858 AWS Agent Registry 如何在运行时发现工具
AWS 发布教程，介绍如何用 AWS Agent Registry 在运行时按需发现 MCP 服务器和 A2A 智能体，而不是把工具硬编码进编排器。
Hugging Face BlogAI 评分5858 Ai2 发布 FairStress 基准，评测 LLM 决策中的群体公平性
Ai2 发布 FairStress 基准，用于衡量 LLM 在招聘、贷款、医疗等决策中超越最终选择的群体公平性，并已集成进 Olmo-eval。该基准包含 300 个双候选人场景、29 个领域，组合身份呈现方式与对抗性前缀后扩展出超 1300 万个测试用例，另提供 5 万条的 FairStress-Core 子集。
GitHub Blog · AI & MLAI 评分2222 三位 Java Champion 如何用 GitHub Copilot 提升生产力
GitHub 博客采访了 Vlad Mihalcea、Patrick Baumgartner 和 Frank Delporte 三位 Java Champion，分享在生产与开源项目中使用 GitHub Copilot 的实践。
AWS Machine Learning BlogAI 评分3838 在 AWS 上用 X.509 PKI 保障 AI 智能体身份安全
AWS 与 Keyfactor 联合发布参考架构，用 Keyfactor EJBCA 的 X.509 PKI 为 AI 智能体建立可验证、可撤销的加密身份。
Microsoft ResearchAI 评分1212 微软研究院播客：Catalyst Lab 负责人 Chris White 谈从阿富汗到反人口贩运的技术之路
微软研究院播客对话 Catalyst Lab 负责人 Chris White，回顾他从哈佛博士后、DARPA 项目经理到阿富汗战场先进技术负责人，再到开发暗网搜索工具打击人口贩运的经历。他因相关工作获得 2016 年美国总统打击人口贩运杰出贡献奖。节目还讨论问题选择在创新中的作用，以及见证人性阴暗面后如何保持希望。
Hugging Face BlogAI 评分5858 ALTK-Evolve 用学习到的记忆让 GPT-4.1 客服智能体登顶 τ²-bench 零售榜
IBM Research 在 Hugging Face 博客介绍 ALTK-Evolve：它用 GPT-4.1 分析智能体在训练任务上的成功与失败轨迹，蒸馏出简短行为准则并追加到系统提示词，无需更新模型权重或人工标注。
Mistral AI精选AI 评分8282 Mistral 发布 Voxtral 3 语音模型家族与语音智能体 SDK
Mistral 发布 Voxtral 3 语音模型家族及基于 LiveKit 的语音智能体 SDK，把听、推理、工具调用和说话整合进一条实时流式管线，每轮响应在 1 秒内完成。
推荐理由：原文给出语音智能体 SDK 与转录、合成模型的完整规格和定价，可据此评估实时语音工作流的落地成本。
OpenAI NewsAI 评分2222 Schlotzsky's 与 Cinnabon 加盟商用 ChatGPT Work 将对账时间缩短 94%
一家独立经营 Schlotzsky's 和 Cinnabon 的加盟商借助 ChatGPT Work 将对账时间缩短 94%，菜单重新定价时间减少 95%。该加盟商还搭建了一套工作流，有望释放 10 万美元现金流。
OpenAI NewsAI 评分3737 Terminal X 用 GPT-6.1 让 Eval Agent 与资深投资人判断一致率达 88.6%
Terminal X 的 Eval Agent 基于 54 项标准评分体系，使用 GPT-6.1 Sol 对输出进行打分，与资深投资人的判断一致率达到 88.6%。相比此前方案，该 Agent 多捕捉到 25% 偏离基金投资授权的输出。
NVIDIA BlogAI 评分2525 西班牙初创企业借助巴塞罗那超级计算中心推进区域创新
巴塞罗那超级计算中心（BSC）的 AI Factory 加速器计划在试点后全面运营，为初创企业提供主权算力、技术支持和培训，部分服务已可通过 NVIDIA Inception 门户获取。
Hugging Face BlogAI 评分5858 AnyLanguageModel 1.0 发布：Apple 平台本地模型一年进展
Hugging Face 发布 AnyLanguageModel 1.0，同时推出 swift-huggingface 1.0 和 swift-xet 1.0。
Hugging Face Blog精选AI 评分6262 PyTorch 2.15 为 MPS 后端带来 FP8 与更快的 LLM 解码
Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 在 MPS 后端的更新，新增 torch.float8_e4m3fn 张量与 F.scaled_mm，FP8 张量占用为 BF16 的一半。
推荐理由：原文列出 MPS 后端在 FP8、MoE 解码和显存占用上的具体变化，可据此判断 Mac 本地跑模型的实际收益。
OpenAI News精选AI 评分6262 OpenAI 收购 Orchestra Bio，将 AI 运营引入生命科学研发
OpenAI 宣布收购 Orchestra Bio，把 AI 驱动的运营能力带入生命科学研发，帮助生物制药团队加快药物开发并推进新疗法。原文未披露交易金额与其他条款。
推荐理由：OpenAI 通过收购 Orchestra Bio 进入生命科学研发场景，读者可据此观察其业务边界从模型向行业运营延伸。
Hugging Face Blog精选AI 评分7171 Hugging Face 支持 TorchTPU：Transformers 与 Diffusers 原生运行在 TPU 上
Hugging Face 宣布接入 TorchTPU 这一原生 PyTorch 后端，Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行，不再需要 torch_xla 或 Optimum TPU。
推荐理由：原文给出了安装命令、device_map 用法和实测加速数据，读者可据此判断 PyTorch 模型迁移到 TPU 的成本。
NVIDIA BlogAI 评分3838 德国想引领全球工业 AI：NVIDIA 将如何助力
NVIDIA 与德国联邦政府签署联合意向声明，将围绕物理 AI 前沿模型展开合作，并接入德国“工业 4.0 平台”。黄仁勋同时宣布对 Agile Robots、Avelios Medical、Mirelo 和 Reflex Aerospace 四家德国初创公司的新投资，属于 NVIDIA 对欧洲近 100 亿美元承诺的一部分。
GitHub Blog · AI & MLAI 评分3636 如何在 VS Code 中继续 GitHub Copilot 应用会话
GitHub Copilot 应用中的会话可直接在 VS Code 中打开并继续，保留原有对话、代码改动和工作上下文。VS Code 会以该会话关联的 worktree 打开项目，并在 Copilot 侧边栏显示原会话，便于逐行审查 diff、手动编辑、本地运行测试，最后提交并推送到会话对应的 pull request。
NVIDIA BlogAI 评分3838 NVIDIA 与 EBU、Adobe 推进媒体智能体安全：主权云、开放模型与视频搜索加速
NVIDIA 与欧洲广播联盟（EBU）扩大主权框架合作，引入主权云厂商、开放模型开发者和系统集成商，明确广播机构部署智能体时对数据、基础设施、模型与安全的控制要求，NVIDIA Nemotron 开放模型可供定制。
OpenAI NewsAI 评分3535 OpenAI 提升 ChatGPT 对低资源编程语言的支持
OpenAI 正在改进 ChatGPT 在低资源编程语言上的表现，并新增了针对软件工程、SQLite 和 COBOL 迁移的评测。原文未披露具体模型版本、分数或可用性细节。
Hugging Face Blog精选AI 评分6060 Hugging Face 为 AWS Trainium 推出 TorchNeuron 原生后端
Hugging Face 宣布 TorchNeuron 作为 PyTorch 在 AWS Trainium 上的原生后端，将于 2026 年 10 月 20 日进入公开测试，可通过 pip install torch-neuronx 安装。
推荐理由：原文给出 TorchNeuron 在 HF 库中的接入方式与支持比例变化，读者可据此判断 Trainium 上的迁移成本。
NVIDIA Blog精选AI 评分6060 NVIDIA RTX Spark 笔记本上市，起售价 2399 美元
NVIDIA RTX Spark 笔记本已上市，搭载 Blackwell RTX GPU 与 Grace CPU，最高 128GB 统一内存和 1 petaflop AI 算力，起售价 2399 美元。
推荐理由：RTX Spark 笔记本把 Blackwell RTX GPU 与 Grace CPU 装进轻薄 Windows 机型，读者可据此了解本地 AI 的硬件门槛与价格起点。
OpenAI NewsAI 评分2525 Itaú 如何用 ia.i 与 IARA 为全部客户构建生成式 AI
Itaú 通过对话式界面 ia.i 和治理平台 IARA，把 AI First 战略同时落到客户与员工两端。ia.i 面向客户提供对话式服务，IARA 负责治理，二者支撑其在巴西高度监管的金融行业中推进生成式 AI。
Google Research精选AI 评分7474 Google Research 介绍让 AI 智能体接入湿实验室的三项研究
Google Research 发布博客，介绍三项把 AI 智能体与真实湿实验室实验衔接起来的研究：VERID 实验室工作单元语义数字孪生框架、适配体闭环设计原型，以及 FAP 靶点的 de novo 蛋白结合体设计。
推荐理由：Google Research 用三个项目展示智能体如何接入湿实验室的物理状态与闭环实验，读者可了解其自动化科研路径与安全约束。