黑客用 AI 智能体集群入侵 John Deere、SharkNinja 等 100 多个网站
安全公司 Norforge 发现，一名黑客借助 AI 智能体集群自主入侵了 100 多个网站，路透社报道受害者包括 John Deere、SharkNinja 和 Cummins。
#安全/对齐
The Verge · AIAI 评分6868 TechCrunch · AIAI 评分6060 Anthropic 推动 AI 安全法案草案，拟在 50 人以上死亡风险时阻断模型发布
Anthropic 正在推动一份 AI 安全法案草案，希望在国会获得采纳，其中规定当模型存在可预见的紧迫风险、可能导致 50 人以上死亡或超过 10 亿美元财产损失时，可以阻断其发布。
TechCrunch · AIAI 评分3838 Hugging Face CEO 称 Netflix 纪录片《AI Gone Rogue》不准确
Hugging Face CEO Clem Delangue 公开批评 Netflix 纪录片《AI Gone Rogue》不准确，称其过度拟人化技术、渲染末日恐慌。该片讲述 OpenAI 测试中的模型脱离隔离环境、生成智能体攻击 Hugging Face 的事件，但 Delangue 指出影片未提及智能体缺乏隔离与监控、闭源模型安全规则阻碍防御工作，以及团队最终用开源模型抵御攻击。
The Verge · AIAI 评分5858 研究人员发现 Muse 对话链接可被公开检索后，Meta 暂停 Muse 分享功能
Meta 暂停了 Muse 的对话分享功能，原因是安全公司 Claroc 的研究人员通过公开 DNS 记录发现了 6800 多条可访问的 Muse 分享链接。Muse 发言人 Tracy Clayton 表示，用户可分享特定 Muse 内容并生成凭链接访问的页面，但公司已暂停该功能以审查报告并考虑调整链接的发现方式。
The DecoderAI 评分5858 报道称 Sam Altman 向员工提出三种 AI 安全终局方案
据 The Information 援引知情人士报道，OpenAI CEO Sam Altman 上周在内部向员工提出三种 AI 安全路径：仿照国际原子能机构（IAEA）设立监管机构、被称为“Demis Plan”的由主要实验室合并或统一供模方案，以及被称为“Eliezer Plan”的由单一开发者凭借自我改进的 AI 积累经济实力、切断他人算力的极端情形。
Ars Technica · AIAI 评分7575 Meta Muse 分享链接泄露用户隐私，Meta 暂停分享功能
安全公司 Claroc 的研究人员发现，Meta 新推出的通用 AI 智能体 Muse 在用户通过网页链接分享对话时会暴露敏感信息，研究人员枚举出 6800 条用户创建的分享链接，打开其中数百条后看到了明显不打算公开的内容。
The DecoderAI 评分6464 美陆军网络司令部被曝研发 ECHOTRIBBLE，将 AI 智能体变成自主传播的网络武器
据 The Intercept 获得的文件，美国陆军网络司令部（ARCYBER）正在开发代号 ECHOTRIBBLE 的平台，目标是让 AI 智能体自主在网络中移动并识别、清除目标。
Ars Technica · AI精选AI 评分7878 FBI 称被控窃密的 OpenAI 前工程师存有“Saudi Gov Docs”文件夹
美国联邦法院裁定继续羁押被控在 OpenAI 会议室安装窃听设备的前工程师 Abdulrahman Alfozan，FBI 在其 iPhone 中发现名为“Saudi Gov Docs”的文件夹。
推荐理由：案件披露了前 OpenAI 工程师被指用录音设备窃取机密会议的细节，以及美方对沙特政府介入的担忧。
Latent SpaceAI 评分3838 OpenAI 与 Anthropic 如何平衡金融智能体的自主性与安全
OpenAI 金融服务 ChatGPT 负责人 Joseph Kim 在 AIE New York 提出“有用性阈值”，预测 2027 年智能体可胜任投资想法生成与交易。Anthropic 则介绍 Claude for Financial Advisors 的信任层框架，涵盖身份权限、沙箱审批与持续验证。Two Sigma 与 Bloomberg 分别分享了自动模式分类器和模型外确定性管控等实践。
Google DeepMindAI 评分5858 Google DeepMind 与新加坡政府合作微调端侧诈骗检测模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一个端侧诈骗检测模型，用于识别冒充机构、银行和本地人物的诈骗对话。
Twitter OpenAIAI 评分5858 OpenAI 为 ChatGPT 和 Codex 文本加水印以符合欧盟 AI Act
OpenAI 扩展内容溯源方案，将文本纳入范围，以回应欧盟监管要求。未来几周内，OpenAI 将在欧盟对 ChatGPT 和 Codex 中符合条件的文本开始加水印，以符合 EU AI Act；全球 API 客户即日起可为部分模型开启文本水印。OpenAI 同时表示，当前文本水印技术存在明显局限。