Ai2 发布 FairStress 基准,评测 LLM 决策中的群体公平性
Ai2 发布 FairStress 基准,用于衡量 LLM 在招聘、贷款、医疗等决策中超越最终选择的群体公平性,并已集成进 Olmo-eval。该基准包含 300 个双候选人场景、29 个领域,组合身份呈现方式与对抗性前缀后扩展出超 1300 万个测试用例,另提供 5 万条的 FairStress-Core 子集。
Ai2 发布 FairStress 基准,用于衡量 LLM 在招聘、贷款、医疗等决策中超越最终选择的群体公平性,并已集成进 Olmo-eval。该基准包含 300 个双候选人场景、29 个领域,组合身份呈现方式与对抗性前缀后扩展出超 1300 万个测试用例,另提供 5 万条的 FairStress-Core 子集。
IBM Research 在 Hugging Face 博客介绍 ALTK-Evolve:它用 GPT-4.1 分析智能体在训练任务上的成功与失败轨迹,蒸馏出简短行为准则并追加到系统提示词,无需更新模型权重或人工标注。
Google Research 发布博客,介绍三项把 AI 智能体与真实湿实验室实验衔接起来的研究:VERID 实验室工作单元语义数字孪生框架、适配体闭环设计原型,以及 FAP 靶点的 de novo 蛋白结合体设计。
推荐理由:Google Research 用三个项目展示智能体如何接入湿实验室的物理状态与闭环实验,读者可了解其自动化科研路径与安全约束。
微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序执行过程,并返回可在约 12 毫秒内验证的简短证明。在 15 个基准程序上,它比同机最快的现有 zkVM 平均快 10 到 39 倍,在笔记本上每秒可证明 720 万至 870 万条 RISC-V 指令。其安全性仅依赖 SHA-256、SHA-3 等标准哈希函数,不需要椭圆曲线、格假设或可信设置。
推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何在通用性、速度与标准哈希安全之间同时取得进展。
Google 发布 Geospatial Reasoning 智能体技术报告,在四个基准上对比独立 LLM、基础工具、Earth AI 工具和完整规划智能体四种配置,并新开源 GeoKTools 与 GeoExpertQueries 两个基准的开发集。
推荐理由:技术报告用四个基准对比四种配置,量化了领域工具与前置规划对地理空间推理的增益。
微软研究院提出 StudentSim,从公开的去标识化学习记录训练个性化 AI 学生模拟器,在辅导前评估和改进 AI 辅导系统。该工作同时发布 StudentSimEval 基准,覆盖国际象棋、英语二语写作和数学,从行为保真度与指导响应性两个维度评估模拟器,StudentSim 在这三个领域均优于领先基线。StudentSim 仅为研究系统,未部署于课堂,也不用于替代教师。
Google Research 与 NBER 发表了一项为期三个月的专利撰写实地实验,133 名律师随机获得当时尚未发布的 Google Labs AI 专利撰写工具(现属 Gemini Notebook)的使用权。
推荐理由:三个月实地实验区分了AI带来的即时产出提升与无辅助判断力的变化,对理解人机协作中的技能养成有参考价值。
Google Research 以 Google Earth AI 的 Population Dynamics Foundation Model(PDFM)为概念验证,展示自监督预训练的地点嵌入向量可作为即插即用输入接入现有流行病学模型,无需任务特定微调。
Google 发布《智能体隐私与安全中的开放与新兴问题:上下文视角》研讨会报告,汇集 50 多位学界与业界专家,梳理自主智能体在系统、模型、用户和生态层面面临的基础性隐私与安全挑战。报告以上下文完整性(CI)理论为基础,将隐私重新定义为符合社会规范的"适当信息流",并主张用上下文策略引擎在执行前评估智能体行为是否恰当。报告还提出系统级沙箱、模型级推理与用户控制的多层防护思路。
GitHub 发布 AI 代码审查开放基准 ReviewBench,基于 1.039 亿个 GitHub PR 的分布特征,构建了覆盖 19 种语言、219 个公开 PR 的评测集。
Google Research 发布新一代联邦学习系统,借助可信执行环境(TEE)让数据匿名化过程可被远程验证和审计,并称隐私保证更强、模型精度更高。设备上传的加密训练数据只能在符合访问策略的 TEE 内解密处理,访问策略发布到公开透明日志 Rekor,KMS 与数据处理二进制可从开源代码复现构建。Gboard 已采用该系统上线英语和日语下一词预测模型,训练速度明显快于此前系统。
微软研究院实习生构建的机器学习流水线可为美国本土66,935座变电站生成30-60分钟前的空间天气风险预警,评估期内检出近80%的重大事件。系统结合AE与Dst指数预报、纬度、地质电导率与电网数据,Dst预测在2020-2026年活动高峰时段有62.2%的小时优于Burton方程。
Google DeepMind 推出 SynthID Bio,把水印技术用于合成生物学,将不可感知的签名直接嵌入生物代码,并能在合成出的实体蛋白质上验证,同时保持其生物功能。
推荐理由:原文说明了水印如何嵌入蛋白质序列与结构,并给出湿实验验证结果,读者可据此判断其对生物安全筛查的意义。
微软研究院推出 AI 研究系统 Quine,由跨基因组、蛋白质、化学、RNA 与细胞状态、生物成像的多模态生物世界模型和一个连接模型、科学工具、文献与研究者的交互框架组成。
推荐理由:微软研究院公开 Quine 的多模态生物世界模型与实验闭环设计,并给出胰腺癌细胞状态预测的湿实验验证结果。
研究团队为 K-Search 增加 MLX 后端和结构化 CUDA-to-MLX 翻译层,让进化式内核搜索把已有 CUDA 内核当作知识库,在 Apple Silicon 上生成高质量内核。
推荐理由:原文给出从 CUDA 到 MLX 的结构化翻译层与两组内核实测数据,可看跨平台内核经验迁移的具体做法。
Berkeley AI Research 提出 ABBEL 框架,将 LLM 的摘要内容隔离并监督为自然语言"信念状态",替代完整交互历史作为智能体的工作上下文。在 CollabBench 协作编程任务上,基于重建的信念评分将 ABBEL 与全上下文模型的性能差距缩小约 50%,训练步数从 100 步降至 50 步,峰值上下文 token 数也显著低于全上下文设置。
伯克利 AI 研究团队综述并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开启多少并发线程以及如何协调。现有方法如自一致性、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定,未教会模型自适应行为。
Berkeley AI Research 提出梯度规划器 GRASP,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代中注入随机性以探索、并重塑梯度让动作获得清晰信号,从而让世界模型的长时程规划更稳健。该方法针对长时程 rollout 中梯度爆炸/消失、非贪心结构导致局部极小值以及高维视觉模型“状态-输入”梯度脆弱等问题。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在大规模场景下识别 LLM 中驱动输出的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层次结构,以约 10x 更少的消融达到 SPEX 的性能。在情感分析任务上,SPEX 在上下文扩展到数千特征时仍保持高忠实度,优于 LIME、Banzhaf 等方法。
Berkeley AI Research 提出一种直接以互信息评估和优化成像系统的框架,仅用带噪测量和噪声模型即可量化测量对物体的区分能力。该信息指标在彩色摄影、射电天文、无透镜成像和显微镜四个领域预测了解码器性能,优化后的设计达到 SOTA 端到端方法水平,且内存和算力需求更低、无需任务专用解码器。