跳到正文

技术方向

数据与训练 最新动态

大模型是怎么练出来的:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

25 条精选近 30 天 22 条共收录 257 条

更新

精选归档 · 第 2 页

10月15日周四第 21–25 条
  1. Mistral AI74

    Mistral 发布时间序列基础模型 Timestral,最大 209M 参数

    Mistral 发布首个时间序列基础模型系列 Timestral,提供 5M、28M、123M 和 209M 四个尺寸,最大模型在 GIFT-Eval、TIME 和 fev-bench 三项公开基准上排名第一,参数量为前代 SOTA 的三分之二。

    推荐理由:原文给出四个尺寸的参数量、三项基准排名和 CPU 推理延迟,便于判断时间序列基础模型的选型边界。

10月8日周四
  1. Microsoft Research76

    微软研究院开源 Agent Lightning v1.0:约 3500 行代码的轻量智能体 RL 框架

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与训练,无需在训练框架内重新实现智能体。

    推荐理由:微软研究院开源轻量智能体 RL 框架,给出真实 harness 训练路径与 SWE-bench 提升数据,可供工程团队参考复现。

9月29日周二
  1. Microsoft Research71

    微软研究院推出面向生物学复杂性的 AI 研究系统 Quine

    微软研究院推出 AI 研究系统 Quine,由跨基因组、蛋白质、化学、RNA 与细胞状态、生物成像的多模态生物世界模型和一个连接模型、科学工具、文献与研究者的交互框架组成。

    推荐理由:微软研究院公开 Quine 的多模态生物世界模型与实验闭环设计,并给出胰腺癌细胞状态预测的湿实验验证结果。

9月23日周三
  1. Anthropic Research82

    Claude 自主发现类 CRISPR 重复序列的新型酶系统

    Anthropic 成立生命科学研究组并自建实验室,让 Claude 智能体在 DNA 数据库中自主搜索,发现了一种与 CRISPR 类似的重复序列相关的新型酶系统 ART(array-associated reverse transcriptases)。

    推荐理由:Anthropic 自建实验室,用约 950 个 Claude 智能体在 21 小时内筛出与 CRISPR 类似的重复序列系统,并公开预印本。

9月17日周四
  1. Anthropic Research78

    Anthropic 研究:Claude 如何加速生物分子建模

    Anthropic 公布研究结果,其内部通用研究模型优化了 30 多个面向结构预测、蛋白质设计、基因组学和蛋白质语言建模的深度学习模型,平均提速约 4 倍,输出完全一致时接近 2 倍,同时降低了显存占用。

    推荐理由:原文给出 Claude 优化 30 多个生物模型的具体加速倍数与显存收益,并开源代码,可据此判断智能体做推理优化的可迁移程度。