Goodfire 研究员称神经网络可被理解,AI 学界激辩其主张
Goodfire 研究员 Nick Cammarata 发布 2.6 万字博客,称 LLM 的内部机制可能远比此前认为的更容易理解,从而更易监控和控制。他重新分析 2020 年 Inception v1 中同时响应汽车和猫的神经元,认为两者共有的 V 形特征是模型存储逻辑,而非此前所说的叠加纠缠。
Goodfire 研究员 Nick Cammarata 发布 2.6 万字博客,称 LLM 的内部机制可能远比此前认为的更容易理解,从而更易监控和控制。他重新分析 2020 年 Inception v1 中同时响应汽车和猫的神经元,认为两者共有的 V 形特征是模型存储逻辑,而非此前所说的叠加纠缠。
斯坦福大学博士生Samuel King用生成式AI模型提出微型病毒的遗传蓝图,这还不是AI生成生命的实例,但可能是下一步。MIT科技评论AI记者James O'Donnell就此采访了他,话题还包括他入选Innovators Under 35以及观察生物学的新方式。
RAND 发布报告,建议美国在通往超级智能的不确定路径上采取"自由行动"战略,通过投资 AI 安全、保留人类能动性和构建 AI 安全架构来维持地缘政治优势。报告还梳理了共存、拒止、加速三类共七种原型战略,并列出危险临近程度、共存可行性等五项关键不确定性。
伯克利 AI 研究团队综述并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开启多少并发线程以及如何协调。现有方法如自一致性、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定,未教会模型自适应行为。