Goodfire 研究员称神经网络可被理解,AI 学界激辩其主张
Goodfire 研究员 Nick Cammarata 发布 2.6 万字博客,称 LLM 的内部机制可能远比此前认为的更容易理解,从而更易监控和控制。他重新分析 2020 年 Inception v1 中同时响应汽车和猫的神经元,认为两者共有的 V 形特征是模型存储逻辑,而非此前所说的叠加纠缠。
Goodfire 研究员 Nick Cammarata 发布 2.6 万字博客,称 LLM 的内部机制可能远比此前认为的更容易理解,从而更易监控和控制。他重新分析 2020 年 Inception v1 中同时响应汽车和猫的神经元,认为两者共有的 V 形特征是模型存储逻辑,而非此前所说的叠加纠缠。
Import AI 475 期讨论了群体扩展(swarm scaling)、Google DeepMind 的 SynthID Bio 生物水印方法,以及 AI 科学经济。