Goodfire 研究员称神经网络可被理解,AI 学界激辩其主张
Goodfire 研究员 Nick Cammarata 发布 2.6 万字博客,称 LLM 的内部机制可能远比此前认为的更容易理解,从而更易监控和控制。他重新分析 2020 年 Inception v1 中同时响应汽车和猫的神经元,认为两者共有的 V 形特征是模型存储逻辑,而非此前所说的叠加纠缠。
Goodfire 研究员 Nick Cammarata 发布 2.6 万字博客,称 LLM 的内部机制可能远比此前认为的更容易理解,从而更易监控和控制。他重新分析 2020 年 Inception v1 中同时响应汽车和猫的神经元,认为两者共有的 V 形特征是模型存储逻辑,而非此前所说的叠加纠缠。
Import AI 作者在 IMF 曼谷会议的 Per Jacobsson 讲座上表示,今年已出现令人信服的证据,表明奇点已经开始。他以 Anthropic 内部研究人员产出的代码量接近公司前四年 10 倍为例,说明 AI 已能增强并自动化部分人类劳动,并呼吁经济学家、银行家和政策制定者预期未来的快速变化。
Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 在《How the Claude Code team does code review》中提出,"人是否读过代码"只是判断变更风险的粗略代理指标。他们指出审查已从合并前的最后关卡变为持续进行,多数变更在人工查看前已由 Claude 至少审查并修复过一次,从而把团队注意力留给更高层问题。
Anthropic 发布报告称,Z.ai 于 8 月发布、可自由下载修改的 GLM-5.3 构成重大网络攻击风险,再度点燃开放权重模型之争。目前闭源模型能力仍领先,Artificial Analysis LLM 榜单前八名均为闭源,但开源模型仅落后数月。支持者认为开放模型可降低成本、便于学术研究并防止权力集中,反对者则担忧其易被滥用。