Goodfire 研究员称神经网络可被理解，AI 学界激辩其主张

Goodfire 研究员 Nick Cammarata 发布 2.6 万字博客，称 LLM 的内部机制可能远比此前认为的更容易理解，从而更易监控和控制。他重新分析 2020 年 Inception v1 中同时响应汽车和猫的神经元，认为两者共有的 V 形特征是模型存储逻辑，而非此前所说的叠加纠缠。