严骏驰团队提出 JTok 与 xHC 两条 Transformer 架构改进思路

上海交通大学严骏驰团队在 CNCC 2026 演讲中介绍 JTok 与 xHC 两项 Transformer 架构改进工作。JTok 为每个 token 配置可学习参数表，通过查表与逐元素运算扩展容量，在 MoE 实验中达到同等损失所需训练算力约为底座的 65%，但推理延迟增加约 7%。