Thinking Machines Lab 发布开源权重模型 Inkling

Thinking Machines Lab 发布从零训练的开放权重模型 Inkling，采用 MoE Transformer 架构，总参数 975B、激活 41B，支持最长 1M token 上下文，预训练数据为 45 万亿 token 的文本、图像、音频和视频。