跳到正文
V2EX · XNA· versun·· 20 小时前AI 评分22

用决策模型为 magpie 做推理强度与意图分流:vLLM d3 实测准确率约为 clef、jef 的 4 倍

有用决策模型给 magpie 进行推理强

AI 导读

有开发者用 vLLM 的 d3 决策模型为 magpie 做推理强度与意图分流,实测准确率比 clef、jef 高约 4 倍,参照的是 opus 5.5 的决策。该模型目前免费,额度给得较多。

来源:V2EX · XNA · versun.me