Cloudflare 推出 AI Gateway Auto Router 公测版

Cloudflare 通过 AI Gateway 推出 Auto Router 公测版：用户将模型设为 cloudflare/auto 后，由分类器为每个请求选择模型。Cloudflare 称其基准测试包含 97 个任务、每个模型采样三次，可靠性提高约 10 个百分点，成本约为原来的三分之一。 公测期间免费，之后价格尚未公布；目前只支持 Chat Completions 和 Responses API，不支持 WebSocket。可通过 cf-aig-allowed-models 和 cf-aig-allowed-providers 请求头针对单个请求限制模型池，但尚不能保存为路由配置文件。 有从业者质疑其风险评分只依据最近几轮的精简上下文，长会话中较早的风险信息可能被忽略。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。