自动路由真能省钱吗？便宜模型出错后，人类修一小时可能更贵

2026-11-08 · 1 分钟阅读

AI 摘要

Cloudflare通过AI Gateway推出Auto Router公测版，将模型设为cloudflare/auto后，由边缘GPU上的多头分类器按14类任务及复杂性、歧义性、风险、上下文依赖四个维度评分，再结合基准数据按“预期质量减自适应成本惩罚”选模。其公布的97任务测试显示，可靠性提升约10个百分点，成本约为原来的三分之一。但从业者质疑风险评分仅依赖最近几轮、上限8KiB的精简上下文，长会话中早期关键指令可能被忽略，导致最终执行轮风险被低估。响应头可审计路由结果，但暂不支持保存路由配置，也不支持WebSocket。基准所用模型池与基线模型存在配置差异，团队复现前需确认实际选模。