这则帖子讨论的关键事实是,当前大量 AI 流量并非开放式推理,而是分类、信息抽取、内容遮盖、审核以及结构化摘要等可重复任务。作者指出,把一个前沿模型用于所有请求在工程上更省事,因为调用路径统一、能力覆盖面大、接入成本低,可形成“默认模型”式的使用习惯;相比之下,将这些重复性任务路由给更小、更专门的模型,核心价值在于降低调用成本与响应延迟。这里的差异不在于模型是否先进,而在于任务需求与模型规模是否匹配:前沿模型适合复杂、开放、需要更强推理弹性的场景,而分类、抽取、审核这类任务往往有清晰输入输出格式和稳定评估标准,使用专用小模型可能更接近常规软件系统中的模块化分工。帖子真正提出的看点,是多模型路由会不会成为标准架构:系统先识别任务类型,再把请求分配给合适模型,用小模型处理高频、可预测、结构化任务,把前沿模型留给更难…
来源:Reddit(r/artificial)
原始发布时间:2026年8月4日 21:18