有个讨论我觉得值得摆出来聊：把一个七十亿到一百四十亿参数的模型，用监督微调、低秩适配、蒸馏、检索增强这些手段堆一遍，能不能在自己那个垂直领域里逼近大模型？
常见说法是能。但落到生产上，我看到的情况更复杂。单项任务上确实能打平甚至反超，比如固定格式的抽取、分类、模板化的生成，这些活小模型加检索完全够用，延迟和成本还低一大截。
真正拉开差距的是两种场景：一是需要多步推理并且中间要自己纠错的，小模型一步走岔就回不来；二是遇到训练分布外的边角输入，大模型会含糊其辞地兜住，小模型直接胡说。
所以我的结论偏保守：小模型适合放在流程里做确定的那一段，不适合让它当决策者。
有在生产上真跑起来的吗，你们踩的坑在哪？