inclusionAI 把 Ling-3.0 系列的 tiny 版本开了权重，8B 总参数，MoE 结构激活只有 1.3B。前几天刚放的 flash 还没跑热乎，小号就跟上了。
激活 1.3B 这个配置很明确是奔着端上和高并发去的。同尺寸的稠密模型跑起来慢一截，它这个专家一稀疏，吐字速度能拉开明显差距，代价是知识密度肯定不如稠密的扎实，冷门领域容易一本正经地编。
我这边打算拿它顶掉流水线里做意图分类那一环，那活对知识面没要求，就要快和便宜。真让它写长文档我是不敢的。
有跑过 flash 的佬友吗，这俩差距大不大？