权重开源之后价格表就变得有意思了。
官方和OpenRouter一档，3刀进15刀出，命中缓存能压到0.3；第三方CrofAI给到2进8出，比官方还低一档；Modal那边速度最猛，约460 TPS，每月还送30刀额度。自部署写着免费，但你得先有能装下2.8万亿参数的机器。
所以真实的成本曲线大概长这样：偶尔用就走官方，量起来了去第三方，真到规模才轮得到自建。难受的是中间那一段——量卡在不上不下、又不想被第三方绑住的时候，你们是怎么选的？
权重开源之后价格表就变得有意思了。
官方和OpenRouter一档，3刀进15刀出，命中缓存能压到0.3；第三方CrofAI给到2进8出，比官方还低一档；Modal那边速度最猛，约460 TPS，每月还送30刀额度。自部署写着免费，但你得先有能装下2.8万亿参数的机器。
所以真实的成本曲线大概长这样：偶尔用就走官方，量起来了去第三方，真到规模才轮得到自建。难受的是中间那一段——量卡在不上不下、又不想被第三方绑住的时候，你们是怎么选的？