之前大家还在猜这是不是OpenRouter上那个神秘模型,现在实锤了,权重直接挂上了Hugging Face和魔搭。
参数:总共428B,每个token激活23B,典型的大MoE小激活路线。官方说上线72小时真实用户跑了超过100万亿token,这个量有点吓人,基本说明之前免费开放那波是真有人在用。
生态这次跟得挺快,SGLang、vLLM、英伟达NeMo第一天就支持了,Together也同步上了托管。
问题来了:428B想本地跑,量化完也得大几百G显存起步,普通人基本只能看看。对公司来说倒是个能私有化部署的强选项。
有人已经拉下来跑过了吗?跟DS 4.1 Flash比编码怎么样?