Aleph Alpha这两天把Kolibri放出来了，德英双语的MoE，总参数78.1B，每个token真正干活的只有3.46B左右，占比不到5%。上下文标的最高1M，权重Apache 2.0直接挂Hugging Face，商用不用看人脸色。
我关心的点有两个：
1、激活3B多意味着推理成本接近小模型，一张大显存卡加点内存卸载理论上能跑起来
2、它主打德语，中文基本别指望，拿来做中文应用大概率是踩坑
说白了这是给欧洲企业做"数据不出境"用的，技术报告写得挺细，Cohere那边老板都转发夸了。问题是78B的盘子只激活3B，知识密度到底撑不撑得住？有没有人已经拉下来跑过中文或者代码的？