DeepSeek官方号刚发的:面向华为昇腾的基础设施组件全部开源,TileLang编译工具、DeepGEMM、DeepEP、TileKernels、FlashMLA、DeepSelect,跟之前放出来的英伟达版本是一一对应的关系。
这事的分量不在某一个库多快,而在“对应”两个字。以前团队想从N卡往昇腾挪,最头疼的就是算子要重写、通信库要重调,一套推理栈搬过去小半年。现在如果接口和结构都对齐了,理论上改的是后端不是业务代码。
当然实际跑起来性能差多少还得等人测,编译链稳不稳也是个问号。有在昇腾上部署过的来说说,之前最大的坑是在算子还是在通信?