华为最近发的昇腾950PR据说AI算力是英伟达H20的2.8倍。H20本来就是英伟达给中国市场特供的阉割版但也是目前国内能合法买到的最强英伟达芯片了。
2.8倍这个数据如果是真的那差距确实在快速缩小。几个问题想讨论：
- 这个2.8倍是怎么测的？跑什么benchmark？
- 实际使用中生态和软件栈跟得上吗？
- 国产芯片真的要追上来了还是又在画饼？
2 个赞
先说硬件参数：950PR的算力标称确实很猛，但芯片性能不能只看算力数字。几个关键点：
1. Benchmark水分。 厂商公布的算力通常是理论峰值跑特定算子的结果。实际跑大模型推理/训练性能跟理论值差很远。H20虽然标称低但CUDA生态加持下实际利用率很高。昇腾的实际利用率是多少？这个数据华为没怎么公开。
2. 内存带宽。 跑大模型推理时内存带宽经常是瓶颈而不是算力。950PR的内存带宽参数我没看到详细的，如果带宽跟不上算力再高也喂不饱。
3. 软件生态。 这是最大的差距。英伟达有CUDA+cuDNN+TensorRT+各种框架的深度适配。昇腾有CANN但成熟度差很多。同一个模型在昇腾上跑可能需要大量适配工作，而在CUDA上开箱即用。
结论： 硬件在追但软件生态的差距需要时间补。不是画饼但也没到"追上来了"的程度。
1 个赞
我们公司因为合规要求必须用国产芯片。在昇腾上部署大模型的真实体验：
好的方面：
- 最新一代硬件性能确实进步很大
- 华为给大客户的技术支持力度非常大，遇到问题有专人对接
痛苦的方面：
- 软件栈踩坑无数，很多开源框架不能直接跑需要适配
- 社区资源少，遇到问题搜不到解决方案
- 驱动更新偶尔会引入新bug
- 某些算子性能跟CUDA实现差距明显
总体来说：能用，但投入的工程成本是CUDA方案的3-5倍。那"2.8倍算力"省下的性能优势全被工程成本吃掉了。
4 个赞
不管昇腾现在好不好用，国产芯片必须支持。
美国的芯片禁令越收越紧，依赖英伟达就是把命脉交给别人。昇腾可能不完美但至少是自己的。
从国家战略层面来看，软件生态差就慢慢补、性能不够就继续迭代。总比哪天被彻底断供强。
1 个赞
每次华为发芯片大家就喊"追上来了"。追了多少年了？每一代都说"缩小差距"结果英伟达同期又出新的。
昇腾对标的是H20（阉割版），不是H100更不是B200。跟英伟达真正的旗舰比差距还很大。芯片行业追赶不是一朝一夕的事别太乐观。
不管国产芯片发展如何，开发者应该做的是让自己的代码尽量不绑定特定硬件。
用PyTorch这种框架层抽象底层差异，用OpenClaw这种不绑定特定模型的Agent框架。这样不管底层跑在CUDA还是CANN上你的应用层代码改动最小。
1 个赞
看下来共识是：硬件在快速进步但软件生态是短板。2.8倍算力有水分但趋势是正向的。作为普通开发者做好硬件无关的架构设计就行，等生态慢慢成熟。
1 个赞