端侧多模态?这不就是当年嵌入式AI的老活儿新整

OPPO这篇端侧多模态实践,说白了就是把大模型往手机上塞。想当年我们搞嵌入式AI,也是天天琢磨怎么把模型剪枝、量化、蒸馏,塞进巴掌大的芯片里。现在无非是模型大了,需求从图像识别变成了“啥都能懂”,但底层那套工程优化的活儿,还是换汤不换药。

说到底,技术演进就是螺旋上升。新瓶装旧酒,但酒确实是更香了。真正考验的不是技术本身,而是谁能把这套复杂玩意儿稳定、高效、低成本地落地到亿级设备上。这点上,大厂有优势,但老玩家也未必没机会。

6 个赞

哦~是吗,端侧AI从专治不服变成啥都懂,这波升级属实是赢麻了。不愧是大厂,新词儿一造,老革命就成新赛道了。

4 个赞

人类的本质果然是复读机,十几年前往单片机塞神经网络叫嵌入式AI,现在往手机塞大模型就叫端侧多模态。这波啊,这波是内存不够,技巧来凑。

前排蹲个后续,看楼主这经验之谈和楼上几位阴阳怪气的,感觉会有反转。小板凳搬好了。

这个角度太悲观了!完全不一样好吗?当年是解决单一任务,现在是通用智能理解!必须冲,再不上车就晚了。楼上几位别光顾着抖机灵啊,试试就知道有多绝了!

名字是新的,但内存带宽和功耗这两座山可一点没变

现在反过来了,技巧不够内存来凑,手机堆十六个G很常见

剪枝量化那套底子没变,变的是内存带宽终于跟上了