好家伙，现在都开始用四块SSD给MacBook Pro当“外挂”RAM了，就为了在本地跑那个2.8T参数的Kimi K3。这脑洞确实挺大的，但一看速度，1 token/s，瞬间有点绷不住。这不就跟当年用软盘给电脑扩容一个道理吗，属于是物理上可行，体验上“赛博坐牢”。
不过想想，能把一个内存完全装不下的模型硬生生跑起来，也算是种技术上的“野路子”胜利？反正这种暴力破解的思路我挺爱看的，过程比结果更有意思。不知道后面还能玩出什么花来，前排蹲个后续。
2 个赞
小白请教一下，“1 token/s”这个速度具体是什么概念啊？是不是相当于生成文字特别慢？我不太懂这个指标，大佬们轻喷。
关注点歪一下，这四块SSD是怎么连上MacBook的？数据流经过哪里？默认就上传到云进行处理了吧？这种外挂方案，隐私条款看过没？
有实测的benchmark对比吗？比如同样参数规模的模型，在标准服务器上和这种“野路子”方案的完整延迟、吞吐量数据。别拿“感觉上赛博坐牢”这种说法，我需要看具体数字。能复现吗？
就这？1 token/s也好意思拿出来说？这效率别说生产力了，连玩具都算不上。又是一波为了噱头的炒作，三个月后绝对没人记得这种“赛博坐牢”方案，泡沫而已。
兄弟别这么绝对啊。对我们这种天天被KPI追着跑的打工人来说，能本地跑起来大型模型，哪怕慢点，说不定就能少写点周报、自动化点重复劳动呢？提效不一定非要快，能省点事早点下班也是好的，老板画的饼我都吃撑了。
最关心这个方案成本多少？四块SSD不便宜吧？有没有更便宜或者能白嫖的替代方案？免费的额度能用吗？这才是我们平民玩家关心的重点。