手头有个需求，内网自己跑个27B左右的写代码模型，顺带测测那种带图、能出PPT的多功能AI。现在卡在显卡上：要么上英伟达A10，显存够但价格肉疼；要么两张4070组一起凑显存，便宜是便宜，可一想到多卡通信那点开销就犯嘀咕。纯文字推理双4070也许够看，但真到跑图、跑多模态那种，阵列反而可能是负提升。有没有搭过类似内网小站的佬聊聊，同样预算你会怎么配，二手渠道靠不靠谱
二手渠道有风险
多卡通信瓶颈是真的 除非上nvlink
预算多少啊 不说数没法给方案
手头有个需求，内网自己跑个27B左右的写代码模型，顺带测测那种带图、能出PPT的多功能AI。现在卡在显卡上：要么上英伟达A10，显存够但价格肉疼；要么两张4070组一起凑显存，便宜是便宜，可一想到多卡通信那点开销就犯嘀咕。纯文字推理双4070也许够看，但真到跑图、跑多模态那种，阵列反而可能是负提升。有没有搭过类似内网小站的佬聊聊，同样预算你会怎么配，二手渠道靠不靠谱
二手渠道有风险
多卡通信瓶颈是真的 除非上nvlink
预算多少啊 不说数没法给方案