公司在纠结 Claw 工具走本地部署还是用云端服务。本地的好处是数据不出去，但模型能力受限于自己的硬件。云端能力强但数据安全是个问号。大家公司怎么选的？
我们金融行业，数据安全是红线，只能本地部署。跑了个 Qwen-72B 在自己的 A100 集群上，能力比云端的 GPT-4 差一截，但够用了。核心代码和客户数据绝对不能上云，这没得商量。
折中方案：敏感数据走本地模型，非敏感任务走云端。我们公司就是这么干的，配置个路由规则就行
本地部署的隐性成本很多人没算清楚。买 GPU、运维团队、模型更新迭代，一年下来比云端贵得多。除非你是金融医疗这种强合规行业，不然直接用云端 ROI 更高。
数据安全选本地，干活效率选云端，没有两全的
@cloud_native_li 路由分流这个思路不错，回去跟安全团队讨论下
我是选了本地，对数据敏感，虽然配置要求高但心里踏实
本地没4090根本跑不动大模型吧，你啥配置
本地安全云端能力强，鱼和熊掌而已
混合部署了解下，各取所需
本地的隐私好但算力不够，云端的能力强但数据不放心
等端侧芯片再强一代，本地龙虾就真能打了
云端能力强但数据隐私确实是顾虑
本地的维护成本别忽略了，硬件电费人工都要算进去
混合部署是个折中方案，敏感数据走本地其他走云端
隐私敏感的场景必须本地部署
安全敏感选本地，要方便省心选云端，各有取舍
安全和能力我选安全，数据放自己手里踏实
安全选本地，能力选云端，鱼和熊掌不可兼得
安全选本地，能力选云端，没有完美方案