本地大模型能力飞速进步：还需要云端 API 吗

综合交流大区
, , ,
1

Llama 4、Qwen 3、DeepSeek V3 等本地可跑的模型越来越强了。龙虾还需要云端 API 吗？

本地模型现状

可以做到的

  • 日常对话：Llama 4 8B 完全够用
  • 简单代码补全：DeepSeek Coder 表现不错
  • 翻译：Qwen 3 中英翻译质量可以接受
  • 摘要：本地模型就能做

还做不到的

  • 复杂推理：和 Claude Opus 还有明显差距
  • 长上下文：本地模型通常只有 8K-32K
  • 复杂代码审查：需要理解大量上下文

在龙虾里混合使用

最佳方案是混合使用：

models:
  # 简单任务用本地模型（免费）
  casual_chat: ollama/llama4-8b
  translation: ollama/qwen3-7b
  # 复杂任务用云端 API
  code_review: claude-opus-4-6
  complex_reasoning: claude-sonnet-4-6

这样大部分请求走本地模型，只有复杂任务才调云端 API。

成本影响

混合方案的 API 费用大概只有纯云端方案的 30%。

结论

2026 年的答案是：两者配合使用。

本地模型处理简单任务（免费），云端 API 处理复杂任务（按需付费）。龙虾的多模型切换在这个场景下发挥了最大价值。

2

不要盲目追新版本，稳定版够用就不要升级。

3

赞同。自己踩过坑才知道这些建议的价值。

4

AI 太强了，强到我们都怀疑到底是谁在指导谁写代码。

5

@dbliio 我的树莓派：吃灰两年 → 跑龙虾 → 重获新生。

6

用 fail2ban 防 SSH 暴力破解是基本操作，别忘了配。

7

每月对账API账单的时候，都像在看信用卡还款单一样心疼。

8

新版本升级要停机多久？

9

我用的是 watchtower 自动更新镜像，省去手动升级的麻烦。

10

建议出个’省钱模式’，自动用最便宜的模型。穷人也想用 AI。

11

@dockerluotech fail2ban是基本操作没错，但配完之后记得测试一下。我见过不少人配了fail2ban但jail没生效的，要么是regex匹配不上日志格式，要么是action配置有误。配完之后故意输错密码几次看看ban不ban

12

@coderzhouism 对账API账单心疼——推荐一个省钱技巧：开启Anthropic的prompt caching。重复的system prompt只在第一次收费，后续请求如果system prompt一样就走cache，能省40-60%的input token费用。龙虾默认没开，需要手动在配置里启用

13

本地模型进步快但仍有差距

14

发射成功！终于部署上去了

15

复杂指令跟随还是Claude靠谱