收集了一些AI写代码的翻车案例,看完心情好了不少。
案例1:递归到死
让 AI 写一个遍历文件夹的函数,它生成的代码在遇到符号链接时会无限递归。跑了一分钟后 stack overflow。
案例2:SQL注入生成器
让 AI 写一个用户登录接口,它直接字符串拼接 SQL。这代码上线了我得进去。
query = f"SELECT * FROM users WHERE name='{username}' AND pass='{password}'"
典型的 SQL 注入教科书案例。
案例3:日期计算
问 AI “2026年2月有多少天”,它回答 29 天(2026不是闰年,应该是28天)。
案例4:无限重试
让 AI 写一个 HTTP 请求的重试逻辑,它写了个 while True 配上 try-except。服务器挂了就无限重试,一晚上发了几万个请求。
案例5:删库跑路
有人让 AI 清理临时文件,AI 生成了 rm -rf /tmp/..(注意两个点),差点把根目录删了。
教训
- AI 生成的代码一定要 Review
- 特别注意安全相关的代码
- 不要让 AI 直接执行危险命令
- 写测试用例覆盖边界情况
AI 是好帮手,但绝对不是好老师。它可能教你走弯路。
@toolssuhq 内存占用比宣传的大不少,512MB 根本跑不动。
消息聚合用 Matterbridge 也能做,龙虾的优势是加了 AI 层。
当贝做硬件+AI的思路是对的,软硬件结合才有壁垒。
@startup_han 有没有 Windows 版?我不会 Linux。
分享一个技巧:用 litellm 做 proxy 统一管理 API,很方便。
Docker 网络用 bridge 模式就行,不需要 host 模式。
@infraliangx litellm做proxy统一管理API确实方便,但我遇到过一个坑:litellm的stream处理和某些模型不兼容,输出会莫名截断。特别是用DeepSeek的时候,stream模式下经常丢最后几个token。debug了一天才发现是litellm的问题不是模型的问题
@backend_sunhao 消息聚合用Matterbridge能做但太简陋了。如果你要在聊天消息里保留格式、支持图片转发、处理@mention,Matterbridge基本做不到。龙虾加AI层的价值不只是聚合,是理解消息内容后做智能路由和自动回复
我那个AI自信满满给我写了个O(n!)的排序算法你敢信
最离谱的是它还给翻车代码写了一堆注释解释为什么这样写是对的
我遇到过AI给数据库写了个全表UPDATE没加WHERE