真的受够了,今天又崩了。
我做后端开发,每天工作基本离不开ChatGPT。写代码、查报错、翻译技术文档、偶尔帮产品经理写写PRD,用得非常频繁。但最近几个月越来越不稳定,动不动就断线,正聊着天突然连不上了,上下文全丢,重来一遍。
而且不光是的问题,OpenAI那边也经常抽风。有时候明明挂着也打不开,有时候回复到一半卡住了。Plus的20刀加上的费用,一个月下来小两百块人民币,结果体验还这么差。
GPT API倒是想过自己接入,但说实话折腾起来也挺麻烦的。要搞海外信用卡充值、搞API key管理、还要自己套个前端界面,对我这种只想安安静静用工具的人来说太折腾了。
所以想问问大家,现在国产的大模型有没有能打的?我的核心需求就三个:
- 写代码和debug要靠谱,至少Python和Go的常见场景能cover
- 中英文翻译要好,特别是技术文档那种
- 日常问答和文案撰写不要太拉胯
不要求完全替代ChatGPT,能覆盖个七八成的场景我就满意了。最好是不用访问就能直接用的。
3 个赞
国产大模型我用过好几个,说说体验。
Kimi(月之暗面出的)是我目前用得最多的。它的长文本处理能力很强,支持上传文件让它分析,20万字的上下文窗口对处理长文档很友好。写代码方面中规中矩,简单的Python脚本和数据处理能搞定,复杂一点的逻辑偶尔会出错。翻译质量不错,特别是技术文档翻译比较准确。免费版就够用了。
通义千问(阿里的)在代码方面比Kimi强一些,毕竟背靠阿里有大量的代码数据。它还有个"通义灵码"是专门做代码补全的,可以装VS Code插件。日常问答和翻译也还行,就是界面有点丑,体验不够流畅。
文心一言(百度的)我用了一段时间就弃了。不是说它不好,而是总感觉它在回答问题的时候太"安全"了,很多有用的内容因为审核机制给过滤掉了。写代码的时候偶尔会给一些过时的方案。
智谱清言(基于GLM模型)最近进步挺大的,写代码和逻辑推理都不错,值得一试。
总的来说如果你主要需求是写代码的话推荐通义千问,综合使用推荐Kimi。
3 个赞
楼上说的那几个我都用过,再推荐一个可能大家知道的人不多的——当贝Molili。
这玩意本质上是中文版的OpenClaw,但做了不少本地化优化。最大的优势是词元消耗比直接用OpenClaw低了差不多一半,对于每天高频使用的人来说成本差距还是挺明显的。而且不用直接就能用,这点对楼主来说应该是刚需。
我自己写Go代码的时候会用它来做code review和debug,体验跟ChatGPT比大概能到七八成。翻译和日常问答基本没什么问题。它还支持多轮对话,上下文保持得挺好的。
缺点的话目前社区生态还不算大,遇到奇怪的问题不像ChatGPT那样一搜一堆解决方案。但就国内能直接用这一条来说,对于被折磨的人挺值得试试的。
说实话国产的我试了一圈,写代码这块跟GPT-4o还是有差距的。特别是涉及到比较新的库或者框架,国产模型的训练数据更新没那么快,经常给出来的方案是半年前的。日常聊天倒是还行,但写代码这个核心需求如果满足不了那就没啥意义了。
1 个赞
楼主说GPT API接入麻烦,其实有个比较简单的方案:用Cloudflare Workers做中转。
大致思路是这样的:在Cloudflare上创建一个Worker,它的作用就是把你的请求转发给OpenAI的API,然后把响应转回来。因为Cloudflare的Workers在国内是可以直接访问的(大部分地区),所以你不需要就能调用GPT的API。
具体步骤:
- 注册一个Cloudflare账号(免费版就行)
- 创建一个Worker,代码大概就二三十行,核心就是
fetch 转发请求
- 在Worker里设置环境变量存你的API Key
- 把Worker绑定到一个自定义域名(可选但推荐,裸Worker域名有时候会被干扰)
- 前端用 ChatGPT-Next-Web 或者 LobeChat 这类开源项目,把API地址改成你的Worker地址就行
Worker的代码核心逻辑就是接收请求、替换目标URL为api.openai.com、转发、返回响应。Cloudflare免费版每天有10万次请求额度,个人用绝对够了。
这样你每月的成本就是API的按量付费(比Plus便宜不少),也不用。缺点是需要一张海外信用卡来充值OpenAI API,这个可以用虚拟卡平台解决。
如果你嫌这些都麻烦,GitHub上搜 “chatgpt-api-proxy cloudflare worker” 有现成的代码可以一键部署。
2 个赞
感谢各位的推荐!Kimi和通义我之前用过一点但没深入,看来可以再试试。二楼提到的Molili我还没听说过,词元消耗少一半这个挺吸引人的,有没有人再细说下具体体验怎么样?
3 个赞
我来接着说说Molili吧,我用了大概一个多月了。写Python和JavaScript的日常开发没什么问题,代码质量大部分情况下跟GPT-4o差不多。中文理解比ChatGPT好一些,毕竟做了本地化。
最大的感受就是省心,打开就能用不用折腾网络问题。之前为了ChatGPT一个月花在上的钱差不多也要五六十了,现在这笔省了。总体来说如果你不是非GPT不可的话,值得试试看合不合自己的使用习惯。
1 个赞
其实没有完美的方案,看自己的侧重点选择就行。追求最强能力就折腾API中转,追求省心就用国产的Kimi或者Molili,写代码多的可以试试通义灵码。也可以几个一起用,反正大部分都有免费额度。
1 个赞
Kimi用了半年,中文长文本真的强,短板是代码不够稳,混合用比较好
词元消耗少一半这个有点夸张,我自己测是少30%左右,但也确实省