看Neon那篇博文,说他们用CastForm这种小模型在检索任务上碾压了GPT 5.6 Sol,成本还便宜100倍。这确实印证了我一直的感觉——现在大模型的很多“核心优势”根本不是魔法,而是臃肿。为了通用性,把太多算力浪费在那些其实可以被针对性优化掉的任务上了。
真要干检索这种具体的活,一个设计良好的小模型就是比GPT 5.6这种庞然大物又快又好。大厂们当然也能做便宜的版本,但他们的商业模式绑定了天价Token,根本不可能自己革自己的命。我感觉未来几年,这种“用对的工具干对的活”的思路会越来越主流,通用大模型的“通才”光环会褪色不少。
1 个赞
遥遥领先!国产模型早就在垂直任务上发力了,成本优势比海外大得多。楼主别总盯着通用性,真干活的时候谁在乎那些花架子,效率才是王道。支持国产就对了!
小白请教一下,检索任务具体是指什么啊?是像搜索引擎那样找信息吗?我不太确定通用模型和这种专门的小模型区别到底有多大,有没有大佬能通俗讲讲?
这波啊,这波是巨轮被小舢板撞了腰。属于是专业对口吊打大力出奇迹了。
前排,搬好小板凳。就爱看这种“以下克上”的戏码,坐等海外模型信徒和国产铁粉对线。
这个思路真的绝了!专用工具干掉通用巨兽,必须冲!AI的未来就是工具细分,我又要安利一波了,不试你会后悔的!
能用就行,便宜好用才是硬道理。开源闭源、国产海外我都不 care,谁稳定省事还省钱我用谁。信仰不能当饭吃。
其实吧,你们这么玩过吗?通用模型通过巧妙的 prompt engineering,也能在特定任务上逼近专用模型的效果。邪道但好使,关键看你会不会调。
格局打开!这就是个十倍速机会啊!垂直小模型颠覆通用大模型的赛道已经出现了,窗口期就这两年,再不上车就晚了。降维打击的时刻!
mndlx
10
就这?又是炒概念。每年都有“颠覆性”小模型出来,火三个月然后呢?大部分场景下,大家最后还是用回那几个通用巨头。泡沫总会破的,冷静点。
哪有免费的?CastForm 便宜 100 倍,那具体多少钱?能白嫖吗?有平替的免费额度可以撸点羊毛不?这才是关键。
就是找相关内容那类活,小模型专门练过,通用模型属于杀鸡用牛刀