我相信经常使用流行模型的友友应该都能感觉得到是哪家
大模型之扮猪吃老虎的猥琐发育过程
太棒了
https://x.com/Jackywine/status/1947534980152017234?t=0AD1vSpa26bghKJ7PWImUg&s=35梁斌 penny
25-7-19 16:52
知名互联网博主
已编辑
发布于江苏
有一家大模型,我不说名字,策略非常高明,大量的数据来自同行大模型的蒸馏数据,但是又非常担心自己的数据被蒸馏走,而且这种担心还非常严重,所有采用了一些骚操作避免被蒸。首先,是把效果控制在一个“特别的”水平,绝对不是全行业最牛的,大家都去蒸馏最牛的,自己自然也就不惹眼,但其实内部的测评水平已经非常高了。 其次,现阶段也没有必要太出跳,差不多就行了,关键这种控制可以让大模型吐出数据非常快,成本还低,大模型不好赚钱,这么搞可以搞得很持久。最后,如果总是太平庸也不行,会在一些条件触发下(比如比较长尾的 prompt,或者验证过这个账户是真人),偶尔也给出非常惊艳的结果,简单说,你问的水平越高,给你的回答质量就越高。
另外这家大模型更牛逼的一点不仅仅是蒸别人的数据,还在加大力度搞“深度”数据,至于什么是深度数据,我还真不方便举例,这一举例就全漏了,就是那些不是普通采集可以采集到的数据。。
最后,通过我认真的分析,我认为未来这家大模型将会拿到市场40%以上的份额成为领头羊,策略上非常非常低调,手段非常非常高明,行动上非常非常迅速。里面保密工作也做得极好,极好。