全本小说网 > 都市重生 > 首富从看见信息面板开始 > 第一百四十三章 把他的数据供应商,挖过来

第一百四十三章 把他的数据供应商,挖过来(1 / 2)

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。

郑晓波这话一出口,刘大海便明白,自己不必再多了。

看来,郑总是真懂啊。

这其实不奇怪。执掌鼎盛这样的巨头,总得有两把刷子;哪怕不懂原理,至少也得知道个大概,跟下属沟通的成本才能低不少。

像郑晓波这样的企业高管,对AI行业的关注,甚至不比投资人和从业者少。

ScaleAI是硅谷近来最火的AI创业公司之一,可它既不做大模型,也不做AI应用产品,业务只有一项——卖标注数据。

仅凭这一项业务,ScaleAI的估值就做到了几百亿美金。

也好。既然郑总懂,刘大海就不用从头讲起,直接上干货。

“去年六月,微软研究院发过一篇论文,叫《TextbooksAreAllYouNeed》(你只需要教科书)。他们用精心筛选的教科书级数据,训练出一个十三亿(1.3B)参数的模型,名叫Phi-1。就是这个模型,在代码生成任务上打赢了市面上那些参数量是它十倍、训练数据是它一百倍的大模型。”

程远插话:“刘博士,这是什么意思?”

“这么吧,当时除了GPT,没有一个模型跑得过它。这个十三亿参数的模型,只用8张A100训练了4天,折算下来的训练成本也就几万美元,就这么点。论文证明了一件事:只要数据质量够高,模型也能干翻大模型。”

完,刘大海转向郑晓波。

“这和汤圆的情况完全吻合。7B,也就是七十亿参数,一万条训练数据,在意图理解上打赢了坤元。我猜,他们的秘密武器就是数据质量足够好。”

最近几年,一个新观点正成为AI行业的主流:谁的标注质量高,谁的模型就强。

原因主要是架构近来变化不大,算力的边际效益又在递减,而高质量的数据标注还有很长的进步空间。

问题是,所有人都知道数据标注重要,却没人知道标注质量要高到什么程度才算够。

OpenAI、Anthropic、Meta每年都要在数据标注上砸几十亿美金,模型表现也确实一代比一代强,可进步越来越慢。谁也不知道什么时候会撞墙,更没人知道极限在哪。

不管资本炒得多热,这个行业的从业者都像在一望无际的大海上摸索前行。

直到昨天看到汤圆,刘大海才确信,自己看见了未来的信标。

最后,刘大海出结论:

“从模型表现倒推,他们的标注精度,恐怕是我从业这些年能想象到的最高水平。”

郑晓波没话,低头沉思。好一会儿,他才开口:“那他的数据,会是从哪儿来的呢?”

这话一问出来,刘大海和程远都一惊。

郑晓波转向刘大海:“大海,这是你手底下的项目。你先,咱们现在的标注大概是什么水平?”

刘大海答道:“咱们的标注大部分自己做,也和中文领域内一些专业标注团队有合作。算成本,大概一条10块到50块钱。但那个汤圆,数据精度一定比我们高得多。”

“成本会高出多少?”郑晓波追问。

“中文领域没什么参考对象,英文领域里,ScaleAI的专家级标注应该算最顶级的标注服务。他们请各行业资深专家来标,成本大概七八十美金一条。但按我的经验,汤圆模型用的训练数据,应该还要再高一阶。”

“如果我们想买呢?”

“先不市场上有没有这种服务。真要估价,一条怎么也得100美金往上。他们不到1万条,就算1万条,光数据成本就是100万美金。这还只是给7B大的模型做微调;要适配更大的模型,数据量还会更大。”

郑晓波心算了一下,觉得就算全买这种高质量数据,鼎盛也并非承受不起。

或者,鼎盛花在标注上的钱,早已是这个量级了。

郑晓波开口:“如果是这种规模、这种精度的标注数据,就不可能是一两个人手工做出来的。韩路一手里要么有专业标注团队,要么就是和哪个大型研究机构在合作。”

到这儿,郑晓波看向程远,下了命令:

“让商务情报团队查一查源码科技,看他们最近半年有没有和标注公司或数据机构打过交道;再查查招聘岗位,有没有招过标注相关的人。”

程远一边点头,一边在文件夹内页空白处飞快记了几笔。

郑晓波沉声道:“找到他的数据供应商,直接挖过来。”

他这话时极有气势,坐在一旁的程远和刘大海都感到一阵压力。鼎盛的CEO纵横商海几十年,对付一个初创公司的愣头青,确实手拿把掐。

刘大海想,其实没法直接拿到数据的话,从他们的合作伙伴那里把标注规范问过来也行;到时候照着规范,鼎盛的团队还可以试着自己做。

直接去挖人家供应商,他总觉得不太妥当。

可刘大海再没情商,也不至于在这个时候顶撞老板。

郑晓波完,又看向程远:“他们要求的算力合作,你也可以先谈着。”

程远一时没听明白。

咱们不是都釜底抽薪了吗?还要跟他虚与委蛇?

“供应商的事还不好。先和他谈着,稳住他,最好能让他答应一个条件。”

“什么条件?”程远问。

“用鼎盛的算力可以,让他把训练数据共享给我们。”