资讯摘录
AI数据公司凶猛
今年 9 月,一家成立不到一年的公司被曝正在洽谈一轮约 3 亿美元的融资,传说中的领投方为阿里巴巴,腾讯和红杉中国参与,投后估值达到 25 亿美元。两年前,今天中国大语言模型的重要玩家、估值已高达 500 亿美元的月之暗面,在辛辛苦苦寻求 B 轮融资时,也不过就拿到了差不多的价格。
这家公司叫 UniPat,即便是 AI 业界的很多人,也对它感到陌生。事实上,它也无需被家喻户晓。关于它的创始人李宽,履历也众口不一。一篇报道称:阿里腾讯投了一位实习生。事实上,在通义千问,李宽做的工作包括模型训练和训练材料制作,并是不少相关工作的负责人。
类似神秘感的公司在行业内部被密集讨论,智能知识、Copula Lab ,Humanlaya,名字都很独特,也都在近几个月迅速出现在各家 VC 的桌面上,有消息称他们中一些业务进展比较激进的公司,估值也在飞速逼近 20 亿美金。如同当初模型厂刚刚诞生的激烈竞争,它们的融资追逐也正在进入白热化。
而他们做的事情,与人们想象里模型依然依赖的 " 天才、算法、架构突破 " 似乎关系不大,按此前人们的理解,它们甚至可以算是一群 " 外包 " 公司—— 也就是数据公司。这股浪潮依然是晚硅谷半年左右传过来的。在硅谷,数字早已更加夸张。最知名的 Mercor 去年 10 月融了 3.5 亿美元,估值 100 亿美元,今年 8 月又被曝在谈 200 亿美元估值的新融资,英伟达考虑入股。
更为人熟悉的 Scale AI 去年接受 Meta 投资时,估值已超过 290 亿美元。在外界的理解中,算法突破和天才研究员仍是驱动 AI 模型追逐前沿的助燃剂。而事实上,模型训练的日常,却越来越像数据工厂。这些做 " 外包 " 的数据公司,对模型竞争、商业化落地、甚至各种诸如 RSI 的新概念的演进都起着决定性作用,这使得某种程度上今天的 AI 成了这些 " 数据新贵 " 的天下。
而这也意味着,了解数据公司,以及整个大模型背后数据产业的真实情况,是了解今天以及接下来 AI 演进方式的最重要切口。当数据比产品还值钱 " 别做产品了,出来卖数据吧。" 一位在业务进展中拥有大量 AI 应用行为数据的创始人,在和 DeepSeek 的朋友讨论技术趋势时,本想获得一些模型发展上的建议,但却很快变成某种合作交流,对方直接建议他 " 出卖 " 数据。
哪怕这家应用公司已经自己能盈利,但当他看到 DeepSeek 等模型公司给数据开出的价格时,还是有点 " 动心 "。据多位了解行业的人士透露:一些带有用户行为轨迹的数据,一条报价可达 1000 至 3000 元,带完整操作过程的工作场景数据,甚至可以卖到 1 万元左右。
若按每条 1000 至 3000 元采购 1 万条,账单就是 1000 万至 3000 万元。对于数据公司来说,单笔订单做到百万、千万元已是常态。要知道,数据供应商不是第一天就在模型训练行业这么吃香的。很长一段时间里," 数据外包 " 意味着给图片和文字打标签。
Mercor 副总裁 Chirag Mahapatra 对我们回忆:Mechanical Turk 时代的任务包括垃圾邮件分类、给自动驾驶图片标出停车标志,一批勤恳的人就能做。这就是今天还有很多人会第一时间想到的 " 数据打标 " 的模式。
后来,人们开始从模型给出的几个回答里挑一个更好的,用这些偏好指导训练,也就是人类反馈强化学习,简称 RLHF。再往后,Mercor 请来的已是 MIT、哈佛的博士和数学奥赛奖牌得主,他们写解题步骤、定评分标准。Chirag 对我们说:他看到了清晰的需求侧的变化,但没想到供给侧也如此快跟上。
" 这些人愿意来做这份工作,赚学费或一份额外收入。" " 我觉得一部分是疫情期间的影响,这些人有了时间也有了增加收入的需求。" 模型在预训练中阅读海量文字、代码等材料,学习语言和知识;进入后训练,再用示范、反馈和反复练习调整行为。这些专家提供的材料,主要用在后一个阶段。
律师改合同、金融分析师查账时做过的许多取舍,没有完整留在公开网页上,得找做过这些工作的人重新整理。用这样的材料做训练,也更容易较快看到投入的结果。一位算法研究员向我们解释:模型规模已经很大,研究新算法、证明它有效,需要更多精力、时间和金钱。
而且,从头部 Lab 近期的模型发布就可以看到,类似此前的那种代际跨越越来越难以出现,模型进步开始更多来自其他地方。更多真实场景的、复杂的且没有出现在过互联网上的高质量数据,结合后训练的方法,进入模型的能力,成了最重要的进步方式之一。这同样是 Anthropic 们先发现的方向。
这些更前沿的模型团队更早看到瓶颈,也更早行动。它们更早把任务拆进行业:OpenAI 去年做职业能力评测 GDPval,先选美国 GDP 贡献最大的九个行业,再落到 44 种职业。从它们的动作可以看出明显逻辑,Anthropic、OpenAI 会参照经济价值由高到低,把金融、法律、网络安全和科学等方向逐个推进。
推进的方式就包括被称为 FDE 的形式。Anthropic 会以驻场工程师,也就是 FDE 的方式进入企业,派人梳理流程、部署系统。金融机构不轻易开放业务,团队便挨个找头部机构。有的机构会担心同行先用了,自己落在后面,于是愿意先试。金融之后还有法律、医疗和科学,模型公司很难靠内部团队覆盖所有专业。
Mercor 估计:前沿实验室整体需要的数据,目前只完成了 2% 到 5%。数据供应商承担的很大一部分工作,就是到各行各业找人、找任务,模型公司则保留内部的质量关。外包味依然很浓,但单价涨了太多。而中国同样的趋势发生,大约晚了半年到一年。但一旦搞清楚,各家的动作都很快。
有模型训练团队对我们称:在些垂直领域,1 万到 10 万条足够好的数据,就能把模型训练到相当好的水平。而且,今天各个模型公司也已经基本掌握了把不同领域数据带来的能力提升," 融入 " 同一个模型的方法。不同领域可以分别做后训练,再把能力汇入最终版本,业内有人把这叫 " 并版 "。
比如,DeepSeek 的一条公开路线,就是让多个领域的教师模型把能力教给同一个学生模型,某种程度上和蒸馏的逻辑也很像。一位参与后训练与评测的研究员,向我们描述过他接触的一个全模态团队。团队把模型拆成二十多个基本能力、八九十个垂直场景,画成一棵 " 能力树 "。
研究人员沿着节点补数据、调配比、跑实验,检查哪项能力长出来了,哪项还没有变化。据知情人士称,DeepSeek 九成的研究员都在做数据相关工作," 其实很少一部分人在研究算法 "。这些模型厂商内部也会像工厂工人那样安排节奏,当一个组在等待自己的卡,没事儿干的时候,那么就可以都去参与标数据。
公开信息显示,字节已经把多处采购、质检团队整合为一级部门 "AI 数据与安全 ";腾讯也让提出数据将是 AI 下半场最重要竞争方向的姚顺雨兼管 AI Data 部,而阿里模型团队此前一系列动荡和调整后,数据相关业务的话语权也完成 " 分权 ",内部都交由最有潜力的研究员掌握。
而这些团队的数据需求,在这个竞争激烈的时点,显然没法全都自己解决。外部数据公司成了最关键的合作伙伴。一位数据商提到,DeepSeek 已设专门的数据采购岗位,而 Kimi 很少对外采买,MiniMax 近期才开始搭采购流程;字节、腾讯、阿里则在今年加大了外采。
成立较早的智能知识回忆,创业初期他们还得四处向投资人解释这门生意。但后来硅谷的样板被更多看到后,情况就变了。数据已经是今年最重要的投资方向。甚至有从业者透露,有的数据公司创始人如今连投资人的消息都未必回复。毕竟在今天 AI 行业大环境下,既能参与决定智能演进方向,在这个主线上起关键角色,同时又因为供需的突然变化而可以上来就跑通商业模式 " 赚大钱 ",这样的标的哪里还能找到,他们为什么又一定需要那么多融资。
在一片愁容的 AI 创投圈,这些数据新贵自然有了高傲的底气。好的数据公司必须是研究型公司 花了如此大价钱,模型公司到底买的是什么。其实本质上,这些数据都是强化学习数据。它们拆开来看,往往需要有任务、环境和 verifier (验证器)组成。
供应商要交付的,是一件模型可以尝试完成的事、一套供它操作的系统,以及判断它做得怎样的标准。模型在环境中读取信息、调用工具,会留下操作轨迹;验证器评分,训练再利用反馈调整模型。这些任务也有难易区分。简单的,比如让模型把几张发票录入报销系统,金额和日期对上,就可以判断做没做好。
复杂的,比如老板只留下一句 " 下周想去上海见个人,帮我安排一下 "。模型得翻聊天记录、日历和邮件,先弄清要见谁、什么时候见,再作安排。为了让模型完成这趟行程,供应商得准备 " 公司 " 的邮箱、日历和订票系统。模型要能从通信里找到会面对象,从日历里查出时间冲突;发出一封邮件后,系统也要发生相应变化。
这套与真实业务隔离、可以反复试错的运行空间,通常叫沙箱。发过的邮件、改过的记录,在下一轮练习前要恢复,多批任务同时运行还不能互相串数据。据了解,去年一些团队跑评估时,模型常因底层系统故障完不成任务,高并发甚至会把环境跑挂;今年遇到这类问题的就已经少了很多。
搭进系统里的业务资料,也会有人直接去买。比如那些已经破产清算或业务频繁转型的公司的内部资料——今天找起这样的 AI 创业公司,不要太多。但数据商的购买标准提出了更高要求:比如 Humanlaya 在寻找破产公司的资料时,要求被收购数据的破产清算企业,巅峰时大约有 100 人。
邮件、聊天和业务记录,能留下公司过去怎样运转的线索。供应商还要把工单系统、内部沟通和记录之间的关系,在模拟环境里重新搭起来,让模型能够进去操作。能否随着模型的操作给出后果,又会拉开供应商之间的差距。市面上不少公司仍交付静态材料,轨迹由人走好,每一步预先标定。
而模型换一种操作方式,环境未必能给出接下来的状态和反馈。模型自己尝试不同路线,供应商也得把这些变化也做出来。接下来,环境还原得再像,也缺了一部分真实业务的反馈。驻场工程师可以继续观察企业怎样使用系统,预算有没有花得更好;而冻结下来的训练环境,没法继续从真实业务里取得这些反馈。
历史记录能显示员工当时做了什么,很难完整解释他为什么作出那种取舍。这部分要继续找人补。这就是评分环节。比如,邮件显示 " 发送成功 " 仍不够,模型可能发错人、漏掉附件。发票金额可以核对,行程安排得好不好,还涉及老板和会面对象的体验。