第144章 唯一的解释
十二月十六日，上午九点半。
鼎盛大厦四十九层，郑晓波办公室。
程远和刘大海并排坐在沙发上。程远穿了一身浅灰色的西装，膝盖上放着一个黑色文件夹。刘大海还是那件灰色连帽衫。
郑晓波坐在对面，桌上放了一个杯子，里面是依云矿泉水。
“说说吧，复盘一下。”
程远翻开文件夹。
“郑总，是我没做好，整个会议都没在我的节奏里。”
先把锅接下来。
郑晓波挑了挑眉，他没想到程远上来就认错。
程远翻到第一页做好标记的地方。
“刘博士先做了展示，他们的反应很平淡，然后直接给我和刘博士做了一个反向展示。”
他看了刘大海一眼。
“技术这方面我不太懂，具体的让刘博士来讲。”
刘大海没听出来这话的意思，老老实实接过话头：“我先给他们展示了坤元，然后他们掏出自己的模型，说是开源7B模型调整的，让我出题测测。测了三道题，我都是用坤元并行测的，都不是公开的测试题，他们的模型全面的比坤元表现好。”
“然后他们给我们看了跑分，意图理解这条，他们跑到了85.2分，咱们坤元是78。”刘大海把这话说完，还是带点苦涩，任谁辛辛苦苦带着团队干了好几个月的成果被别人碾压也不会好受程远看锅甩干净了，赶紧接上：“但他不是来拒绝我们的，他自己带了一套方案，让鼎盛以GPU使用权折算投资，换股。”
潜词是，他们的要求没在我的权限里，实在是没法谈，非战之罪。
郑晓波的眉毛微微一皱：“换谁的股？”
“这是关键，不是源码科技的，是一家新公司。他说他和赵文渊正在筹备，方向就是专门做通用基座模型。”
程远合上文件夹，两手搭在上面。
“公司名字没给，注册状态没给，团队架构没给。他只说了个「正在筹备」，要么是真没注册，要么是故意不让我们做尽调。”
郑晓波静静地看着程远，没有说话。
上周他站在落地窗前，觉得韩路一不知道天高地厚。
没想到，没有见识的反而是自己了。
“技术是真的吗？”郑晓波问。
作为鼎盛这样一个科技巨头的掌舵人，他不需要懂技术细节，但他要保持对技术边界的敏锐。什么东西做的到，什么东西做不到，什么东西是真的，什么东西能作假一一这些是他的第一反应。程远没回答，转头看向刘大海。
刘大海开口道：“我一开始也寻（in）思过，但是应该是真的。”
郑晓波盯着他。
“有没有可能是在骗我们？”
刘大海摇头：“那不能够的，跑分能刷，但现场的测试是我出的题，这没法准备，而且那差距，咋说呢，老明显了。”
郑晓波往前探了探身。
“过拟合呢？”
刘大海愣了一下，没想到郑晓波会问出这么专业的问题。
“郑总之前了解过机器学习？”
“你就说有没有这个可能。”
过拟合不是在大模型时代才有的新概念了。
在机器学习里，数据会分成训练集和测试集。训练集用来教模型，测试集用来考模型。
但是你不能直接把训练集当测试集，因为模型会把答案背下来。
就像你想教一个小学生加法，教一加一，考一加一，你不知道他是背的还是真会了；教一加一，考二十三加十九，才能验证是不是真会了。
过拟合，就是模型把训练集的答案背下来了，测出来的分是虚高。
刘大海组织了一下语言，回答道：
“我也想过，不太能够。三道测试题来源完全不同，一道从鼎盛内部题库选的，一道我现场手打的，还有一道是我私人题库里最难的，内部都没几个人见过。而且三道题覆盖了三种不同类型的意图推断，他们全部精准命中。最后他们还展示了完整的基准数据，一千两百道题，十六个场景交叉验证，不是挑好的给我看的。”
“咋说呢，这个85.2，确实是实打实的。”
办公室安静了下来。
空调出风口的声音突然变得很清晰。
程远地下意识合上了文件夹，咽了口口水，然后尴尬的听见自己咽口水的声音怎么这么响。刘大海盯着茶几上的花瓶，里面插着几枝干枯的棉花。
郑晓波的脸上还是古井无波，但他的手握在杯子上，既没有拿起来，也没有松开。
过了一会郑晓波才慢慢开口：“他是怎么做到的，你有想法吗？”
刘大海从背包里摸出笔记本电脑，走到郑晓波的办公桌前面，打开电脑，屏幕亮了。
上面是一份打开的文档一
《汤圆模型-意图理解：可能的技术路径分析》
“这是我昨晚连夜写的。”刘大海说。
技术人的邀功还是直白了点。
他把屏幕对着郑晓波，往前推了推。
“先说排除法，指定不是架构创新。”
“意图理解这条赛道，OpenAI的GPT现在是公认的天花板，也就78分出头。他拿一个开源的7B架构，参数量只有人家的零头，跑出85.2。郑总，这么跟您说吧，这就好比一个我们那县城中学的一个差生，用别人的旧课本自学，高考分数比全省状元还高三十分。我拍胸脯地说，绝对不是架构创新，7B的架构就那么点东西，翻不出花来。”
“现在大模型的竞争，已经过了参数军备竞赛的那个阶段了。几百亿参数、几千亿参数，架构上大家都整的差不多。Transformer还是那个Transformer，无非是层数搁（gé）那儿多一层少一层，注意力头多一个少一个。”
刘大海一边说一边仔细观察郑晓波的表情。
技术人给领导汇报，又怕说多了太多技术细节，领导听不懂。又怕说的太少太简略，领导觉得不满意。只能小心翼翼，随时调整。
“我能想到唯一的解释，除非这个县城学生用的不是别人的旧课本，而是一份全世界别的学生都没有的，黄金复习资料。”
郑晓波还是面无表情。
这时程远插话了一一他没听懂，这没关系，但他主要是怕郑总也没听懂，这种问题不能让郑总来问。“刘博士，不好意思，你这个比喻指的是？”
“是标注数据。”刘大海也意识到自己说上头了，赶紧扯回来，“郑总也大概了解，我就简单说一下。”
他把电脑转过来，去网上搜了一个流程图，再转回去面向郑晓波。
“咱们训练大模型主要分为几个阶段，先是预训练，就是堆语料，咱们恨不得把互联网上所有的东西都给它整进去。”
“然后是监督微调，找一帮人给模型做示范，教它学明白啥是好赖话儿。”
“再往后就是对齐，让模型学着按人的想法来排，回答得更像正常人说话。”
刘大海指了指屏幕上的流程图。
“第一步大家用的语料都差不多，互联网就那么多东西，你抓我也抓。真正拉开差距的是后面两步，谁的数据标注质量高，谁训出来的模型就强。”
“所以我说，那个……对方效果能做的这么好，一定是有好的标注数据。”
刘大海把韩路一的名字忘了，公司名字也忘了，只好中途改口。
不行，一会回去得查查这个公司，那个技术负责人，看看他的论文。
做出训练出这种水平的模型，不可能没有学术积累。
听到这，一直沉默不语的郑晓波突然开了口：“ScaleAl。”