第二百八十章 给老板派活儿
周二早晨,韩路一到办公室的时候,惊讶地发现陈建业就在门口等他。
老陈看起来昨天好像没休息好,脸上挂着两个黑眼圈,但是心情却不错,整个人挺放松的。
“韩总,您有空吗?我想占用您两分钟。”陈建业的语气挺真诚。
“好啊,进来说。”
韩路一打开门,带陈建业到沙发上坐下,给他倒了杯水。
“韩总,我是来跟您道谢的。”陈建业开口道,“我家孩子上学的事儿,沈总告诉我了,是您特意叮嘱的。”
韩路一笑了笑:“都是区里给的政策好,这是给重点人才的,你是重点人才,这是你应得的。”
这要是搁在以前,陈建业肯定就停在这不说了,大男人,感激都放在心里,放在行动上。但是他昨天已经被老婆点过了,今天就是来表忠心的,所以他硬着光秃秃的头皮说了下去。
“韩总,以后我陈建业对您,对源码科技肯定死心塌地!不离不弃!”陈建业坚定地表态。
这一段话给韩路一听笑了,怎么听着像婚礼上的誓言呢。
“行,我信,你回去工作吧,有什么问题及时沟通。”
送走陈建业的时候,韩路一又调出他的面板看了一眼。
【陈建业】
【技术s|管理b|协作b|稳定s】
【特技:大型系统架构|ai智能体设计】
【词条:基石|先驱】
霍,孩子上学的事情一推进,稳定直接提到s了。
韩路一心想,有政府支持就是不一样,员工忠诚度这块就增加了一大截,尤其有些资源是买也买不到的。
可惜我还没孩子,薅不到这些羊毛。
韩路一遗憾的摇了摇头。
仔细看看陈建业的属性,比去年入职的时候还提升了很多,让韩路一有一种玩养成游戏的成就感。
——虽然养成陈建业这个说法听起来怪怪的。
毕竟颜值也是二游中非常重要的环节,很难想象如果推出一个像陈建业这样扮相的游戏人物,会被二游玩家们骂成什么样子。
但是陈建业的属性变化正好能证明,视界的面板虽然可以反应人的即时属性,却不能预测人的成长。
像陈建业之前养成的那种独来独往、听不进人意见的工作习惯,很大程度上是在鼎盛的工作环境下形成的,来源码科技一年之后已经改变了很多。
像御风刚做出来的时候,他是持反对意见的那一个,但是在苏念念和他谈过之后,他心态转变的很快,在公司内的ai化过程中做了不少前瞻性的探索。
所以对一个企业来说,除了能招揽人才之外,建立一套稳定的人才培养体系也很重要。
既要能发现人才,又要能留住人才,还要能培养人才,三点齐备,才是一个企业能长期成长的基石。
毕竟等到真的扩张快起来的时候,总不能所有的骨干和管理人员都靠从外部招聘,那样企业文化很快就变质了。
说到这一点,韩路一其实对姜亦心上周五开始计划的那个项目颇感兴趣,也不知道进展的怎么样了。
正想着,刘彧在外面敲了敲门。
“韩总,两分钟之后您和赵总、江工有个技术会议,现在过去吗?”
“这就来。”
……
会议室里,韩路一拿着一个平板,正在看l100的算子适配评估报告。
这是江松然和赵文渊最近加班加点搞出来的。
自从收购硅明的事情敲定之后,下一步的发展路线也确定了,两个人把全部的精力都放在了这个项目上,才做出了这么一份报告。
韩路一看完之后没有说话,把平板放回桌子上,目光投向对面坐着的两个人。
江松然开着电脑,皱着眉头,屏幕上是密密麻麻的算子列表和优先级标注,这些是报告的原始数据。
赵文渊坐在他旁边,手里拿着一杯生椰拿铁,神情看着比韩路一还要放松。
今天会议的主题是讨论接下来怎么在l100集群里进行模型训练。
说实话,这么短的时间里能把推理跑起来,就已经让江松然震惊过一次了。
这本身是以年计的工程量,在源智一个月就做出来了。
当然了,这里面江松然也是出了大力气的。
是他把在推理阶段可以绕过的问题都绕过去了,才把工程难度降下来,让汤圆及时上线。
但是现在要做训练,不只是那些没做的工作要做,之前推理阶段逃过的课也得一一补上。
“我先说说大方向。”江松然把电脑上的内容投影到了会议室的大屏幕上,“我们可以把这个项目分成两个阶段,一个是算子的阶段,适配做完之后,先在小集群验证,只能做一些小规模的训练,不超过7b。”
“第二阶段才是用这套东西组千卡甚至万卡级的大集群,这里面涉及很多卡间通信的挑战,我们之后再说。”
江松然指了指屏幕上列出来的密密麻麻的算子,最上面的十几行标了绿,中间还有几十行是黄色的,剩下的都是红的。
绿色是正反向都做完的,黄色是只做了正向、反向用了近似值的,红色则是完全没做、用近似实现代替的。
江松然说道:“前向算子只是第一层,真正麻烦的是训练需要反向算子,还要保证数值稳定。很多算子推理的时候能用近似实现,训练不行,要实现高精度,就得一点儿一点儿抠,这是个苦力活儿。”
说完他苦笑一声。
要是用cuda,这个苦力活儿英伟达已经替你干好了,你只需要考虑怎么设计训练管线、训练策略就行。
现在用硅明的l100,他们的软件团队就不用指望了,所有的活都得源智的团队做,虽然最近招来的人都有丰富的调优经验,也做好了攻坚准备,但是这种事情急不得。
活儿多不可怕,但是你不能设置不合理的预期。
这些话江松然没说出来,因为韩路一在会议开头已经透露了一个意思:优先攻坚l100的训练能力,完成汤圆1.0的训练。
虽然他没说预期多长时间做完,但是你听听这个名字,现在发布的是0.9,要优先把1.0训练完,这个任务难道还能等一年多吗?
他只能把最乐观的估计说出来:“我估计,三个月能把一阶段做完,二阶段的通信要六个月,还要花六个月做算子调优——这是最保守的估计,十五个月以后,可以尝试做训练。”
实际上做过工程的人都知道,这种估计真做起来,花的时间翻倍都不止。但他实在是说不出口,让汤圆1.0三年之后再开始训练。
0.9都发布三年了,才训练1.0,你听听这是人话吗?
江松然对韩路一坚持不用任何云服务商的决定也了解,这是对数据安全的坚持。但是咱们现在只有国产卡,或者,如果实在是等不及,要不采购点英伟达的卡?先用着,也不耽误咱们做国产化,不丢人。
这话他也没说,等着韩路一的回应。
没想到,韩路一没说话,倒是这两天一直和江松然一起准备报告的赵文渊先开了口。
“我觉得三个月太长了,一个月,应该就可以把第一阶段的基本训练链路做完了。”
江松然震惊地看着身旁的赵文渊。
老赵,你知道自己在说什么吗?
这是训练,不是推理!
吹牛不是这么吹的,当着韩总的面,你要把牛皮吹破了。
这下他忍不住了,恨不得上去捂老赵的嘴:“不行不行,韩总,一个月肯定不行,你看看这表里多少算子呢。”
他知道韩路一的技术强,在他加入源智之前,韩路一也在早期的算子适配工作中做过贡献。
但他可太怕韩路一对这个项目的工程量有什么误解了。
现在源智团队里用的还是一个叫「算子打靶法」的工作方法。
这个工作方法还是当时韩路一提出来的。
所谓「算子打靶法」,就是对每一个要进行适配的算子,对标英伟达的算子,用御风来转换生成适配代码,只要达到英伟达对应60%的效率就算是达标。
这个60%是从当初的80%降下来的,为的就是让推理快速上线,牺牲一部分硬件的使用效率。
但是现在要做大模型的训练,60%就不够了,甚至80%都不够,得至少达到90%以上。
话是这么说,效率的提升难道是一件容易事吗?
御风生成起代码来是快,但是该做的验证的活儿一点也少不了,每一个算子的每一个参数得一个个试过去,找到对应l100这个硬件设计的最优解。
如果说60%试十次能找到,80%可能得试一百次,90%可能得试一千次。
这还只是一个算子的一个参数。
所以江松然才说做适配是个苦力活。
没想到韩路一没说话,赵文渊又开口了:“韩总,一个月,您觉得行不行?”
江松然已经无语了,什么行不行,你问老板这个,当然行,一个月之后咱们拿不出东西来怎么办?
那是肯定拿不出来,能做出十个算子都超出预期了。
韩路一听完,没有直接回答,而是思考了一下。
江松然期待韩路一听进去自己说的话了,能意识到一个月是一个多么不可思议的期限。
拒绝老赵,韩总,拒绝老赵啊!
“行,我试试。”在江松然默默的祈祷中,韩路一说。
江松然垂头丧气。
老赵啊老赵,你看,老板答应了吧?咱们可怎么办啊。
韩总说他试试。
——等等,韩总说什么?
他试试?
他试试什么?
赵文渊完全没露出意外的神色,满意的点了点头。
老爷爷果然靠谱。
韩总说行就是行。
江松然心里还没回过味儿来,韩路一又开口了:“江工,算子适配的事,你带着团队只需要负责逻辑没问题就行,具体的参数留给我,我来找。”
江松然这才反应过来,老赵这是给老板派活儿呢!
“您——您——”江松然“您”了两声,没出话来。
他想问的是,你凭什么觉得自己特别会调参啊?
但是这话问出来可不太好听。
赵文渊在旁边已经替他解释了:“韩总特别会读论文。”
韩路一听完,憋着笑点了点头。
好,文渊已经找到合理的解释了。
只剩下江松然还在原地风中凌乱,我单听说韩总写了早期的几个算子的实现,我不知道他要写所有的算子实现啊。
而且,调参都交给他是什么意思啊?
这是一个人能干的活儿吗?
赵文渊在旁边看着江松然整个人僵住的样子,轻轻拍了拍他的肩膀。
有些事实接受起来是要花一些时间的。
韩路一看了看手机的时间,会议快结束了,他拍了下手:“今天先到这,下一步的计划等我们把第一阶段的工作做完之后再安排。”
然后他对赵文渊说了一句:“文渊,我有个问题单独问你,一会儿来一下我办公室。”