第四百一十四章 算力调度
苏念念出门没多久，韩路一又把她发来的资料仔细看了看，给刘彧挂了个内线电话。
“帮我问一下江松然现在在不在。”
过了几分钟，刘彧回了过来：“韩总，江松然总在办公室，要我让他过来吗？”
“不用，我们过去找他。”
韩路一说完起身出门。
他现在关心的是算力的实时情况，又没让江松然提前在准备，去江松然那边，数据调取起来方便，真让他过来汇报还耽误时间。
韩路一来到江松然的办公室，江松然已经等在门外了。
“韩总。”
“走，进去聊。”韩路一说完率先进门，进门之后也没有坐，直接开口询问，“你从京城回来之后一直忙着算力的事，现在进展得怎么样了？”
江松然猜到韩路一会问这个，毕竟这既是公司战略，也是他最近的工作重心，所以提前做了点儿准备。
江松然到电脑前把实时监控的数据面板调出来：“韩总您看，现在正在运行的推理和训练集群。”
韩路一简单看过之后，迅速问出了自己最关心的问题。
“CJ590和龙腾2000大概能做到多少效率？”
听了这个问题江松然的表情有点儿尴尬。
韩总看问题真准，问的恰好是现在最不好看的数据。
“从上一次跑的基准看，CJ590能跑到理论算力的80%，龙腾2000只有63%。”江松然说道。
只有这么低吗？
韩路一思考了起来。
现在看，他最一开始所设想的、用中间层来聚合国产算力联盟的方向没有错，在推理方向也已经踏出了坚实的第一步，现在同意接入这一套推理框架的国产厂家就有好几个。
但是现在的问题是，这套中间层是原生适配当初硅明L100的底层硬件的，尽管工程团队在抽象化的时候已经尽量做到硬件无感知，但是有些底层实现没有就是没有，其他厂商的设计，在接入这个中间层的时候，是有性能损失的。
当然，这并不能说中间层的路线是错的，毕竟如果让各个厂商自己实现，他们连跑通都还没跑通，接入中间层是省时省力的做法，但是又必须接受性能损失，只能说鱼和熊掌不可兼得。
韩路一突然问道：“龙门半导体那边是你带团队去适配的？”
“是他们带了人过来，在4楼的实验室和我们一起做的适配。”
韩路一挑了挑眉他和龙门半导体的张总只谈了用优先购买权换适配合作，剩下的都是团队们自己交流的，他倒是没想到工作是在起源大厦里完成的。
摊子大了果然不可能面面俱到了。
“这个适配效率要再往上提，还要多久？”
江松然摇了摇头：“我们只是紧急完成了初期的适配，让这些卡赶紧上线派上用场，现在配合龙门那边继续提升效率，性价比不太高，不如让团队去对接其他的厂商。”
确实是这个道理只是这样一来，不同类型计算卡的集群之间算力差距好像有点大。
“可以混合调用吗？”韩路一问道。
“这是我们团队正在研究的一个方向，但中间还有一些技术挑战没有克服。”江松然答道。
韩路一拉开椅子坐下来：“展开说说。”
江松然愣了一下，问道：“多展开？”
韩路一说道：“你就假设我是一个5岁孩子，尽量把这个问题给我讲明白。”
江松然心想，韩总还真是突发奇想。
怎么突然用起了费曼方法？
如果你不能把一个专业知识讲给一个5岁的孩子讲明白，就说明你没有完全弄懂它。
“我试试吧。”江松然说道，“现在3种不同类型的推理卡，就像3种不同容量的卡车，不同的推理任务就像要搬运的不同大小的货物。有些任务长而且复杂，只能在L100上运行，有些呢，比较简单直接，对算力的消耗也小，可以在CJ590，甚至龙腾2000上运行。”
“我们现在遇到的问题是，一个任务进来之前，甚至作为一个长程任务的一部分，在运行中我们都不知道这个任务它是一个简单的任务还是一个难的任务。”
韩路一在心里摇了摇头，这江松然讲着讲着又回去了。
卡车和货物的比喻只用了一句。
江松然还在接着解释：“因为不知道任务是大是小，这个调度逻辑不好写，有的时候只能硬试。”
听到这，韩路一问道：“所以你们现在的方向是什么？”
“我们在考虑，如果能不能把任务切得再小一些，这样不用考虑盛不盛得下的问题，用哪个卡都盛得下。”
韩路一坐在原地看了他一眼。
“这个思路的话，能做的任务复杂程度会受到限制吧？”
这就相当于自废武功，太复杂的任务直接放弃，让L100也只能跑跟龙腾2000能跑的一样的任务。
江松然说道：“确实是有这样的缺陷，所以我们也还在探索。”
江松然和韩路一都是做系统工程出身，他们都知道，很多时候，一个东西在实验室里面实现了，并不意味着在现实中也能够做得出来。
从实验室到大规模应用，中间隔着的就是工程能力。
韩路一又想了想，说道：“现在的技术挑战都在任务编排上面，这个编排规则必须得是提前写好的吗？”
江松然听了这话一惊。
韩路一接着说道：“之前我们做电力任务的时候，就是让汤圆来做调度中枢的，这个任务分配的调度能不能也让汤圆来做呢？”
江松然仔细思考了一下韩路一的话。
动态调度确实是他们探索的另一个方向，但直接让汤圆来参与，可能并不成熟，因为AI现在的一个问题就是速度慢，并发量上不去，但是随着汤圆模型的调用量越来越大，这个调度判断可能是每秒几万甚至几十万次。
“韩总，调度逻辑比较复杂，直接交给模型来做的话，可能并发上不去。”江松然回答道。
韩路一一边看着屏幕上的实时数据一边说道：“我对算力的基础设施不是专家，如果我说错了，你可以纠正我，现在的问题是任务的复杂程度不好提前判断，对吧？那如果不把调度权交给汤圆，只是让它做任务复杂度的判断呢？”
对啊！
江松然之前钻了牛角尖，觉得写死规则的调度层性能好，但是不够智能；完全把调度层交给汤圆来做，性能又不好。
但是如果不是直接让汤圆做调度逻辑呢？
如果把判断任务难度作为调用链的起点呢？
江松然思路打开，新的想法突然都涌现出来。
“韩总，之前我们没考虑过这个方向，但是现在您提了之后，我觉得值得试一试。”江松然说道，“直接让汤圆做调度，确实不太现实，但我们完全可以在第一个任务中让汤圆对总任务流程的复杂程度做一个预测，之后在调用链中的每一步都带着这个判断给调用层。”
韩路一点点头，有方向就好。
“这样的话，任务分级，算力也分级，现有算力的调动效率还可以再提高——”江松然说到一半儿停住了。
“提高多少？”韩路一问道。
江松然苦笑了一下：“这个我手头现在没有数据，等我们测试完了再给您汇报。”
“好，算力的事情交给你，有了阶段性的进展和我汇报。”韩路一说道。
然后他起身走了出去。
看了看表，该下班了。
……
海城司衡律师事务所。
坐在办公区的各位律师和实习律师们已经有人开始收拾东西准备回家了。
最近两个月大家的日子过得都不错。
因为主任加班少了，大家也不用在办公室坐着加班了。
当然，不是说活儿就变少了，只是可以把电脑带回家干。
毕竟客户在那等着，上庭的时间都是定好的。
但是可别小看这个福利，这也叫弹性时间，远程工作了。
至于为什么最近顾主任突然不加班了？所里有传言说她是恋爱了。
这个传言说的有鼻子有眼，也不知道是哪传出来的，所里有人信有人不信。
不信的大家都理解——顾主任虽然腿长人美，但是每天都那么严肃，当她男朋友不得被吓死了。
也有人反驳：“你们看主任平时严肃，那是工作时候的样子，人家回家和男朋友一起的时候肯定不是这样啊。”
说这话的是实习律师小王律师，她之所以这么笃定，全因为她探过她师傅的口风。
沈律听到小王问起来的时候那副诡异的表情，很明显是顾主任的情感生活有情况啊。
她现在就希望顾主任这个神秘的男朋友能把顾主任调教——啊不，调整得再温柔一点儿，以后的日子就好过了。
而此时被小王“美好祝愿”的顾主任正坐在办公室里。
沈予微过来交流庭审的辩护方案，看了看伏案工作的顾司玥，突然意识到了什么。
“怎么看起来不太高兴？”沈予微问道。
其实顾司玥看起来没有不高兴，只是正常而已。
但是做了好几年的同事和朋友，沈予微对顾司玥已经有了独特的观察技巧。
当她效率特别高，特别专注于工作的时候，就是她心情不好的时候。
典型的化悲痛为工作效率。
沈予微看着顾司玥面前堆成小山的文件夹，这至少是她自己三天的工作量。
工作狂恐怖如斯。
顾司玥刚把手中最后一个文件收尾，听了沈予微的话，没有回应。
沈予微来了兴趣：“怎么了，和你们家韩总吵架了？”
顾司玥不满地看了她一眼。
“没有不高兴，只是有点儿困扰。”顾司玥说道。
沈予微把手里的文件夹放到一边，以一种知心大姐姐的姿态坐了下来。
工作可以一会儿再做，但是八卦必须现在就听。
“有什么困扰的，说说呗？”沈予微说道，“我可是情感专家。”
专门帮人离婚的情感专家。
顾司玥沉默了一会儿，说道：“路一最近在看房。”
沈予微闻言眼睛微微睁大。
职业病发作，她第一时间想到的就是这里面涉及的法律纠纷。
“婚前买房可是婚前财产，全款还是按揭？按揭的话共同还贷部分的增值部分是可以参与分割的。”沈予微说道。
之前打的都是离婚之后扯皮的案子，突然有机会规划婚前的资产计划，还挺刺激。
顾司玥皱了皱眉头，这根本不是她担心的问题。
沈予微看自己猜错了方向，又问道：“好吧，他看的是哪的房子？黄埔？井安？”
顾司玥起身走到窗前，往外看去。
沈予微不知道她是什么意思，也跟着走了过去，站在她身边往外看。
窗户对着黄浦江的方向，但是楼层不高，只能看见一点点大楼缝隙中露出的江景。
沈予微随着顾司玥的目光看过去，突然意识到了什么。
她咽了口口水。
“你是说，你家韩总看的是那儿的房子？”沈予微伸出一根手指。
顾司玥点了点头，眉头也皱了起来。
“顾律师，我错了，我之前还说你送的东西太贵重了，是我说早了。”
几身高级男装，几块表，那才多少钱啊。
和房子比起来确实是小巫见大巫了。
“所以，你苦恼的是怎么让他给你加名字？”沈予微用手撑住下巴“确实不太好开口，但是你放心，这个现在很常见的，只要不是有明确书面协议的，法院最后一般都不会认定成‘以结婚为目的的赠与’，不用退的。”
这是资深离婚律师的一点小技巧。
现金彩礼因为有习俗背书，即使没有书面约定，法律一般也会认为是“以结婚为目的的赠与”，如果最后婚姻不成，是可以部分甚至全部退还的。
但是房子就不一样了，除非有非常正式明确的附带协议，不然默认是自愿赠与。
所以她对男性客户的建议一向都是，宁愿支付现金彩礼，也不要给未婚妻在婚前购买的房产上加名字，否则在产权登记的一刻起，就算做无条件赠与了，基本很难反悔追回来了。
当然，现在角色换成了顾司玥，沈予微的建议自然就反过来了。
毕竟屁股决定脑袋，她和顾司玥是闺蜜，和韩路一又不是。
顾司玥看了沈予微一眼，叹了口气。
她此时已经不像刚才那样是不明显的不高兴了，整个人浑身上下都透露出一股伤感的意味。
好像平时雷厉风行的铁娘子突然变成了伤春悲秋的小姑娘。
沈予微还是第一次看见顾司玥这个样子，之前无论是再难的案子、再大的工作压力，她都好像不会被打倒一样。
沈予微不知道是不是自己的玩笑起了反作用，赶紧闭嘴不说。
这个时候顾司玥缓缓开口道：
“可是我——不想结婚啊。”