第二百九十三章 没什么威胁
美国,加利福尼亚州,圣克拉拉县。
英伟达竞品研究组的实验室里,一张崭新的计算加速卡被放在防静电垫上。
银灰色的散热外壳,黑色的印刷电路板,边角处还有精致的镂空标识。
sili-lumin l100,made in china。
实验室里的工程师和研究员们没给这张计算加速卡过多的关注,虽然是总监亲自下达的检测任务,甚至还给出了明确的截止日期。
但是对工程师们来说,这不过是“另一个”。
另一个对标英伟达旗舰的追赶者,另一个号称可以挑战英伟达的初创企业。
他们见得太多了。
每年都有个新公司跳出来号称自己研发了新的运算芯片。
美国的,欧洲的,中东的。
当然了,最多的还是中国的。
但是不管发布会做的多么酷炫,纸面的数据多么惊人,到了实验室里的结果都至少打个五折——有的甚至打一折。
两个工程师整齐地穿戴着静电服在连接线路。
其中一个人开口了:“怎么,又是一个‘h100杀手’?”
另一个人摇了摇头,没开口——她懒得进行这种无聊的嘲讽,设计者又不在场,她只想赶紧把检测做完。
第一个人看她没反应,也没再说话。
接好监测装置之后,两人回到控制台。
第一个人翻了翻样品登记表格,发现了点儿让他感兴趣的东西。
这张加速卡不是官方送测的样品,而是英伟达在公开市场采购的一张量产卡。
一张量产卡,还是一张他们没听说过的量产卡。
有意思。
“嘿,看看这个。”他跟沉默的第二个人招了招手。
第二个人走过来看了看,没表现出特别的兴趣:“按照标准流程测试吧。”
开机,启动。
屏幕上很快就滚动出一连串测试日志。
如同两人预料的一样,第一轮就出现了问题,而且问题很大。
驱动识别在测试框架的大多数条件下都不兼容,编译器对非常用算子完全没有适配,对常用算子的优化也很差。
第一个人一边看一边笑出来声。
“这种水平,是怎么量产出来的?”他看着屏幕上的数据,说道,“真不知道为什么要插队测这个,简直是浪费时间。”
这个时候测试框架已经跑完了兼容性测试,进入了性能测试的阶段。
其中最核心的测试就是矩阵乘法的运算速度。
这是变形金刚(transformer)架构里最常用的运算,也是最吃硬算力的。矩阵乘法做的好不好,是区别运算加速卡在ai领域能用和不能用的分界线。
第二个工程师发话了:“结果还不错。”
第一个人把注意力放到屏幕上的数字上:“哪里不错了?这个运算效率大概只有h100的五分之一。”
这个水平的“竞争者”他们在实验室里经常能够见到。
“他们的适配层写得太差了,扯了硬件的后腿。”第二个人像是在喃喃自语,她用鼠标把性能测试的结果打开,从里面拉出了一张图表,放大,拖动。
“看这,这个运算速度有很大的波动,峰值高,均值低。”她转过头看向第一个人,“这说明什么?”
“说明什么?”第一个人笑了一声,“这张卡磕high了?”
测试已经结束了,所有的测试结果都在威胁阈值之下,这种级别的竞品甚至不值得他们专门写一份分析报告,拿出一份标准模板,把刚才测量出来的数据导入数据库,测试流程就完成了。
第一个人对这张加速卡已经失去了兴趣。
对第二个人的问题也只是草草应付了一下。
他迅速地填完了数据,然后脱下来静电服,准备离开实验室。
“我约了杰克去三楼的休息室打桌上足球,你去吗?”离开之前他问第二个人。
第二个人摇了摇头:“我再研究研究。”
“有什么好研究的,报告我都交了。”第一个人说完,走出了实验室,“再见,珍妮弗。”
珍妮弗回头看了一眼,然后转身面对操作台。
她先把刚才的测试又跑了两遍,包括兼容性测试和性能压力测试,把所有的记录都归档,然后她带上手套,把l100从测试台上拿了下来,放到了旁边的拆解台上。
接下来就是拆解了。
珍妮弗用螺丝刀把固定螺栓一一松开,取下银灰色的散热外壳,露出底下的印刷电路板。
芯片的die面积比她预想的要大不少。
在芯片生产的源头——晶圆厂,芯片并不是一小块一小块生产出来的,而是在一整张直径三百毫米的晶圆上同时生产出来,在组装到加速卡时再进行切割。
在制程工艺相同的情况下,die面积小一般就意味着晶体管数量也少,算力的上限就更低。
她拿起放大镜,凑近看了看die的表面,挺干净的,没有什么肉眼可见的瑕疵。
这说明封装和散热设计至少没有明显短板。
珍妮弗把l100放到显微镜台上,调焦,然后把图像传输到旁边的显示器。
她开始沿着芯片边缘系统性地扫描,把各个区域的图像截图存档。
这是深度评估的常规操作,但并不是每一个竞品的加速卡都需要进行深度评估——因为这样一轮评估太费时间了。
珍妮弗一点一点的看过去,标准的hbm(high bandwidth memory,高带宽存储)接口,标准的电源轨布局,计算单元的分块方式效率很高。
把图像扫完之后,深度评估的话,就要一层层融掉晶片去逆向芯片设计图了,这一步既花费时间,也花费精力,想要团队分配资源来做的话,需要填写单独的报告。
珍妮弗在原地想了一会儿,又把l100的散热外壳装了回去,然后接回了测试台。
她又打开刚才的测试数据,特意放大了运算曲线的波峰区域。
这个峰值太高了,不正常。
她盯着这些数据看了一会,然后打开了自己的工具目录。
里面有一个她之前写的极简测试脚本,专门用来绕开通用测试框架和高层调度逻辑,直接写一个极简矩阵乘内核,只测最底层的运算吞吐量。
她把脚本修改了几行,指向l100的接口,然后运行。
两分钟之后,结果出来了。
珍妮弗的两只手合在一起搓了搓。
果然,是软件拖了硬件的后腿。
软硬件差距这么大的情况,在这一行还挺少见的。
她甚至思考了一下,如果让她来写这个适配层,她会怎么写。
想了几秒,她摇了摇头,英伟达的员工不太需要担心这件事。
珍妮弗把结果截图,打开l100的报告,在下面添加了一段简短的备注:“这张卡的硬件设计水准和它跑出来的测试成绩不匹配,如果有软件层的优化,它的潜力会得到释放,建议进行深度评估。”
而她不知道的是,第一个人走的时候填写的第一版评估报告,现在已经在公司ceo詹森的桌子上了。
助理把报告递过来的时候,还说出了报告里的结论:“威胁不大,连二线竞争对手的水平都达不到。”
詹森接过报告,翻了翻。
三页的报告,一大半都是测试数据的截图,结论那一栏简单明了:低于威胁阈值,标准归档。
詹森把报告放回桌上,开口问道:“源智收购的那家公司,叫什么来着?”
“sili-lumin,应该是silicon(硅)和luminance(明亮)拼起来的。”助理说,“产品叫l100。”
“l100。”詹森重复了一遍,“面对的是哪个市场?”
“只面对中国市场,调查结果统计,一共只卖出了不到两千张。”
“他们用的哪家代工厂?”詹森又问道。
“我们的老朋友。”助理笑了笑。
詹森的心放了下来。
既然是这样,就没什么威胁了。
那些政客们虽然不愿意放开英伟达的销售市场,但是肯定很乐意给晶圆厂再减少一个买家。
……
周五上午,在云垠出差的几个源智员工借了一个会议室,正在和鹏城的硅明团队、海城的源码团队进行三方视频会议。
“l100新集群的部署很顺利。”韩路一说道,“现在的当务之急,是尽快让台积电完成下一期订单的交付。”
硅明在台积电的一期订单是一万个l100的核心芯片,已经交付。
当时薛兆恒还下了第二期的一万个芯片的订单,但是还在排队。向海外采购的高带宽内存订单也在排队。
这对当时的硅明来说,不是个好决策,这些预付订金让本来就现金流吃紧的硅明雪上加霜。
但是对此时的源智来说,这却是不折不扣的好消息。
现在ai赛道火热,所有的相关产业都产能不足,想买什么都没有现货。
买芯片要排队,买存储也要排队。
现在关键的问题是,韩路一要的不只是订单,还是交付。
因为他可以预见华盛顿随时有可能就不让他买了。
在半导体这个赛道上,前车之鉴历历在目。
尤其是汤圆现在还在大模型测评榜的榜首,简直就是众矢之的。
“另外,你和你的技术团队要从现在开始寻找替代的代工厂了。”
“韩总,不用这么着急吧?”薛兆恒提出疑问。
国产替代的价值他当然懂,他在半导体行业,自然不会不知道最近有多少中国企业受到“实体清单”的限制,业务遭受了重大的冲击。
可问题是,那些都是市值上千亿的巨无霸,无论是硅明还是源智,应该都还不到担心这件事的时候吧?
隔着视频,韩路一看不见薛兆恒的面板,但他能看出他的意思。
“光是硅明当然不至于,但是以现在源智受到的关注——”韩路一笑了笑,“我觉得我们很快也要被限制了。”
薛兆恒看着视频里韩路一的笑容,觉得还不太习惯。
有多少被限制的厂商愁的睡不着觉,你怎么看起来还盼着被限制了?
不过如果以这个方向来准备,他也理解了为什么韩路一强调现在要去催订单的交付。
对国内可选择的代工厂,薛兆恒之前也有过了解,但其实是同一个问题——
产能不够。
连世界上技术最成熟,生产规模最大的台积电产能都不够。
国内的竞争者更不够了。
在英伟达和其他芯片被美国限制的大背景下,国内在寻求自主突破的厂商并不少,其中大部分都是以设计和软件为核心,真正拥有晶圆生产能力的厂商只有一家——
华夏冰芯。
可是有需求的国产厂商那么多,能提供生产能力的只有冰芯,人家凭什么接你的订单呢?
无非几个办法,要么排队,要么加价,要么你有深度合作的关系。
硅明反正是都没有。
韩路一听完薛兆恒的诉苦,想了想,说道:“冰芯的总部在海城,我回海城之后去拜访一下,你和团队做好迁移的准备就好——”
说到这他笑了笑:“这也只是作为我们的后备方案,如果不受限制,那在台积电买的越多越好,现在再去下十万的订单也行。”
与会的高管们都露出了笑容,薛兆恒也听出这是韩路一的玩笑话了。
台积电的产能都排到两年后去了,再下十万的订单?
到时候黄花菜都凉了。
硬件团队结束之后,是江松然的汇报。
之前他的主要任务是算子适配,但是这个进度他和韩路一、赵文渊私下对过了,属于实现细节,不需要在源智和源码的联合会议上讲。
而且这是他现在最不担心的一部分工作了——韩路一的账号上传适配的节奏稳定而惊人,昨天人在张家口的情况下,还上传了两个算子的适配,这也更让江松然确认了韩路一背后另有团队的想法。
两人一天都在一起,其中一大半的时间还在火车上。韩总总不能是晚上回到酒店房间又写了两个算子的适配代码吧?
至于江松然的新工作中心——
“我这边写了一个新集群上线后的调度方案,用的是成熟的开源框架做一些适配调整,大概一周的时间就可以完成新集群的接入。”江松然把屏幕在视频会议中共享,说道,“随着新集群的上限,基本上可以说,我们的算力承载能力可以提升到以前的十七倍。”
“这对御风团队来说可是个大好消息。”江松然调侃了一句,最近一段时间姜亦心没少来催他扩容的事。
姜亦心在视频里点了点头,她和苏念念、陆明洲以及陈建业在海城的会议室里参会。
“御风这边的数据怎么样?”韩路一问道。
作为汤圆现在唯一的接入窗口,御风的数据基本上就等同于汤圆的数据。
姜亦心共享了屏幕,御风后台的看板展开来,所有人都能看到。
“注册用户接近三百万了,”她边说边用鼠标在用户留存的符合数据图标上转了一圈,“但日活留存的斜率要平很多。”
“我们分析,新增里面大部分是普通用户,没有技术背景,对命令行界面不熟悉。这是一波被汤圆的网络舆论带进来的尝鲜用户。”
这是一个现实的问题。
之前由于算力的限制,汤圆0.9的api一直没有对公众开放。
自从月初汤圆0.9公布以来,外界对汤圆的质疑声就没有停下来过,国内的舆论有,国际上的舆论也有。
虽然源智逐步对一些研究机构开放了api接入,供研究用途,但是那只占了极少数的比例。
而网上的舆论是这样的,你并不需要实际使用过就可以发表自己的看法。
很多人为了尝试和汤圆对话,还特意去学习了怎么注册、安装御风,这就是御风这次爆发式增长的来源。
这边姜亦心还在继续汇报着御风最近的数据以及她的分析结论,韩路一在电脑上给苏念念发了私信:“念念,我准备上线汤圆的聊天机器人,用源智的团队再最后打磨一下,分得出人手吗?”
苏念念先是回了一个【思考】的表情。
过了十几秒,又回了一个【ok】的表情。
两个ceo迅速地在私下完成了交流。
恰好这时姜亦心的汇报也结束了,韩路一接过了话题。
“这些流失的尝鲜用户都是汤圆聊天机器人的潜在用户。”韩路一说道,然后他转头问了问江松然,“现在上线聊天机器人,infra这边有压力吗?”
“十七倍的算力啊,除非一上线就有上千万的日活,不然完全没压力。”江松然笑了笑,来源智这么久,这次说话最有底气。
“聊天机器人现在有个内测版,是我们员工内部用的,要想做成面对公众的版本还有不少要微调的地方。”韩路一看了看视频里海城团队的画面,“我想让源码的团队来负责这个聊天机器人的项目,苏总,你来统筹一下。”
“好的。”苏念念在视频里接受了任务,“小姜,老陈,一会散会之后我们再开一个小会讨论这个事。”
“好,看来接下来大家都有事情忙了,遇到什么困难随时找我,周末愉快。”韩路一最后收尾,结束了会议。
视频会议挂断之后,屏幕回到待机页面,一片黑色的屏幕倒映出韩路一的脸。
没什么时间休息,韩路一和赵文渊带上行李坐上了去火车站的车。
他们还要赶去京城。
下午的行程已经安排满了。