第二百八十八章 你不知道NullPointer是谁? 路大头
每一样,单独拿出来,都是个大项目。
说白了,这是个得要软硬件都有人懂,还得有人专门研究过l100的专家团队,坐在一起才能做出来的活儿。
怎么突然一份完整的代码就出现在代码库里了?
这代码——不会没法用吧?
抱着试一试的心态,范小天把刚才提交的这份代码从代码库里拉(pull)到本地,建了个测试环境,开始跑正确性验证。
他盯着跑起来的进度条,一边打开外卖软件看了一下,一边漫不经心地等着第一个报错弹出来。
呀,外卖已经送到了半天了,我的面要坨了。
等一会报错了就先去把外卖拿回来。
范小天这么想着,抬起头来看向屏幕。
他只看到了满屏绿色的pass。
这一套验证测试有几百个,一个一个跑过去,不算快,也不算慢。
一行一行的pass还在日志里输出。
pass。
pass。
……
pass。
范小天就这么盯着屏幕又看了十分钟,所有的测试都跑完了,全都通过了。
最后一行日志:
alltestspassed414/414。
范小天又把外卖的事情忘在脑后了,他现在满脑子想的都是一件事。
这个实现——
效率怎么样?
因为没有性能分析工具,他没办法读取l100显卡上的各项指标,像s(streagultiprocessor,流式多处理器)利用率、显存读写效率这些东西,也就没法计算这个实现的运算效率到底有多少。
但是还有个取巧的法子,也是源智团队一直在用的。
读不了指标没关系,可以直接计时运算时间,再和英伟达的卡比一比,看看能达到竞品卡的多少效率就可以了。
按说这个阶段还没到测效率的时候,但是看着这么优雅的代码,范小天忍不住了。
万一呢?是吧?
范小天迅速搭了个简单的计时基准:同样的batch大小,同样的序列长度,同样的运算,分别在手头的l100和一张组里共享的h100上跑,计时,对比。
这张h100可是传家宝,也不知道江工是从哪里搞来的,组里一起用来做性能测试的,大家都宝贝得不得了。
参数设好,范小天看着提交键咽了口口水,才按了下去。
进度条跑起来,这次等的时间稍微长一点点,因为性能测试要连续测好几轮,取平均值,这是为了保证测试的稳定性。
大概三分钟。
结果出来了。
l100平均每步用时46毫秒。
对标的英伟达h100平均每步用时48毫秒。
比英伟达还快!
比英伟达的h100还快!
范小天把脸凑近了屏幕,又看了一遍。
他以为自己看错了。
他又往后退了退,眯着眼睛,又看了一遍。
百分之一百零四点二。
之前源智团队一直是把
章节内容不完整,请退出阅读模式查看完整内容!