外面敲了敲门。

“韩总，两分钟之后您和赵总、江工有个技术会议，现在过去吗？”

“这就来。”

……

会议室里，韩路一拿着一个平板，正在看l100的算子适配评估报告。

这是江松然和赵文渊最近加班加点搞出来的。

自从收购硅明的事情敲定之后，下一步的发展路线也确定了，两个人把全部的精力都放在了这个项目上，才做出了这么一份报告。

韩路一看完之后没有说话，把平板放回桌子上，目光投向对面坐着的两个人。

江松然开着电脑，皱着眉头，屏幕上是密密麻麻的算子列表和优先级标注，这些是报告的原始数据。

赵文渊坐在他旁边，手里拿着一杯生椰拿铁，神情看着比韩路一还要放松。

今天会议的主题是讨论接下来怎么在l100集群里进行模型训练。

说实话，这么短的时间里能把推理跑起来，就已经让江松然震惊过一次了。

这本身是以年计的工程量，在源智一个月就做出来了。

当然了，这里面江松然也是出了大力气的。

是他把在推理阶段可以绕过的问题都绕过去了，才把工程难度降下来，让汤圆及时上线。

但是现在要做训练，不只是那些没做的工作要做，之前推理阶段逃过的课也得一一补上。

“我先说说大方向。”江松然把电脑上的内容投影到了会议室的大屏幕上，“我们可以把这个项目分成两个阶段，一个是算子的阶段，适配做完之后，先在小集群验证，只能做一些小规模的训练，不超过7b。”

“第二阶段才是用这套东西组千卡甚至万卡级的大集群，这里面涉及很多卡间通信的挑战，我们之后再说。”

江松然指了指屏幕上列出来的密密麻麻的算子，最上面的十几行标了绿，中间还有几十行是黄色的，剩下的都是红的。

绿色是正反向都做完的，黄色是只做了正向、反向用了近似值的，红色则是完全没做、用近似实现代替的。

江松然说道：“前向算子只是第一层，真正麻烦的是训练需要反向算子，还要保证数值稳定。很多算子推理的时候能用近似实现，训练不行，要实现高精度，就得一点儿一点儿抠，这是个苦力活儿。”

说完他苦笑一声。

要是用cuda，这个苦力活儿英伟达已经替你干好了，你只需要考虑怎么设计训练管线、训练策略就行。

现在用硅明的l100，他们的软件团队就不用指望了，所有的活都得源智的团队做，虽然最近招来的人都有丰富的调优经验，也做好了攻坚准备，但是这种事情急不得。

活儿多不可怕，但是你不能设置不合理的预期。

这些话江松然没说出来，因为韩路一在会议开头已经透露了一个意思：优先攻坚l100的训练能力，完成汤圆10的训练。

虽然他没说预期多长时间做完，但是你听听这个名字，现在发布的是09，要优先把10训练完，这个任务难道还能等一年多吗？

他只能把最乐观的估计说出来：“我估计，三个月能把一阶段做完，二阶段的通信要六个月，还要花

章节内容不完整，请退出阅读模式查看完整内容！