第363章 六十一!

更新很快,看到就是赚到。

⚡ 自动翻页 开启后阅读到底自动进入下一章
⚡ 开启自动翻页更爽 看到章尾自动进入下一章,追书不用一直点。

  林彻没说话,等他继续。

  老周往前坐了一点,平板搁在膝盖上。

  “我周末算了一遍国產替代方案。寒武纪的mlu270可以替代v100的大部分推理任务,华为昇腾910可以替代a100的部分训练任务,主控晶片用飞腾或者鯤鹏都行。“

  他顿了一下。

  “但性能只有61%。“

  61%。

  打了六折。

  “具体差在哪。“

  “推理速度差20%左右,可以接受,用户端感知不明显。但训练速度差40%以上,同样的模型训练时间从两天变成三天半。更大的问题是良率,国產卡的故障率是进口的三到四倍,批量部署之后运维压力会很大。“

  老周说到这里停了。他在等林彻的反应。

  林彻靠在沙发上,手指搭在扶手上,没动。

  他在想。

  61%的性能。听起来很难看,快接近不能用了。但“不能用“和“勉强能用“之间有一条线,这条线的位置取决於你怎么用。

  单晶片跑不动的事情,多晶片可以跑。一张卡算不完的任务,四张卡並行可以算。推理速度差20%,可以用缓存和预加载对冲,用户那边感知不到。训练速度差40%,可以把非紧急的训练任务挪到夜间跑,白天只保留推理和在线服务。

  异构计算。

找书更快
都市游戏历史仙侠科幻同人武侠玄幻