【学霸的算力系统】小说免费阅读,请收藏 爱微阅读网【2vdu.com】
可是,他用公司的那台A100算力卡试了后,发现现实世界的算力卡和算力系统的差别远不只是“算力汇率”这一个因素而已。
或者说,算力汇率只是在名字里面有个“汇率”而已,这个汇率是体现在系统和现实算力设备,做同样工作量时的算力消耗对比上。
就好比:做同样的工作量,小A需要十分钟,小B只需要一分钟。那小A和小B的工作效率汇率就是1:10。可这是建立在小A和小B都会做这件事的前提下。
如果小A不会做这件事呢?那就不存在对比。因为小A最后根本就做不完。理论上二人的工作效率汇率就是1:无穷大。
对照到AI模型层面。
就是在没有算力系统辅助的情况下,如果遇到模型构建层面本身的问题,那你别指望现实的算力设备能改正的了。其训练过程就像一条没有眼睛的贪吃蛇,满场乱转。
其训练产出的误差忽大忽小,最后整个训练就陷入了震荡之中。就像大A股受到一点风吹草动时候的样子。
好在林远还是想到了办法--职责分离。
如遇到内容无法显示或者显示不全,乱码错字,请更换谷歌浏览器即可正常阅读。