第85章 学霸需要有人欣赏!(1.5w 1/3 求订) 系统,我真不是苏联学霸
第85章 学霸需要有人欣赏!(1.5w 1/3 求订)
几天后。
鸿记蓝总亲自来了,和大飞汪总带著自己的技术人员,一同抵达了实验室,径直去了会议室。
齐教授有些惊讶,因为他让人打电话时,只是含糊地说明情况,说漆昊在底层加速算法上有了非常有价值的突破。
他本以为蓝总和汪总会派个技术总监来,没想到竟然是两位大佬亲自来了。
“哎哟,两位老总你们大驾光临了!”
“齐教授,我们听说是漆昊取得了突破,而且您用非常有价值来形容,这说明事情已经超出了普通成果的范畴。”
“毕竟一般小的改进,齐教授也不会这么说,所以我判断,这次值得亲自来一趟。”
齐教授笑著说道:“果然瞒不过蓝总和汪总的敏锐,漆昊確实给我们带来了惊喜。”
然后他把学生通宵了几晚上赶出来的ppt投影出来,开始讲了起来。
当齐教授开始展示漆昊跑出的那组训练数据时,在座的人都异常认真。
“这不可能!”一位曾是硅谷高级工程师,做了三年分布式训练框架的老高脱口而出。
“齐教授,这数据是不是有点太乐观了?”老高皱著眉头,直言不讳。
101看书101??????.??????全手打无错站
“我们公司也一直在尝试用gpu加速训练,尤其是那些包含大量卷积、池化、relu、
lrn等算子的复杂网络,即使是用顶级的gpu,加上我们多年的优化经验,对於这种规模和复杂度的真实场景数据,也很难达到这个训练时间,而且,您刚才说,漆昊是一个人完成的?”
他可是知道,这其中涉及到的,可不仅仅是调用现成的库,而是要自己手写gpu核函数,涉及到卷积、池化、relu、lrn、梯度反向传播等核心算子,光是这些优化就可能需要写几千行的cuda代码。
大飞的老金接道:“我听说不管是国內还是国外学术圈子,有时候会美化数据,就跟古代的秦檜一样,用一些莫名其妙的理由去掉对实验结果不利的数据,实验数据是任人打扮的小姑娘,谁来添一笔都有可能,我们现在很难判断,这些数据的真实性到底有多少。”
他看向漆昊:“漆昊在数学领域很优秀,我们都知道,但他在机器学习,尤其是在底层gpu並行计算的经验,应该有限,这方面的突破,说实话,即使是大公司,也需要一个专业团队耗费数月或者数年去攻关。”
齐教授不满,他耐著性子解释道:“陈工和曾工是亲眼见证了整个过程的,他们当时看到漆昊跑出的数据,也觉得不可思议,跟我匯报时,我最初也以为是数据出了问题,所以当眾跑了第二次数据。”
“是的,我们当时亲眼见到的!”陈工接道。
老高不置可否,只是说:“我们这些做工程的,哪知道这数据是不是通过其他方式呈现出来的,总不能就因为你们的说法,就觉得是真的吧?
“而且,现在神经网络是个相对冷门的领域,要做突破太难了,我们之前也尝试过各种方法,效果都不理想。”
“在没有看到实现细节之前,我个人对此数据持保留意见,学术圈子数据出问题的情况,虽然不常见,但並非没有,为了严谨起见,我们有必要————”
“用你们带来的数据当场跑。”漆昊坦然说道。
齐教授等人都愣住了。
“漆昊,这样不好吧?”老高懵了,他带的测试数据集其实是公司內部高度保密的结构极其复杂的业务真实数据,里面有各种多通道特徵交错的极端case,甚至还有不少故意设计用来测试框架极限的脏数据,他没想到漆昊竟然答应得如此乾脆。
漆昊坦然说:“跑个新数据而已,又不会泄露你们的业务机密,况且这套东西如果以后要面世,为了打开市场,我肯定得经受得住各种第三方真实数据的检验,不能圈地自嗨。”
老高和老金对视一眼,他们本以为漆昊会因为他们的质疑而心生不满,没想到漆昊竟然如此爽快,甚至直接同意用他们带来的测试集。
“漆昊,你是认为神经网络领域很快会復甦,所以连这种极限测试都不避讳?”
“这个嘛,等会儿数据跑起来你们就知道了,神经网络其实没有你们想像中那么慢,找到正確的路了,这个领域很快就能起来。”
“你的模型是基於多层感知机mlp?”
“不,是基於卷积神经网络架构的范式。”
在场人一脸复杂。
神经网络最致命的是,训练起来比老牛拉破车还慢,目前找不到商用价值,学术界甚至把hinton那一派坚持研究神经网络的人,戏称为抱残守缺的遗老。
这就是神经网络领域的现状。
不知道漆昊为什么如此有信心,还用的是卷积神经网络这种快被淘汰的架构。
齐教授看见蓝总和汪总都没出声,知道当场跑新数据,用事实说话才是最硬的道理。
现在大家都关心的是,漆昊是否真的能够让神经网络领域起死回生。
接下来,漆昊把他们带去了实验室,就在所有人瞩目下,老高从隨身携带的加密硬碟里,拷出了他们公司那套最让人头疼的测试数据集。
漆昊操作了一下,然后启动任务!
老高和老金开始目不转睛地盯著屏幕上的监控面板。
跑新数据是个技术活,尤其是要实时监控各项指標,蓝总和汪总等大佬长期没有干过一线的活儿,根本撑不了那么长的时间,所以齐教授请他们去休息了,只留下漆昊和老高等技术人员。
起初,老高和老金一边盯著屏幕上飞速滚动的日誌,一边探討,时不时在笔记本上记录几笔。
然而,隨著训练的推进,他们的声音渐渐小了下去。
他们通过系统內置的性能分析工具清晰地看到,即使面对他们带来的多通道,高交错的极端数据,系统依然在巧妙地利用cuda的异步流和双缓衝,將数据传输与gpu计算完美地並行化,有效隱藏了內存带宽的瓶颈。
看著那高高拉起,几乎在98%以上的gpu利用率曲线,两人的眼珠子都快突出来了。
“这不可能啊。”老高喃喃自语,他盯著那一路狂飆的硬体吞吐量和迅速下降的loss
曲线。
这绝对不是一个刚接触神经网络的数学系学生能调校出来的性能表现!
“漆昊同学,这真的是你一个人调出来的系统?”老金吸了一口气,忍不住问道。
他们本以为会在高压测试下看到系统崩溃,显存溢出或者速度暴跌,结果却看了一场堪比工业界顶级优化水平的高性能运行秀。
“漆昊同学,你做这套优化和框架,大概花了多久?”老高的声音有些乾涩。
“一晚上吧。”漆昊平静地回答。
“一晚上?”老高和老金几乎要呼吸不过来了,他们公司花了半年时间,请了多少顶尖工程师,都没有跑出类似程度的吞吐量,漆昊一晚上搞定了核心优化。
老高想到了自己公司里那一支由海归博士,行业大牛组成,拿著百万年薪,享用著进口咖啡豆和人体工学椅的专家们。
那帮人摸鱼,扯皮,开会,写ppt,折腾了整整半年,每次周报写得花里胡哨,最后交上来的优化方案,哪比得上漆昊这跑出来的恐怖性能?
他终於明白那句人和天才的差距,比人和狗差距还大的意思了。
当然,他认为他们公司那群是狗,他还是保留了人籍的。
“漆昊,你这系统的性能和稳定性,真的没有什么可挑剔的,难以想像,你居然不是计算机专业的学生,我都怀疑,你有在英伟达待过了。”
“我还没有出过国。”
老高和老金一时气闷,他们和漆昊差距有这么大吗?
此时,夜色已经深了。
他们尷尬地揉了揉发酸的眼睛,彼此对视了一眼,站了起来。
老高干笑了一声,合上笔记本,委婉地说道:“漆昊啊,既然这新数据也顺利跑通了,性能甚至比你之前ppt里写的还要好,真相也算是水落石出了,再继续往下跑更极端的测试,实在有些耽误你时间,不得不说,你这水平,真是让我们这群老傢伙觉得有些惭愧了,確实没必要再测下去了。”
一旁的陈工和曾工鬆了一口气,心想可算把这两人送走了。
然而,漆昊说:“高工,金工,你们今天不把这个数据集从头到尾完整跑完,蓝总或者汪总可能不放心。
老高一愣:“什么意思?”
“高工,现在神经网络领域確实冷门,特別是卷积神经网络,没什么前景,大家心里有疑问,很正常。”
“可要是你们只跑了20%的进度,回了酒店,蓝总和汪总一问起来,你们要是只能笼统回答跑了个开头,那两位老总心里能踏实?到时候万一哪天在其他数据集上测试又出了点波动,问题还是又会回到我这里。”
老高一愣,马上说:“这不太好,全部跑完太折腾了,而且可能要耗费你不少设备资源,我们担不起这个责任。”
漆昊一本正经地反问:“不会吧,我们这速度,跑完你们带的全部数据,也用不了多少时间吧?”
老高和老金鬱闷。
本章未完,点击下一页继续阅读。(1 / 2)