NVIDIA首席科学家Bill Dally谈GPU如何引爆AI时代

2018-07-24 15:11

#GPU

内容介绍


Bill Dally作为NVIDIA的首席科学家,也是深度学习领域的标杆。他曾担任斯坦福大学计算机科学系主任,很早之前就已经开始了神经网络方面的研究。他也是一位高产型研究员,拥有150多项专利。
 
很多AI算法和神经网络研究早在80年代就已经登场,但直到最近几年,AI才得以真正崛起。如今,Dally已在人工智能领域辛勤研究数十年,他相信“AI将会改变人类生活的方方面面”。
 
当今AI革命的起源
 
Dally告诉Kravitz,他在20世纪80年代开始研究神经网络时,使用的计算机的运算速度比现在慢10万倍。而如今的AI革命由功能强大的GPU驱动。但是,新一轮AI革命的成功更需要付出大量努力。
 
2006年,NVIDIA的Ian BuckBut发布了CUDA编程语言。“GPU拥有计算资源,而CUDA释放了这些资源。”Dally说道。自此,GPU计算引起关注。
 
Dally遇到了深度学习领域的杰出人物吴恩达,谈起了吴恩达当时正在投身的一个项目。该项目利用无监督式学习来检测网络上猫的图像,现在已广为人知。
 
该项目当时使用了Google Cloud上的16000个CPU。Dally建议他们合作使用GPU完成这项工作。这也成为NVIDIA探索深度学习的开端。
 
Dally表示,未来神经网络有两个主要的领域将受到关注:创建更强大的算法以提高推理的效率,以及开发能基于更少数据进行训练的神经网络。
 
技术进步包含“演进部分和革命部分(evolutionary component and a revolutionary component)”,他说道,“在研究中,我们重点关注革命部分。”
 
NVIDIA的研究文化日益增强
 
2009年,Dally作为首席科学家加入NVIDIA,NVIDIA研究团队只有不到10位科学家。而现在,整个研究团队已壮大到200人。
 
Dally希望NVIDIA研究人员能致力于未来深刻影响公司发展的领域,并取得出色的成绩。他表示,在顶级会议中发表研究成果可以获得同行的审核与反馈,这是实现质量控制的关键,因此具有十分重要的意义。
 
“这种谦卑求教的体验会让你变得更好。”他表示。
 
近日在盐湖城举行的计算机视觉与模式识别会议(CPVR)上 ,NVIDIA研究人员共发表了14篇已收录论文和学术海报,其中有7篇在演讲环节中发表。
订阅英伟达 NVIDIA 技术月刊
输入电子邮件,订阅 NVIDIA 加速计算或深度学习电子月刊
订阅