如何优化神经网络或者软件架构来提高硬件的效率(英伟达芯片功耗高,效率就不会很突出)?
NVIDIA中国GPU应用市场总监侯宇涛:
按照我的理解,您的问题应该是在推演端。在推演端,我们现在有Tegra,它的功耗从十几W到二十多W,效率也比较高。我觉得您说的不是训练平台,因为训练平台在数据中心应该是以计算为主,从功耗上来说,整体的计算体系的功耗要远小于同样计算能力GPU计算集群的功耗。因此如果在训练端,应该不会存在这个问题。对于推演端,您可以用低功耗的Tegra,它会帮助你快速地达到你的需求。
问题来源