GPU在联邦学习中的应用的发展趋势怎样?性价比怎样?公司怎样部署GPU比较合适?
微众银行人工智能高级算法工程师黄启军:
目前有相关联邦学习框架使用了dp,可以看看NVIDIA的clara
星云Clustar技术研发副总裁胡水海:
由于联邦学习涉及计算量巨大的数据加解密以及密态计算,我们相信使用以GPU为代表的异构硬件来加速联邦学习计算将会成为主流。对比CPU,目前使用GPU加速联邦学习计算的性价比还是比较可观的。根据所涉及的密态计算类型的不同,性价比在几倍到几十倍之间。第三个问题问得比较大,需要根据训练数据大小、所选择的模型类型及参数数量、参与联邦学习模型训练的参与方有多少、各参与方的数据中心集群规模以及拓扑是怎么设计的等等相关因素来综合考虑。
问题来源