宠溺你的味蕾！送餐公司通过 GPU 提升消费体验
2020-03-21 12:44
分享到微信
分享到微博
当你还在将培根、寿司或墨西哥玉米饼带回家的过程中，DoorDash 正在通过 AI 让它发生。
DoorDash 成立于 2013 年，提供送餐服务。如今，通过拨打电话，消费者可以在美国、加拿大和澳大利亚的 4,000 个城市里，向 310,000 多个商家订餐，其中包括 Chipotle（墨西哥大玉米饼快餐店）和沃尔玛超市等。
该公司的秘诀之一是数字物流引擎，该引擎可以将商家的三方市场、消费者以及配送员连接起来。
通过混合使用机器学习模型，该物流引擎可以为想要点餐的客户，提供个性化的餐厅推荐和配送时间预测。同时，该引擎会为配送员分配订单，并通过数万亿的选项进行分类，以为配货员提供最佳路线，同时动态地计算配送价格。
这项工作需要在众多机器学习模型中，嵌入一组复杂的相关算法，从而处理不断变化的数据流。为了加速这一过程，DoorDash 已转向通过云中配置 NVIDIA GPU 来训练其 AI 模型。
训练速度提升 10%
从 CPU 转移到 GPU 进行 AI 训练使 DoorDash 的速度提升了 10 倍。DoorDash 的机器学习工程师 Gary Ren 说，从单个 GPU 迁移到多个 GPU 使其工作速度又提高了 3 倍。他将在 GTC Digital 2020 的在线演讲中，介绍该公司的 AI 应用方法。
Ren 说：“快速训练意味着可以尝试更多的模型和参数，这对我们而言至关重要，训练速度总是越快越好。”
他补充道：“训练速度提高了 10 倍，这意味着我们将云集群的速度提高了 10%，因此我们可以将计算成本降低 10 倍。将参数或模型增加 10 倍的影响很难量化，但它使我们整体业务绩效提高了几倍。”
强大的推荐功能
到目前为止，DoorDash 推荐引擎已经投产约 2 年。随着 DoorDash 等诸多公司意识到消费者并不是总是清楚自己想要什么，推荐机制无疑变得越来越重要。
他说，潜在客户可能“在使用我们的应用程序时，也在探索他们的选择。因此，考虑到我们的商家和消费者数量众多，为消费者推荐合适的商家，可以更加轻松地获得订单。”
由于推荐引擎非常重要，因此 DoorDash 会不断对其进行微调。例如，该公司在其工程博客中描述了如何为每个商家制作嵌入式 n 维向量（embedded n-dimensional vectors），以发现商家之间的细微相似之处。
它还采用了所谓的多级、多臂赌博机算法（multi-level, multi-armed bandit algorithms），该算法使 AI 模型既可以利用客户过去的选择喜好，又可以探索新的可能性。
AI 新用例
在优化推荐引擎的同时，DoorDash 也正在探索新的 AI 用例。
“由于消费者有时需要与配送员或商家之间进行沟通，因此，实现迅速而无缝地沟通至关重要。随着 NLP（自然语言处理）的改进，肯定有在这里使用 AI 的潜力，因此我们正在探索一些解决方案。” Ren 说。
NLP 是将推动未来性能需求的几种用例之一。
“我们处理来自现实世界的数据，并且这些数据一直在变化。每个城市都有独特的交通模式、特殊事件和天气状况，这种复杂性使其难以提供高精度的预测，”他说。
该公司的业务增长也带来了其他挑战，包括为新客户推荐合适的商家，以及规划新城市的配送路线。
他补充说：“随着公司规模的扩大，这些界限被突破了。目前，我们的推理速度已经足够快了，但是我们还需要为未来做计划。”
DoorDash 成立于 2013 年，提供送餐服务。如今，通过拨打电话，消费者可以在美国、加拿大和澳大利亚的 4,000 个城市里，向 310,000 多个商家订餐，其中包括 Chipotle（墨西哥大玉米饼快餐店）和沃尔玛超市等。
该公司的秘诀之一是数字物流引擎，该引擎可以将商家的三方市场、消费者以及配送员连接起来。
通过混合使用机器学习模型，该物流引擎可以为想要点餐的客户，提供个性化的餐厅推荐和配送时间预测。同时，该引擎会为配送员分配订单，并通过数万亿的选项进行分类，以为配货员提供最佳路线，同时动态地计算配送价格。
这项工作需要在众多机器学习模型中，嵌入一组复杂的相关算法，从而处理不断变化的数据流。为了加速这一过程，DoorDash 已转向通过云中配置 NVIDIA GPU 来训练其 AI 模型。
训练速度提升 10%
从 CPU 转移到 GPU 进行 AI 训练使 DoorDash 的速度提升了 10 倍。DoorDash 的机器学习工程师 Gary Ren 说，从单个 GPU 迁移到多个 GPU 使其工作速度又提高了 3 倍。他将在 GTC Digital 2020 的在线演讲中，介绍该公司的 AI 应用方法。
Ren 说：“快速训练意味着可以尝试更多的模型和参数，这对我们而言至关重要，训练速度总是越快越好。”
他补充道：“训练速度提高了 10 倍，这意味着我们将云集群的速度提高了 10%，因此我们可以将计算成本降低 10 倍。将参数或模型增加 10 倍的影响很难量化，但它使我们整体业务绩效提高了几倍。”
强大的推荐功能
到目前为止，DoorDash 推荐引擎已经投产约 2 年。随着 DoorDash 等诸多公司意识到消费者并不是总是清楚自己想要什么，推荐机制无疑变得越来越重要。
他说，潜在客户可能“在使用我们的应用程序时，也在探索他们的选择。因此，考虑到我们的商家和消费者数量众多，为消费者推荐合适的商家，可以更加轻松地获得订单。”
由于推荐引擎非常重要，因此 DoorDash 会不断对其进行微调。例如，该公司在其工程博客中描述了如何为每个商家制作嵌入式 n 维向量（embedded n-dimensional vectors），以发现商家之间的细微相似之处。
它还采用了所谓的多级、多臂赌博机算法（multi-level, multi-armed bandit algorithms），该算法使 AI 模型既可以利用客户过去的选择喜好，又可以探索新的可能性。
AI 新用例
在优化推荐引擎的同时，DoorDash 也正在探索新的 AI 用例。
“由于消费者有时需要与配送员或商家之间进行沟通，因此，实现迅速而无缝地沟通至关重要。随着 NLP（自然语言处理）的改进，肯定有在这里使用 AI 的潜力，因此我们正在探索一些解决方案。” Ren 说。
NLP 是将推动未来性能需求的几种用例之一。
“我们处理来自现实世界的数据，并且这些数据一直在变化。每个城市都有独特的交通模式、特殊事件和天气状况，这种复杂性使其难以提供高精度的预测，”他说。
该公司的业务增长也带来了其他挑战，包括为新客户推荐合适的商家，以及规划新城市的配送路线。
他补充说：“随着公司规模的扩大，这些界限被突破了。目前，我们的推理速度已经足够快了，但是我们还需要为未来做计划。”
