首页 > 解决方案 > 如何从 Spark 调用 AWS Lambda 服务

问题描述

我想获取我的 Spark 数据帧的每一行,并通过一个微服务处理数据,该微服务返回一个新值(列表),然后我可以将其添加为新列。由于数据帧将同时处理,因此我的想法是将其构建为 UDF,然后调用将动态扩展的亚马逊 lambda 微服务。

这种架构可行还是以前做过?如果这是推荐的方法,该怎么做?

标签: apache-sparkdataframeaws-lambdardduser-defined-functions

解决方案


推荐阅读