首页 > 解决方案 > 以多种方式连接多个表

问题描述

我有 5 个如下表:表 A

秩。 输入。
0。
1. bb
2 抄送
3 dd ​</td>

表 B

秩。 输入。
0。
3 抄送
4 dd
5 呃​</td>

表 C

秩。 输入。
0。
5 ee
6 ff
7 gg ​</td>

表 D

秩。 输入。
0。
2 bb
6 ff
7 gg ​</td>

我需要输出如下所示:

决赛桌

秩。 输入。
0。
2 bb
3 抄送
5 呃​</td>
6 ff
7 gg ​</td>

如果我只是根据最大的表交叉连接所有表,我会得到以下输出:

秩。 输入。
0。

有没有一种方法可以获得我想要的输出,而无需跨 AB、BC、CD、BD 等进行多次连接。

请告诉我。我可以使用 SQL 或 Pyspark 来执行此操作。任何建议,将不胜感激。

标签: pythonsqljoinpysparkamazon-athena

解决方案


您可以合并所有表,按输入分组并获得排名的最大值:

select max(`rank`) as `rank`, input
from (
    select * from tableA
    union all
    select * from tableB
    union all
    select * from tableC
    union all
    select * from tableD
) t
group by input

在 Pyspark 中它会是

from functools import reduce

df = reduce(lambda a, b: a.unionAll(b), [tableA,tableB,tableC,tableD])
result = df.groupBy('input').agg(F.max('rank').alias('rank'))

推荐阅读