json - 特定列的雪花“复制到”转义多行
问题描述
我是 pyspark 和雪花的新手 我在 csv 的 s3 中有一个文件,它在多行中有一个 json 格式的列,它没有被加载到雪花中,我试过了
不起作用,有什么建议吗?
气流 DAG 代码:(将 s3 加载到雪花)
FROM s3://***********
TYPE = CSV field_delimiter = ',' RECORD_DELIMITER = '\\n' skip_header = 1 COMPRESSION='NONE' EMPTY_FIELD_AS_NULL = FALSE FIELD_OPTIONALLY_ENCLOSED_BY = '"' NULL_IF=('') )'''
Spark code: df2=spark.read.format('csv').options(header='true', inferschema='true').option("sep", ",").option("escape", ",").option("escape "\"").option("multiline","true").load(s3_path)```
解决方案
推荐阅读
- discord.js - Discord.js 在用户角色中搜索的问题
- react-native - 如何修复 React Native 中的“transform with key of translatex must be a number”错误?
- python - 如何在 Pandas DataFrames 中显示 IntEnums 的名称
- ruby-on-rails - 将字段添加到迁移表后,方法值为“nil”而不是“true”或“false”
- dynamic - Zapier 动态自定义字段
- html - Angular ngFor在数据更改后不更新
- javascript - javascript函数表达式与类
- c# - 如何在SQL中找到一行表中最大值的列名
- javascript - 如何将 Button 组件的标题传递给 React Native 中的函数
- javascript - 向下滚动到班级