【求助】sparksql向mongo加载数据的时候出现了下面一个报错
spark吧
全部回复
仅看楼主
level 2
猫饿了
楼主
Df.write.save()用这个save方法将数据存入数据库的时候就会报这个错,但是我的项目里根本没有result这个字段,完全无从下手这个bug,还有下面的信息像是一段代码文件也不知道是什么,急,求各位大神救救,可有偿
2022年05月15日 17点05分
1
level 2
hiagaΩ
Data source在哪里?建议你先show一下你读取的数据,看看是哪个环节的问题,光看这个报错不太看得出来。但是你可以尝试手动设置下StructField来试试看,直接先写入其中几个字段试试,看看有没有问题。如果没问题,说明不是你save算子这里的错误。
2022年05月15日 23点05分
2
level 2
hiagaΩ
还有一种可能,我之前遇到过的读取json数据的时候,因为嵌套json的问题导致的是你这种类似的错误(字段重复类error),所以你也可以检查下你读取数据源的字段看看,是不是有些需要你手动处理下或者自己设置下schema更严谨
2022年05月15日 23点05分
3
猫饿了
我的数据源是csv文件,字段是通过caseclass包装的,但是之前加载是没有问题的,过了好久再次运行才发现这个问题,而且几个csv文件都加载不了,报一样的错
2022年05月16日 01点05分
hiagaΩ
@猫饿了
之前可以但是过了段时间就不行了吗?你定一下StructField看看呢
2022年05月16日 01点05分
hiagaΩ
@猫饿了
另外你说的加载不了是报的什么错?
2022年05月16日 01点05分
猫饿了
@hiagaΩ
解决了,是依赖的问题,把好多个spark和scala的依赖换了之后解决了
2022年05月16日 12点05分
1