SparkFE配置

简介

SparkFE兼容标准的Spark配置,除此之外,还支持新增的配置项,可以更好地利用原生执行引擎的性能优化。

新增配置

配置项
说明
默认值
备注

sparkfe.window.parallelization

是否启动窗口并行计算优化

false

窗口并行计算可提高集群利用率但增加计算节点

sparkfe.addIndexColumn.method

添加索引列方法

monotonicallyIncreasingId

可选方法为zipWithUniqueId, zipWithIndex, monotonicallyIncreasingId

sparkfe.concatjoin.jointype

拼接拼表方法

inner

可选方法为inner, left, last

sparkfe.enable.native.last.join

是否开启NativeLastJoin优化

true

相比基于LeftJoin实现性能更高

sparkfe.enable.unsaferow.optimization

是否开启UnsafeRow内存优化

false

开启后降低编解码开销,目前部分复杂类型不支持

sparkfe.physical.plan.graphviz.path

导出物理计划图片路径

""

默认不导出图片文件

Last updated