spark.sql.warehouse.dir 在什么配置文件配置
spark.sql.warehouse.dir 属性可以在 SparkConf 或者 spark-defaults.conf 配置文件中进行配置。
在 SparkConf 中进行配置:
from pyspark import SparkConf
conf = SparkConf().setAppName("myApp").setMaster("local[*]").set("spark.sql.warehouse.dir", "/user/hive/warehouse")
在 spark-defaults.conf 中进行配置:
spark.sql.warehouse.dir /user/hive/warehouse
注意:如果同时在 SparkConf 和 spark-defaults.conf 中都配置了该属性,则以 SparkConf 中的配置为准。
原文地址: https://www.cveoy.top/t/topic/zHR 著作权归作者所有。请勿转载和采集!