sparkSession常见参数设置
生活随笔
收集整理的這篇文章主要介紹了
sparkSession常见参数设置
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
def getSparkSession(sparkConf:SparkConf):SparkSession = {val sparkSession: SparkSession = SparkSession.builder().config(sparkConf)//調(diào)度模式.config("spark.scheduler.mode", "FAIR").config("spark.executor.memoryOverhead", "512")//堆外內(nèi)存.config("enableSendEmailOnTaskFail", "true")// .enableHiveSupport() //開啟支持hive.getOrCreate()sparkSession.sparkContext.setLocalProperty("spark.scheduler.pool", "n1")sparkSession}
總結(jié)
以上是生活随笔為你收集整理的sparkSession常见参数设置的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 基于rocketMq秒杀系统demo
- 下一篇: 二叉树学习之堆排序