查看当前环境SQL参数的配置

spark.sql("SET -v")

key value
spark.sql.hive.version 1.2.1
spark.sql.sources.parallelPartitionDiscovery.threshold 32
spark.sql.hive.metastore.barrierPrefixes  
spark.sql.shuffle.partitions 200
spark.sql.hive.metastorePartitionPruning FALSE
spark.sql.broadcastTimeout 300
spark.sql.sources.bucketing.enabled TRUE
spark.sql.parquet.filterPushdown TRUE
spark.sql.statistics.fallBackToHdfs FALSE
spark.sql.adaptive.enabled FALSE
spark.sql.parquet.cacheMetadata TRUE
spark.sql.hive.metastore.sharedPrefixes com.mysql.jdbc
spark.sql.parquet.respectSummaryFiles FALSE
spark.sql.warehouse.dir hdfs:///user/spark/warehouse
spark.sql.orderByOrdinal TRUE
spark.sql.hive.convertMetastoreParquet TRUE
spark.sql.groupByOrdinal TRUE
spark.sql.hive.thriftServer.async TRUE
spark.sql.thriftserver.scheduler.pool <undefined>
spark.sql.orc.filterPushdown FALSE
spark.sql.adaptive.shuffle.targetPostShuffleInputSize 67108864b
spark.sql.sources.default parquet
spark.sql.parquet.compression.codec snappy
spark.sql.hive.metastore.version 1.2.1
spark.sql.sources.partitionDiscovery.enabled TRUE
spark.sql.crossJoin.enabled FALSE
spark.sql.parquet.writeLegacyFormat FALSE
spark.sql.hive.verifyPartitionPath FALSE
spark.sql.variable.substitute TRUE
spark.sql.thriftserver.ui.retainedStatements 200
spark.sql.hive.convertMetastoreParquet.mergeSchema FALSE
spark.sql.parquet.enableVectorizedReader TRUE
spark.sql.parquet.mergeSchema FALSE
spark.sql.parquet.binaryAsString FALSE
spark.sql.columnNameOfCorruptRecord _corrupt_record
spark.sql.files.maxPartitionBytes 134217728
spark.sql.streaming.checkpointLocation <undefined>
spark.sql.variable.substitute.depth 40
spark.sql.parquet.int96AsTimestamp TRUE
spark.sql.autoBroadcastJoinThreshold 10485760
spark.sql.pivotMaxValues 10000
spark.sql.sources.partitionColumnTypeInference.enabled TRUE
spark.sql.hive.metastore.jars builtin
spark.sql.thriftserver.ui.retainedSessions 200
spark.sql.sources.maxConcurrentWrites 1
spark.sql.parquet.output.committer.class org.apache.parquet.hadoop.ParquetOutputCommitter
												

Spark2 SQL configuration参数配置的更多相关文章

  1. [sql]mysql参数(配置)手册

    my-innodb-heavy-4G.cnf配置文件注解 [client] #客户端 port = 3306 #mysql客户端连接时的默认端口号 socket = /application/mysq ...

  2. 自制xml实现SQL动态参数配置

    此文章是基于 搭建SpringMVC+Spring+Hibernate平台 一. 准备工作 1. 点击此找到并下载 commons-digester3-3.2.jar 2. 点击此找到并下载 comm ...

  3. Hive命令行及参数配置

    1 . Hive  命令行 输入$HIVE_HOME/bin/hive –H 或者 –help 可以显示帮助选项: 说明: 1. -i 初始化 HQL 文件. 2. -e 从命令行执行指定的 HQL ...

  4. 教你如何利用分布式的思想处理集群的参数配置信息——spring的configurer妙用

    引言 最近LZ的技术博文数量直线下降,实在是非常抱歉,之前LZ曾信誓旦旦的说一定要把<深入理解计算机系统>写完,现在看来,LZ似乎是在打自己脸了.尽管LZ内心一直没放弃,但从现状来看,需要 ...

  5. IIS 7.5 高并发参数配置

    IIS 7.5 高并发参数配置 由于之前使用的是默认配置,服务器最多只能处理5000个同时请求,对于高并发请求,参照文档设置10万并发 1. 调整IIS 7应用程序池队列长度 由原来的默认1000改为 ...

  6. SQL SERVER 2008配置Database Mail –用SQL 数据库发邮件

    SQL SERVER 2008配置Database Mail –用SQL  数据库发邮件 https://blogs.msdn.microsoft.com/apgcdsd/2011/06/28/sql ...

  7. Sqlserver推荐参数配置及日志收缩问题

    最近不定期有项目反馈周期性的系统整体性能下降情况,经分析存在因数据库环境.参数配置不佳造成的.比如,sqlserver日志文件缺省按百分比增长,当日志文件已经比较大时,每次扩展时耗时较长,系统整体卡顿 ...

  8. Liferay中SQL打印参数

      XX\tomcat-7.0.42\webapps\ROOT\WEB-INF\classes\log4j.properties log4j.rootLogger=INFO, CONSOLE log4 ...

  9. 14.6.1 InnoDB Startup Configuration 启动配置

    14.6.1 InnoDB Startup Configuration 启动配置 首先描述关于InnoDB 配置设计数据库文件,日志文件,page size 和内存buffer 的配置. 推荐你定义数 ...

随机推荐

  1. YII创建应用

    创建第一个应用 打开cmd,切换到appserv的www目录下,输入: D:\AppServ\www>yii6\framework\yiic webapp D:wamp\www\mydemos

  2. python通过标准输入读取内容,读取键盘输入的内容?接收用户输入?

    需求说明: 在交互式脚本中,需要用户手动输入内容,并对内容进行处理.在这里记录下通过 python的内置函数input()读取标注输入的内容.默认的标准输入是键盘. 操作过程: 1.通过input() ...

  3. C# 多线程 Parallel.ForEach 和 ForEach 效率问题研究及理解

    from:https://blog.csdn.net/li315171406/article/details/78450534 最近要做一个大数据dataTable循环操作,开始发现 运用foreac ...

  4. Matlab 随机数字

    1.随机生成仅仅有0.1元素的矩阵(m行n列) A=round(rand(m,n)) 2.随机生成每行有若干个0,1元素的矩阵,比方每行仅仅有2个元素为1,其它元素为0 A=zeros(4,5) fo ...

  5. matlab矩阵内存预分配

    matlab矩阵内存预分配就意味着,划定一个固定的内存块,各数据可直接按"行.列指数"存放到对应的元素中.若矩阵中不预配置内存.则随着"行.列指数"的变大.MA ...

  6. Dubbo -- 系统学习 笔记 -- 示例 -- 只订阅

    Dubbo -- 系统学习 笔记 -- 目录 示例 想完整的运行起来,请参见:快速启动,这里只列出各种场景的配置方式 只订阅 问题 为方便开发测试,经常会在线下共用一个所有服务可用的注册中心,这时,如 ...

  7. Splash plugins_enabled 属性

    plugins_enabled属性可以控制浏览器插件(如 Flash 插件)是否开启.默认情况下,此属性是 false ,表示不开启. function main(splash, args) spla ...

  8. 判断资源贴图是否有alpha

    /* modfly selected textures`s maxSize and ImportFormat bool hasAlpha = true; if(hasAlpha)then(textur ...

  9. JAVA对URL的解码【转】

    前段时间做URL的中文转换,有些url是utf8的格式,有的是gb2312的格式,很难区分到底是utf8还是gb2312,找了好久,发现网上的一个牛人写的转换代码: package org.apach ...

  10. ORACLE学习笔记 translate,REGEXP_replace

    从一串文本中提取数字: select translate('用纸箱包200/箱',REGEXP_replace('用纸箱包200PCS/箱','[0-9]',''),' ')from dual; tr ...