目前线上系统包含 数据收集+数据分析+中心服务,三个均为 tomcat,共用一个mysql服务. 由于tomcat最大线程数200 *3 =600,最大并发时,会有600个jdbc连接.当然这是极端情况. 而数据分析服务是不需要高并发的,所以将其最大线程数设为200,jdbc最大活跃连接30. 中心服务目前也不是高并发,tps 也就 10. 收据收集属于高并发,tps 150. 所以,调优措施:设置mysql 最大连接数为200. 数据分析 jdbc活跃连接 30(避免浪费导致max_conne…

批提交mysql 单线程的批提交 nohup  python fromRedisoToMysqlSingleThreadOneConnBatchInsert.py 100 10.24.192.192 > 100-Single.3434.nohup cursor.executemany(sql['sql'], sql['args']) def mysql_write(conn, sql, mysql_key=mysql_key, executemany=False, charset_='utf8'…

一.堆大小设置 JVM 中最大堆大小有三方面限制: 1. 相关操作系统的数据模型(32-bt还是64-bit)限制: 2. 系统的可用虚拟内存限制: 3. 系统的可用物理内存限制. 32位系统下,一般限制在1.5G~2G:64为操作系统对内存无限制.我在Linux CentOS系统,JDK1.8.1_161下测试,最大可设置为 29.2GB. 典型配置示例:  -Xmx30g -Xms30g -Xmn10g -Xss1m -Xmx30g:设置JVM最大可用内存为30g. -Xms30g:此值设置…

在Tomcat配置文件conf下面 server.xml 中的配置中和连接数相关的参数有: minProcessors:最小空闲连接线程数,用于提高系统处理性能,默认值为10 maxProcessors:最大连接线程数,即:并发处理的最大请求数,默认值为75 acceptCount:允许的最大连接数,应大于等于maxProcessors,默认值为100 enableLookups:是否反查域名,取值为:true或false.为了提高处理能力,应设置为false connectionTimeout…

问题:Tomcat线程数是不是越大越好呢? 答案肯定是否定的. Tomcat的处理速度跟线程数不是完全成正比的,设置不恰当会出现相反的效果.服务的负载计算包括了CPU的使用率和资源等待. 第一种情况,资源等待比较少,那么系统响应时间就是限制在CPU的计算上面了. 这时候线程数应该设置小一点,降低同一时间争抢CPU的线程数,可以提高线程效率,从而提升系统的处理能力. 第二种情况,资源等待比较多,比如文件的读写或者请求数据库等. 这时候线程数就要增加一些,这样子才能提高处理的请求个数,从而提高系统的…

前言: 参加Unix/Linux相关高级研发职位时,是否经常会被文档,单机允许最大进程数.线程数和Socket连接数,而你却感到束手无措呢?本文给你一个最为详细的答案. 一.最大进程数 运行Linux ulimit -a指令,我们可以看到:max user processes =1024 运行结构如下图所示: [root@localhost ~]# ulimit unlimited [root@localhost ~]# ulimit -a core file size (blocks, -c)…

MySQL 数据库性能调优 MySQL性能 最大数据量 最大并发数 优化的范围有哪些 存储.主机和操作系统方面: 应用程序方面: 数据库优化方面: 优化维度 数据库优化维度有四个: 优化选择: 数据库层面 数据库层面问题解决思路 一般应急调优的思路: 常规调优思路: 系统层面 cpu方面: 内存: IO设备(磁盘.网络): vmstat 命令说明: iostat命令说明 基础优化 优化思路 处理方向: 硬件优化 主机方面: cpu的选择: 内存的选择: 存储方面: raid卡:主机raid卡选择…

mysql数据库的调优大概可以分为四大块 0 架构调优 ---根据业务 读写分库分表   ---主从 读写分离 1 配置的调优 ---开启缓存查询  设置缓存大小 ---最大连接数设置 ---数据库引擎配置 myisam(读操作,查询快) Innodb(写操作,主库,支持事务,安全) 引擎配置 ---日志配置 2 表结构的调优 ----建立合适的索引(主键索引,唯一索引,普通索引,全文索引 myisam中用来检索文本)EXPLAIN SELECT命令那里往往可以获得一些帮助知道哪些需要建立索引(…

前言 这篇是MySQL 数据库规范的最后一篇--调优篇,旨在提供我们发现系统性能变弱.MySQL系统参数调优,SQL脚本出现问题的精准定位与调优方法. 目录 1.MySQL 调优金字塔理论 2.MySQL 慢查询分析--mysqldumpslow.pt_query_digest工具的使用(SQL脚本层面) 3.选择合适的数据类型 4.去除无用的索引--pt_duplicate_key_checker工具的使用(索引层面) 5.反范式化设计(表结构) 6.垂直水平分表 7.MySQL 重要参数调优…

一文了解MySQL性能测试及调优中的死锁处理方法,你还看不明白? 以下从死锁检测.死锁避免.死锁解决3个方面来探讨如何对MySQL死锁问题进行性能调优. 死锁检测 通过SQL语句查询锁表相关信息: (1)查询表打开情况 SHOW OPEN TABLES WHERE IN_USE> 0 (2)查询锁情况列表 SELECT * FROM INFORMATION_SCHEMA.INNODB_LOCKS (3)查询锁等待信息,其中blocking_lock_id是当前事务在等待的事务 SELECT *…