Tomcat的性能优化及JVM内存工作原理
JVM性能优化原则:代码运算性能、内存回收、应用配置(影响Java程序主要原因是垃圾回收机制)
代码层优化:避免过多循环嵌套、调用和复杂逻辑。
Tomcat调优主要内容
1、增加最大连接数
2、调整工作模式
3、启用gzip压缩
4、调整JVM内存大小
5、作为web服务器时、无Apache整合或者nginx
6、合理选择垃圾回收算法
7、尽量使用较新的JDK版本
生产配置实例
<Connectorport="8080"protocol="org.apache.coyote.http11.Http11NioProtocol" #调整工作模式为NIO
maxThreads="1000" #最大线程数,默认150。这里这是1000是为了避免队列请求过多,导致响应过慢
minSpareThreads="100" #最小空闲线程数
maxSpareThreads="200" #最大空闲线程数,如果是超过这个数值,会自动关闭无用的线程
acceptCount="900" #当请求超过该值,便会将请求放到后面的队列中等待
disableUploadTimeout="true" #禁止上传超时时间
connectionTimeout="20000" #连接超时,单位毫秒,0代表不限制
URIEncoding="UTF-8" #URL地址编码使用UTF-8
enableLookups="false" #关闭DNS解析,提高相应时间
redirectPort="8443" #重定向端口
compression="on" #启用压缩功能
compressionMinSize="1024" #最小压缩大小,单位为Byte(字节)
compressableMimeType="text/html,text/xml,text/css,text/javascript"/> #可支持压缩的文件类型
Tomcat的运行模式
Tomcat有三种工作模式:Bio、Nio和Apr
Bio(Blocking I/O):默认工作模式,一个线程处理一个请求,在高并发的的环境下,线程数较多,浪费资源,没有任何优化技术处理,性能比较低
Nio(New I/O or Non-Blocking):非阻塞式I/O模式,NIO主要是利用Java的异步I/O处理,可以通过少量的线程处理大量的请求
Apr(Apache Portable Runtime,Apathe可移植运行库):Tomcat运行高并发应用的首选工作模式,APR是从操作系统层面解决IO阻塞问题,大幅度提高服务器的处理和响应性能
启动Apr模式的方法
1)安装依赖库
[root@tomcat ~]# yum install -y apr-devel openssl-devel gcc make
[root@tomcat ~]# rpm -qa | grep openssl
openssl-libs-1.0.2k-12.el7.x86_64
openssl-devel-1.0.2k-12.el7.x86_64
openssl-1.0.2k-12.el7.x86_64
2)安装apr动态库
在安装apr动态库之前,需要java环境,在这里,有个坑需要注意,那就是ap在预编译的之后一定要有jdk环境,我们一般安装都是直接yum install -y java一条命令搞定,但是呢,在这里是不支持的,
需要手动配置才行,否则便会报错
配置环境变量
export JAVA_HOME=/usr/java/jdk1.7.0_65
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH:$HOMR/bin
下载Tomcat-native包
[root@tomcat ~]# wget https://mirrors.tuna.tsinghua.edu.cn/apache/tomcat/tomcat-connectors/native/1.2.17/source/tomcat-native-1.2.17-src.tar.gz #下载包
[root@tomcat ~]# tar zxvf tomcat-native-1.2.17-src.tar.gz -C /usr/local/tomcat/bin/ #解压
[root@tomcat ~]# cd /usr/local/tomcat/bin/tomcat-native-1.2.17-src/native/ #移动到指定目录
[root@tomcat native]# make && make install #编译安装
[root@tomcat native]# ll /usr/local/apr/lib/ #查看是否成功
total 3268
-rw-r--r-- 1 root root 2121194 Jun 30 16:28 libtcnative-1.a
-rwxr-xr-x 1 root root 1027 Jun 30 16:28 libtcnative-1.la
lrwxrwxrwx 1 root root 23 Jun 30 16:28 libtcnative-1.so -> libtcnative-1.so.0.2.17
lrwxrwxrwx 1 root root 23 Jun 30 16:28 libtcnative-1.so.0 -> libtcnative-1.so.0.2.17
-rwxr-xr-x 1 root root 1204408 Jun 30 16:28 libtcnative-1.so.0.2.17
drwxr-xr-x 2 root root 4096 Jun 30 16:28 pkgconfig
配置APR本地库到系统共享库搜索路径 # vim /usr/local/tomcat/bin/catalina.sh
JAVA_OPTS="$JAVA_OPTS -Djava.library.path=/usr/local/apr/lib/" #在虚拟机启动参数JAVA_OPTS中添加java.library.path参数,指定apr库的路径
实现原理:Tomcat利用基于Apr库tomcat-native来实现操作系统级别控制,提供一种优化技术和非阻塞式I/O操作,大大提高并发处理能力。但需要安装Apr和tomcat-native库。
工作模式原理涉及了网络I/O模型知识
阻塞式I/O模型:应用进程调用recv函数系统调用时,如果等待要操作的数据没有发送到内核缓存区,应用进程将阻塞,不能接收其它请求。反之内核recv端缓冲区有数据,内核会把数据复制到用户空间解除阻塞,继续处理下一个请求。(内核空间(缓冲区)--用户空间(系统调用))
非阻塞式I/O模型:应用进程设置成非阻塞模式,如果要操作的数据没有发到内核缓冲区,recv系统调用返回一个错误,应用进程利用轮询方式不断检查此操作是否就绪,如果缓冲区有数据则返回,I/O操作同时不会阻塞应用进程,期间会继续处理新请求。
I/O复用模型:阻塞发生在select/poll的系统调用上,而不是阻塞在实际的I/O系统调用上。能同时处理多个操作,并检查操作是否就绪,select/epoll函数发现有数据就绪后,就通过实际I/O操作将数据复制到应用进程缓存区中。
异步I/O模型:应用进程通知内核开始第一个异步I/O操作,并让内核在整个操作(包括数据复制缓冲区)完成后通知应用进程,期间会继续处理新请求。
I/O操作分为两个阶段:第一个阶段等待数据可用,第二个阶段将数据从内核复制到用户空间。
前三种模型的区别:第一阶段阻塞式I/O阻塞在I/O操作上,非阻塞式I/O轮询,I/O复用阻塞在select/poll或epoll上。第二个阶段都是一样的。而异步I/O的两个阶段都不会阻塞进程。
Java性能问题主要来自JVM,JVM GC也比较复杂,相关基础概念###
1、JVM内存划分为年轻代、老年代、永久代。
2、年轻代又分为: Eden和Survivor区由FromSpace和ToSpace组成。Eden区占大容量,Survivor两个区占小容量,默认比例大概是8:2。
3、堆内存(Heap)=年轻代+老年代。非堆内存=永久代。
4、堆内存用途: 存放的对象,垃圾收集器就是收集这些对象,然后根据GC算法回收。
5、非堆内存用途:JVM本身是用,存放一些类、方法、常量、属性等。
6、年轻代: 新生成的对象首先放到年轻代的Eden区中,当Eden满时,经过GC后,还存活的对象被复制到Survivor区的FromSpace中,如果Survivor区满时,会再被复制到Survivor区的ToSpace区。如果还有存活对象,会再被复制到老年代。
7、老年代:在年轻代中经过GC后还存活的对象会被复制到老年代中。当老年代空间不足时,JVM会对老年代进行完全的垃圾回收(Full GC)。如果GC后,还是无法存放从Survivor区复制过来的对象,就会出现OOM(Out of Memory)。
8、永久代:也成为方法,存放静态类型数据,比如类、方法、属性等
垃圾回收(GC,garbage collection)算法
1、标记-清除(Mark-Sweep)
GC分为两个阶段,标记和清除。首先标记所有可回收的对象,在标记完成后统一回收所有被标记的对象。同时会产生不连续的内存碎片。碎片过多会导致以后程序运行时需要分配较大对象时,无法找到足够的连续内存,而不得以再次触发GC。
2、复制(copy)
将内存按容量划分为两块,每次只使用其中一块。当着一块用完了,就将存活的对象复制到另一块上,然后再把已使用的内存空间一次清理掉,这样使得每次对半个内存区在回收,也不用考虑内存碎片问题,简单高效。缺点需要两倍的内存空间。
3、标记-整理(Mark-Compact)
也分为两个阶段,首先标记可回收的对象,再将存活的对象都向一端移动,然后清理掉边界以外的内存。此方法避免标记-清除算法的碎片问题,同时也避免了复制算法的空间问题。
一般年轻代中执行GC后,会有少量的对象存活,就会选用复制算法,只要付出少量的存货成本就可以完成收集。而老年代中因对象存活率高,没有额外过多内存空间分配,就需要使用标记-清理或标记-整理算法来进行回收。
垃圾收集器
1、串行收集器(Serial)
比较老的收集器,单线程。收集时,必须暂停应用的工作线程,直到收集结束。
2、并行收集器(parallel)
多线程并行工作,在多核CPU下效率更高,应用线程依然处于等待状态。
3、CMS收集器(concurrent Mark sweep)
初始标记(Initial Mark)
并发标记(Concurrent Mark)
重新标记(Remark)
并发清除(Concurrent Sweep)
初始标记、重新标记这两个步骤仍然需要暂停应用线程。初始标记只是标记一下GC Roots能直接关联的对象,速度很快,并发标记阶段是标记可回收对象,而重新标记阶段则是为了修正并发标记期间因用户程序继续运行导致
标记产生变动的那一部分对象的标记记录,这个阶段暂停时间比初始标记阶段稍长一点,但远比并发标记时间段。
由于整个过程中消耗最长的并发标记和并发清除过程收集器线程都可以与用户线程一起工作,所以,CMS收集器内存回收与用户一起并发执行的,大大减少了暂停时间。
4、G1收集器(Garbage First)
G1收集器将堆内存划分多个大小相等的独立区域(Region),并且能预测暂停时间,能预测原因它能避免对整个堆进行全区收集。G1跟踪各个Region里的垃圾堆积价值大小(所获得空间大小以及回收所需时间),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region,从而保证了再有限时间内获得更高的收集效率。
G1收集器工作工程分为4个步骤,包括:
初始标记(Initial Mark)
并发标记(Concurrent Mark)
最终标记(Final Mark)
筛选回收(Live Data Counting and Evacuation)
初始标记与CMS一样,标记一下GC Roots能直接关联到的对象。并发标记从GC Root开始标记存活对象,这个阶段耗时比较长,但也可以与应用线程并发执行。而最终标记也是为了修正在并发标记期间因用户程序继续运作而导致标记产生变化的那一部分标记记录。最后在筛选回收阶段对各个Region回收价值和成本进行排序,根据用户所期望的GC暂停时间来执行回收。
了解了JVM基础知识,下面配置下相关Java参数,将下面一段放到catalina.sh里面:
JAVA_OPTS="-server -Xms1024m -Xmx1536m -XX:PermSize=256m -XX:MaxPermSize=512m -XX:+UseConcMarkSweepGC -XX:+UseParallelGCThreads=8 XX:CMSInitiatingOccupancyFraction=80 -XX:+UseCMSCompactAtFullCollection -XX:CMSFullGCsBeforeCompaction=0 -XX:-PrintGC -XX:-PrintGCDetails -XX:-PrintGCTimeStamps -Xloggc:../logs/gc.log"
-Xms
堆内存初始大小,单位m、g
-Xmx
堆内存最大允许大小,一般不要大于物理内存的80%
-XX:PermSize
非堆内存初始大小,一般应用设置初始化200m,最大1024m就够了
-XX:MaxPermSize
非堆内存最大允许大小
-XX:+UseParallelGCThreads=8
并行收集器线程数,同时有多少个线程进行垃圾回收,一般与CPU数量相等
-XX:+UseParallelOldGC
指定老年代为并行收集
-XX:+UseConcMarkSweepGC
CMS收集器(并发收集器)
-XX:+UseCMSCompactAtFullCollection
开启内存空间压缩和整理,防止过多内存碎片
-XX:CMSFullGCsBeforeCompaction=0
表示多少次Full GC后开始压缩和整理,0表示每次Full GC后立即执行压缩和整理
-XX:CMSInitiatingOccupancyFraction=80%
表示老年代内存空间使用80%时开始执行CMS收集,防止过多的Full GC
注意:不是JVM内存设置越大越好,具体还是根据项目对象实际占用内存大小而定,可以通过Java自带的分析工具来查看。如果设置过大,会增加回收时间,从而增加暂停应用时间。
gzip压缩作用:节省服务器流量和提高网站访问速度。客户端请求服务器资源后,服务器将资源文件压缩,再返回给客户端,由客户端的浏览器负责解压缩并浏览。
使用Apache与Tomcat整合,因为Tomcat处理静态文件能力远不足Apache,因此让Apache来处理静态文件,Tomcat处理动态jsp文件,可以有效提高处理速度。
TomcatSessionID持久化三种方法:
Session粘性:通过浏览器Cookie绑定SessionID,通过sticky模式将同一Session请求分配到同一Tomcat上。
Session复制:Tomcat通过广播形式将Session同步到其他Tomcat节点,并且Linux下要手动开启开放广播地址。不易后端节点过多
Session保存数据库(memcache、redis):将SessionID保存在共享的数据库中。
OOM(Out of Memory)异常常见有以下几个原因:
1)老年代内存不足:
java.lang.OutOfMemoryError:Javaheapspace
2)永久代内存不足:
java.lang.OutOfMemoryError:PermGenspace
3)代码bug,占用内存无法及时回收。
前两种情况通过加大内存容量,可以得到解决。如果是代码bug,就要通过jstack、jmap、jstat自带的工具分析问题,定位到相关代码,让开发解决。
Tomcat的性能优化及JVM内存工作原理的更多相关文章
- Tomcat性能优化及JVM内存工作原理
Java性能优化原则:代码运算性能.内存回收.应用配置(影响Java程序主要原因是垃圾回收,下面会重点介绍这方面) 代码层优化:避免过多循环嵌套.调用和复杂逻辑. Tomcat调优主要内容如下: 1. ...
- Tomcat性能调优及JVM内存工作原理
Java性能优化方向:代码运算性能.内存回收.应用配置. 注:影响Java程序主要原因是垃圾回收,下面会重点介绍这方面 代码层优化:避免过多循环嵌套.调用和复杂逻辑.Tomcat调优主要内容如下:1. ...
- tomcat之性能优化
tomcat是我们常用的web容器,它的性能高低直接影响到应用对外提供服务的能力和用户的体验,所以tomcat的优化至关重要.对于单台tomcat服务器而言,优化主要是两方面:内存优化和配置优化(例如 ...
- 【转载】Java性能优化之JVM GC(垃圾回收机制)
文章来源:https://zhuanlan.zhihu.com/p/25539690 Java的性能优化,整理出一篇文章,供以后温故知新. JVM GC(垃圾回收机制) 在学习Java GC 之前,我 ...
- 【Tomcat】性能优化
一.JVM优化 1.内存优化. 2.垃圾回收策略优化. 二.server.xml的connector优化(connector是与HTTP请求处理相关的容器,三个容器的初始化顺序为:Server-> ...
- Java性能优化之JVM GC(垃圾回收机制)
Java的性能优化,整理出一篇文章,供以后温故知新. JVM GC(垃圾回收机制) 在学习Java GC 之前,我们需要记住一个单词:stop-the-world .它会在任何一种GC算法中发生.st ...
- Tomcat 服务器性能优化
简介 考虑一下这种场景,你开发了一个应用,它有十分优秀的布局设计,最新的特性以及其它的优秀特点.但是在性能这方面欠缺,不管这个应用如何都会遭到客户拒绝.客户总是期望它们的应用应该有更好的性能.如果你在 ...
- Tomcat服务器性能优化
在这篇文章里分以下的七个步骤,按照这些步骤走,Tomcat服务器的性能就能改善哦. 增加JVM堆(heap) 解决内存泄漏问题 线程池(thread pool)的设置 压缩 调节数据库性能 Tomca ...
- javascript性能优化之避免重复工作
javascript最重要也最根本的性能优化标准之一是避免工作,避免工作又包括两点,第一,不做不必要的工作,第二,不做重复的已经完成的工作.第一部分可以通过代码重构完成,第二部分不做重复的工作有时候难 ...
随机推荐
- GPU选型
1-基本概念 显存带宽 是指显示芯片与显存之间的数据传输速率,它以字节/秒为单位.显存带宽是决定显卡性能和速度最重要的因素之一. 2-常见GPU性能参数 GPU型号 单卡显存 cuda 计算能 ...
- supersockets接收过滤器(ReceiveFilter)
接收过滤器(ReceiveFilter)用于将接收到的二进制数据转化成请求实例(RequestInfo). 实现一个接收过滤器(ReceiveFilter), 你需要实现接口 IReceiveFilt ...
- oracle中 =: 和 := 分别是什么意思
oracle中 =: 和 := 分别是什么意思 =:应该相当于 a = :b 表明b是个绑定变量,需要执行时进行变量绑定:= 相当于一般编程语言中的 赋值 a := 1 即将 数字1赋值给变量 a
- H3C NAT Server
- Vue 设置class样式
<!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8&quo ...
- Vant-UI移动端时间选择框
使用Vant input框时有时需要调用时间选择,时间选择框要结合弹出层使用 <div class="van-cell van-field"> <span cla ...
- dotnet 通过 WMI 获取系统安装软件
本文告诉大家如何通过 WMI 获取系统安装的软件,这个方法不能获取全部的软件 通过 Win32_Product 可以获取系统安装的软件 var mc = "Win32_Product&quo ...
- PHP性能监控
使用xhprof进行线上PHP性能追踪及分析 日志未经声明,均为AlloVince原创.版权采用『 知识共享署名-非商业性使用 2.5 许可协议』进行许可. 之前一直使用基于Xdebug进行PHP的性 ...
- BAT 脚本判断当前系统是 x86 还是 x64 系统
本文告诉大家在写 BAT 脚本的时候,如何判断当前的系统是 32 位系统的还是 64 位系统 通过注册表进行判断方法 @echo OFF reg Query "HKLM\Hardware\D ...
- 对象转json字符串案例
测试对象与json字符串的转换 json字符串转对象 Stringstr = "{\"id\":\"1001\",\"name\" ...