http://heylinux.com/archives/2367.html
http://blog.csdn.net/ywh147/article/details/8996022
使用过MySQL的同学,刚开始接触最多的莫过于MyISAM表引擎了,这种引擎的数据库会分别创建三个文件:表结构、表索引、表数据空间。我们可以将某个数据库目录直接迁移到其他数据库也可以正常工作。
然而当你使用InnoDB的时候,一切都变了。InnoDB 默认会将所有的数据库InnoDB引擎的表数据存储在一个共享空间中:ibdata1,这样就感觉不爽,增删数据库的时候,ibdata1文件不会自动收缩,单个数据库的备份也将成为问题。通常只能将数据使用mysqldump 导出,然后再导入解决这个问题。
在mysql的配置文件[mysqld]部分,增加innodb_file_per_table参数,可以修改InnoDB为独立表空间模式,每个数据库的每个表都会生成一个数据空间。
独立表空间
优点:
1.每个表都有自已独立的表空间。
2.每个表的数据和索引都会存在自已的表空间中。
3.可以实现单表在不同的数据库中移动。
4.空间可以回收(drop/truncate table方式操作表空间不能自动回收)
5.对于使用独立表空间的表,不管怎么删除,表空间的碎片不会太严重的影响性能,而且还有机会处理。
缺点:
单表增加比共享空间方式更大。
结论:
共享表空间在Insert操作上有一些优势,但在其它都没独立表空间表现好。
当启用独立表空间时,请合理调整一下 innodb_open_files 参数。
下面,就是一次针对线上Zabbix的MySQL数据库history历史记录过多导致ibdata1文件过大的实战解决步骤
1.查看文件大小
$ sudo cd /var/lib/mysql
$ ls -lh
2 |
-rw-r--r-- 1 root root 0 Dec 1 14:31 debian-5.1.flag |
3 |
-rw-rw---- 1 mysql mysql 5.0M Jan 17 21:31 ib_logfile0 |
4 |
-rw-rw---- 1 mysql mysql 5.0M Jan 17 21:29 ib_logfile1 |
5 |
-rw-rw---- 1 mysql mysql 14G Jan 17 21:31 ibdata1 |
6 |
drwx------ 2 mysql root 4.0K Dec 1 14:31 mysql |
7 |
-rw-rw---- 1 root root 6 Dec 1 14:31 mysql_upgrade_info |
8 |
drwx------ 2 mysql mysql 4.0K Jan 17 21:29 zabbix |
共享表数据空间文件ibdata1大小已经达到了14G
登陆MySQL查看哪些表占用了空间
$ mysql -uroot -p
01 |
mysql > select table_name, (data_length+index_length)/1024/1024 as total_mb, table_rows from information_schema.tables where table_schema= 'zabbix' ; |
03 |
+-----------------------+---------------+------------+ |
04 |
| table_name | total_mb | table_rows | |
05 |
+-----------------------+---------------+------------+ |
06 |
| acknowledges | 0.06250000 | 0 | |
08 |
| help_items | 0.04687500 | 103 | |
09 |
| history | 9678.00000000 | 123981681 | |
10 |
| history_log | 0.04687500 | 0 | |
12 |
| history_text | 0.04687500 | 0 | |
13 |
| history_uint | 5386.98437500 | 57990562 | |
14 |
| history_uint_sync | 0.04687500 | 0 | |
16 |
| timeperiods | 0.01562500 | 0 | |
17 |
| trends | 54.54687500 | 537680 | |
18 |
| trends_uint | 100.53125000 | 1035592 | |
20 |
103 rows in set (1.46 sec) |
可以看到,history表的记录已经达到了9G,123981681条,即1亿2千万条,同时history_unit也比较大,达到了5G,约6千万条;
另外就是trends,trends_uint中也存在一些数据。
由于数据量太大,按照普通的方式delete数据的话基本上不太可能。
因为我们每天会自动发送数据报表,所以决定直接采用truncate table的方式来快速清空这些表的数据,再使用mysqldump导出数据,删除共享表空间数据文件,重新导入数据。
2.停止相关服务,避免写入数据
$ sudo /etc/init.d/zabbix-server stop
$ sudo /etc/init.d/apache2 stop
3.清空历史数据
$ mysql -uroot -p
04 |
mysql > truncate table history ; |
05 |
Query OK, 123981681 rows affected (0.23 sec) |
07 |
mysql > optimize table history ; |
08 |
1 row in set (0.02 sec) |
10 |
mysql > truncate table history_uint; |
11 |
Query OK, 57990562 rows affected (0.12 sec) |
13 |
mysql > optimize table history_uint; |
14 |
1 row in set (0.03 sec) |
16 |
mysql > truncate table trends; |
17 |
Query OK, 537680 rows affected (0.04 sec) |
19 |
mysql > optimize table trends; |
20 |
1 row in set (0.02 sec) |
22 |
mysql > truncate table trends_uint; |
23 |
Query OK, 1035592 rows affected (0.02 sec) |
25 |
mysql > optimize table trends_uint; |
26 |
1 row in set (0.01 sec) |
4.备份数据
$ mysqldump -uroot -p zabbix > ~/zabbix.sql
5.停止数据库
$ sudo stop mysql
6.删除共享表空间数据文件
$ cd /var/lib/mysql
$ rm ib*
7.增加innodb_file_per_table参数
$ sudo vim /etc/mysql/my.cnf
在[mysqld]下设置
1 |
innodb_file_per_table=1 |
8.启动MySQL
$ sudo start mysql
9.查看参数是否生效
$ mysql -uroot -p
1 |
mysql> show variables like '%per_table%' ; |
2 |
+-----------------------+-------+ |
3 |
| Variable_name | Value | |
4 |
+-----------------------+-------+ |
5 |
| innodb_file_per_table | ON | |
6 |
+-----------------------+-------+ |
7 |
1 row in set (0.00 sec) |
10.重新导入数据
$ mysql -uroot -p zabbix < ~/zabbix.sql
11.编写每天自动清理数据的脚本,保留30天的数据
$ sudo vim /etc/cron.daily/clean_zabbix_olddata.sh
02 |
DATE=` date -d "30 days ago" ` |
03 |
CLOCK=` date +%s -d "${DATE}" ` |
04 |
MYSQL= "mysql -uroot -p zabbix" |
06 |
for TABLE in history trends |
08 |
$MYSQL -e "DELETE FROM ${TABLE} WHERE clock < ${CLOCK};" |
09 |
$MYSQL -e "OPTIMIZE TABLE ${TABLE};" |
10 |
$MYSQL -e "DELETE FROM ${TABLE}_uint WHERE clock < ${CLOCK};" |
11 |
$MYSQL -e "OPTIMIZE TABLE ${TABLE}_uint;" |
12.最后,恢复相关服务进程
$ sudo /etc/init.d/zabbix-server start
$ sudo /etc/init.d/apache2 start
- MySQL innodb表使用表空间物理文件复制或迁移表
MySQL InnoDB引擎的表通过拷贝物理文件来进行单表或指定表的复制,可以想到多种方式,今天测试其中2种: 将innodb引擎的表修改为Myisam引擎,然后拷贝物理文件 直接拷贝innodb的表 ...
- Mysql InnoDB表结构
索引组织表 在InnoDB存储引擎中,表都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表(index organized table).在InnoDB存储引擎表中,每张表都有个主键(Prim ...
- MySQL InnoDB表--BTree基本数据结构
MySQL InnoDB表是索引组织表这一点应该是每一个学习MySQL的人都会首先学到的知识,这代表这表中的数据是按照主键顺序存储,也就是说BTree的叶子节点存储了所有该行的数据. 我最开始是搞Or ...
- MySQL InnoDB表压缩
MySQL InnoDB表压缩 文件大小减小(可达50%以上) ==> 查询速度变快(count * 约减少20%以上时间) 如何设置mysql innodb 表的压缩: 第一,mysql的版本 ...
- MySQL InnoDB表和索引之聚簇索引与第二索引
MySQL InnoDB表和索引之聚簇索引与第二索引 By:授客QQ:1033553122 每个InnoDB表都有一个称之为聚簇索引(clustered index)的特殊索引,存储记录行数据.通常, ...
- MySQL InnoDB表空间加密
从 MySQL5.7.11开始,MySQL对InnoDB支持存储在单独表空间中的表的数据加密 .此功能为物理表空间数据文件提供静态加密.该加密是在引擎内部数据页级别的加密手段,在数据页写入文件系统时加 ...
- MySQL Innodb表空间不足的处理方法
官方给出的解决方案: 添加和删除 InnoDB 数据和日志文件 这一节描述在InnoDB表空间耗尽空间之时,或者你想要改变日志文件大小之时,你可以做的一些事情. 最简单的,增加InnoDB表空间大小的 ...
- MySQL InnoDB表的碎片量化和整理(data free能否用来衡量碎片?)
网络上有很多MySQL表碎片整理的问题,大多数是通过demo一个表然后参考data free来进行碎片整理,这种方式对myisam引擎或者其他引擎可能有效(本人没有做详细的测试).对Innodb引擎是 ...
- Mysql Innodb 表碎片整理
一.为什么会产生碎片 简单的说,删除数据必然会在数据文件中造成不连续的空白空间,而当插入数据时,这些空白空间则会被利用起来.于是造成了数据的存储位置不连续,以及物理存储顺序与理论上的排序顺序不同,这种 ...
随机推荐
- wav音频文件格式解析【个人笔记】(自用)
1. WAV格式 wav是微软开发的一种音频文件格式,注意,wav文件格式是无损音频文件格式,相对于其他音频格式文件数据是没有经过压缩的,通常文件也相对比较大些.. 支持多种音频数字,取样频率和声道, ...
- JavaScript 从入门到放弃(二)模块化工具requirejs
入门教程: 1.JS模块化工具requirejs教程(一):初识requirejs 2.JS模块化工具requirejs教程(二):基本知识 描述 这几天在使用github最活跃的基于bootstra ...
- maven多模块依赖源码调试
Maven多模块项目中,通常存在摸个模块同时依赖其他多个基础模块的情况.在eclipse中使用run-jetty-run插件调试时,常常会出现找不到被依赖模块对应源码的错误提示.举个例子,模块A同时依 ...
- SqlExpress与 LocalDB的链接字符串转换
1.如果是连接SQL Server Express databases,需要将连接字符串定义为:Data Source=.SQLEXPRESS" to "Data Source=( ...
- Chimee - 简单易用的H5视频播放器解决方案
Chimee是由奇舞团开源的一套H5视频播放器解决方案,由奇舞团视频云前端团队结合在业务和视频编解码方向的沉淀积累倾心打造.Chimee支持MP4.M3U8.FLV等多种媒体格式,同时它也帮我们解决了 ...
- Slash and BackSlash 记忆法
容易混淆的两兄弟 Slash https://en.wikipedia.org/wiki/Slash Slash (punctuation), the "/" punctuatio ...
- c++注意易错点
1.cout采用endl,cin不用endl cin>>a>>b; cout<<a<<b<<endl; 2.函数定义后面不要加分号,完了也没 ...
- 20155324 2016-2017-2 《Java程序设计》第2周学习总结
20155324 2016-2017-2 <Java程序设计>第2周学习总结 教材学习内容总结 Java可区分为基本类型(Primitive Type)和类类型(Class Type)两大 ...
- Codeforces 1065E(计数)
题目链接 题意 限定字符串长度为$n$,字符集规模为$A$,以及$m$个数字$b$,对于任意数字$bi$满足长度为$bi$的前缀和后缀先反转再交换位置后形成的新串与原串视作相等,问存在多少不同串. 思 ...
- Oracle简单的序列应用
1.序列的简单作用 1.需要自增或自减一个值的时候. 2.为表中的列自动产生值. 3.由用户创建数据库对象,并可由多个用户共享. 4.一般用于主键或唯一列. 2.创建序列的语法及解析 create s ...