ES 自动恢复分片的时候不恢复了是磁盘超过了85%,然后不恢复了   ES可以配置多个数据目录…
百度Elasticsearch-产品描述-介绍-百度云 https://cloud.baidu.com/doc/BES/FAQ.html#.2C.BB.93.08.C9.7E.2F.A3.E7.35.BE.E5.FA.BD.F6.0E Es 中一个分片一般设置多大 ES 的每个分片(shard)都是lucene的一个index,而lucene的一个index只能存储20亿个文档,所以一个分片也只能最多存储20亿个文档. 另外,我们也建议一个分片的大小在10G-50G之间,太大的话查询时会比较慢,…
本文主要内容: 1.路由一个文档到一个分片 2.新建.索引和删除请求 3.取回单个文档 4.局部单个文档 5.多文档模式 6.理解一下ES深度分页(from-size)的劣势 路由一个文档到一个分片 当索引一个文档的时候,文档会被存储到一个主分片中. Elasticsearch 如何知道一个文档应该存放到哪个分片中呢?当我们创建文档时,它如何决定这个文档应当被存储在分片 1 还是分片 2 中呢? 首先这肯定不会是随机的,否则将来要获取文档的时候我们就不知道从何处寻找了.实际上,这个过程是根据下面…
Linux操作系统的server重新启动后.系统启动报错,系统无法正常使用. 1.报错信息 1.1.报错屏幕信息 1.2.报错信息提取关键信息 (1)/dev/sda3:File -(inode #139928.mod time Thu May 28 03:28:11 2015) Has 1135 multiply-claimed block(s),sharedwith 1 file(s): (2)/dev/sda3:UNEXPECTED INCONSISTENCY.RUN fsck MANUA…
1.备份TETST111hbase org.apache.hadoop.hbase.mapreduce.Export TEST111 /do1/hh2.drop 掉test111表  -- 只能drop,不能delete   -- 坑3.重新创建表create table test111 (id varchar, firstname varchar, lastname varchar CONSTRAINT PK PRIMARY KEY (id,firstname));4.查看hadoop文件系统…
1:索引(创建或者删除)一个文档 首先:发送一个索引或者删除的请求给node1 其次:node1接收到请求之后,会根据请求中携带的参数“文档id”判断出该文档应该存储在具体哪一个shard中 shard = hash(routing) % number_of_primary_shards ,比如shard0:其次就是node1通过元数据信息可以知道shard0在具体哪一个节点,于是node1会把请求转发给node3 最后:node3接收到请求之后会将请求并行的分发给shard0的所有replic…
  从Qt的版本进化中可以知道,在Qt4中的QFtp类到了Qt5中已经没有了,虽然可以通过在Qt5中自己编译出QFtp,但是Qt5中提供的QNetworkAccessManager在发送和请求网络方面有更好的兼容性和扩展性,包括ftp请求和http请求.   这里提供一个Qt4中QFtp的源码获取方式: git clone git://code.qt.io/qt/qtftp.git git clone http://code.qt.io/qt/qtftp.git git clone https:…
Vident系列中有许多多功能产品,其中最好的是Vident iSmart 900.购买视频系列后,以下是用户的一些评论 乔:因为我想它很好用.该工具很容易更新.我将公制重量单位的代码放到工具中.很容易尝试去做.该工具随附的阅读器可能有点随便,我实际上对USB设备有自己的小型美国状态,这比带有扫描仪的套件中的状态要好得多.我实际上已经使用了很多次.我希望它能更广泛地获取击中的Abs / Sir Trans和电子战信息,或者错过它会浏览的信息,而不是每辆车都类似. L:廉价扫描仪之王! 这是有关语…
熟悉ES中的几个关键概念: 节点(Node):一个elasticsearch运行的实例,其实就是一个java进程.一般情况下,一台机器运行在一台机器上. 集群(Cluster): 好几个有相同集群名称的节点(Node). 索引(Index):有点象数据库. 类型(Type):可以看做是数据库中的标 分片(Shard):就是一个lucene index.每个index都会划分成几个shard.每个shard可能是主shard或者是一个副本(replica). 具体lucene我也不熟悉,但是反复读…
环境:elasticsearch6.1.2        kibana6.1.2  基础概念: 1._index元数据 (1)代表一个document存放在哪个index中(2)类似的数据放在一个索引,非类似的数据放不同索引:product index(包含了所有的商品),sales index(包含了所有的商品销售数据),inventory index(包含了所有库存相关的数据).如果你把比如product,sales,human resource(employee),全都放在一个大的inde…
es的每个shard下的文件都可以看做一个完整的lucene文件,shard数据目录下的segment文件包含了索引的分片数量,副本数量.es shard可以恢复,就是因为每个shard都包含了一份数据,而且包含了索引的分片数量,副本数量等信息. 有这样一种情形,es集群中的某一个节点坏掉了,接着又删除了集群中的某个索引.坏掉的节点恢复后,重新加入集群,该节点上的shard还是完整的,最终的结果就是,删除的索引又被重新的恢复了.这并不是所期望的结果. es 5.x中该问题已经被解决,es会记录已…
elasticsearch(es) 集群恢复触发配置(Local Gateway) 当你集群重启时,几个配置项影响你的分片恢复的表现. 首先,我们需要明白如果什么也没配置将会发生什么. 想象一下假设你有 10 个节点,每个节点只保存一个分片,这个分片是一个主分片或者是一个副本分片,或者说有一个有 5 个主分片/1 个副本分片的索引.有时你需要为整个集群做离线维护(比如,为了安装一个新的驱动程序), 当你重启你的集群,恰巧出现了 5 个节点已经启动,还有 5 个还没启动的场景. 假设其它 5 个节…
snapshot可以将es整个集群,具体索引数据备份到磁盘,hdfs等.需要时,可以从磁盘,hdfs恢复数据到es. 具体参考: https://elasticsearch.cn/article/6194 https://www.elastic.co/guide/en/elasticsearch/reference/5.6/modules-snapshots.html…
ORACLE恢复删除表或表记录 一:表的恢复      对误删的表,只要没有使用PURGE永久删除选项,那么从flash back区恢复回来希望是挺大的.一般步骤有: 1.从flash back里查询被删除的表     select * from recyclebin 2.执行表的恢复    flashback table  tb  to before drop,这里的tb代表你要恢复的表的名称. 二:表数据恢复     对误删的表记录,只要没有truncate语句,就可以根据事务的提交时间进行…
摘要: 在Elasticsearch中的可以创建快照,它创建单个索引或整个群集到一个远程的存储库中.在以前的版本中,系统只支持共享存储的快照创建,最新的版本可以通过插件支持更多的方式.在执行快照操作前,需要在Elasticsearch中进行注册快照仓库. 在Elasticsearch中的可以创建快照,它创建单个索引或整个群集到一个远程的存储库中.在以前的版本中,系统只支持共享存储的快照创建,最新的版本可以通过插件支持更多的方式.在执行快照操作前,需要在Elasticsearch中进行注册快照仓库…
集群版本升级 Elasticsearch 作为一个新兴项目,版本更新非常快.而且每次版本更新都或多或少带有一些重要的性能优化.稳定性提升等特性.可以说,ES 集群的版本升级,是目前 ES 运维必然要做的一项工作. 按照 ES 官方设计,有 restart upgrade 和 rolling upgrade 两种可选的升级方式.对于 1.0 版本以上的用户,推荐采用 rolling upgreade 方式. 但是,对于主要负载是数据写入的 Elastic Stack 场景来说,却并不是这样! ro…
mongodb备份和恢复 常用的备份恢复工具 1 ** mongoexport/mongoimport 2 ***** mongodump/mongorestore 备份工具区别在哪里 应用场景总结: mongoexport/mongoimport 导入/导出的是JSON格式或者CSV格式 1.异构平台迁移 mysql <---> mongodb 2.同平台,跨大版本 mongodb 2 ----> mongodb 3 mongodump/mongorestore 导入/导出的是BSON…
本系列宗旨:真正掌握OCP考试中所考察的技能,坚决不做Paper OCP! 实验环境:RHEL 6.4 + Oracle 11.2.0.4 OCP考点实战演练01-备份恢复篇 1.数据库开启归档 2.配置数据库的可恢复性 3.RMAN恢复目录 4.创建RMAN备份 5.使用RMAN备份进行恢复 6.用户管理的备份和恢复 7.其他RMAN功能 8.监视和调整RMAN 9.配置和使用闪回 Reference 1.数据库开启归档 #正常关闭数据库之后,启动数据库到mount状态,开启数据库归档 SQL…
注:本文中的recreate是指当内存不足时,Activity被回收,但再次来到此Activity时,系统重新恢复的过程.例如:当Activity A到Activity B时,如果内存不足,A被回收,但当用户按下Back键返回时,A又会被系统重新创建. 为了便于问题展开,我们首先来看一段最简单的代码 ----------------代码片段1------------------ package com.example.corn.corntest; import android.app.Activ…
7. 备份和恢复 本章主要会介绍: 1.备份的类型:逻辑备份,物理备份,全备和增量4种 2.创建备份的方法 3.还原方法,包括还原到时间点 4.备份计划,压缩和加密 5.表维护,恢复损坏的表 7. 备份和恢复 7.1备份和还原类型 7.1.1 物理备份VS逻辑备份 7.1.2 Online VS OFFLINE 7.1.3 本地VS远程 7.1.4 快照备份 7.1.5 全备VS增量备份 7.1.6 完全恢复VS时间点(增量)恢复 7.1.7 表维护 7.1.8 备份调度,压缩,加密 7.2 数…
对备份的基础理解: --完整备份:完整备份会备份所有数据的区和少量的日志(日志文件用于恢复数据保持数据一致性).由于差异备份需要依据最后一次完整备份,因此完整备份会清楚一些分配位图数据. --差异备份:差异备份是针对完全备份:备份上一次的完全备份后发生变化的所有修改过的数据区(注意不是数据页),差异备份不是增量进行,不会修改分配位图数据. --事务日志备份:在完整恢复模式或大容量日志恢复模式下,如果事务日志自日志链建立后没有进行过日志备份,则备份最最后一次完整备份或差异备份后的所有日志,否则备份…
是否使用RMAN恢复目录(Recovery Catalog 你可能从其他人或书上听过RMAN恢复目录(也有可能是其他名字,RMAN Recovery Catalog的翻译较多较杂,以下简称恢复目录),旁人的表达或书中模糊不清的描述,导致很多朋友一直对其实际意义和作用感到疑惑.在我看来,可以将其视作存储RMAN备份恢复相关信息的数据库(在物理形式上可以对应成Oracle中的一个SCHEMA). 当没有恢复目录时,RMAN相关的备份信息,比如归档文件路径.备份集路径等均存储在目标数据库的控制文件中,…
为了保障数据的安全,需要定期对数据进行备份.备份的方式有很多种,效果也不一样.一旦数据库中的数据出现了错误,就需要使用备份好的数据进行还原恢复.从而将损失降到最低.下面我们来了解一下MySQL常见的有三种备份恢复方式: 1.利用Mysqldump+二进制日志实现备份2.利用LVM快照+二进制日志实现备份3.使用Xtrabackup备份一:实验环境介绍: 系统介绍:CentOS6.4_X64数据库版本:mysql-5.5.33 二:基于Mysqldump命令实现备份恢复2.1.思路概念 Mysql…
当我们使用一个数据库时,总希望数据库的内容是可靠的.正确的,但由于计算机系统的故障(硬件故障.软件故障.网络故障.进程故障和系统故障)影响数据库系统的操作,影响数据库中数据的正确性,甚至破坏数据库,使数据库中全部或部分数据丢失.因此当发生上述故障后,希望能重新建立一个完整的数据库,该处理称为数据库恢复.恢复子系统是数据库管理系统的一个重要组成部分.恢复处理随所发生的故障类型所影响的结构而变化. 一.恢复数据库所使用的结构 Oracle数据库使用几种结构对可能故障来保护数据:数据库后备.日志.回滚…
先deactivate后再start standby再primary报错不能启动hadr standby的时候,先restore,但是别rollback,直接start hadr as standby 先把hadr起来后再推icm 1.先把所有的库的hadr stop了2.把primary的库离线备份3.在副节点db2stop force ,再start(可以保证是处于deactivate(其实db2 DEACTIVATE DATABASE cinder就行)的状态,然后再restore)4.d…
这是我平时摘录的笔记,从管理艺术那本书上摘录出来的,放到这里 RMAN 可在数据库服务器的帮助下从数据库内备份数据文件,可构造数据文件映像副本.控制文件和控制文件映像.对当日志 SPFILE 和RMAN备份片的备份,建议使用RMAN界面备份数据库 RMAN好处: 1 增量备份 2 可联机修补数据文件的部分讹误数据块,不需要从备份文件复原文件 称为介质恢复 3 人为错误最小化 4 一条简单命令 BACKUP DATABASE即可 5 RMAN新的快比较特性允许在备份中跳过数据文件中从未使用的数据块…
简介 SQL Server中的事务日志无疑是SQL Server中最重要的部分之一.因为SQL SERVER利用事务日志来确保持久性(Durability)和事务回滚(Rollback).从而还部分确保了事务的ACID属性.在SQL Server崩溃时,DBA还可以通过事务日志将数据恢复到指定的时间点.当SQL Server运转良好时,多了解一些事务日志的原理和概念显得并不是那么重要.但是,一旦SQL SERVER发生崩溃时,了解事务日志的原理和概念对于快速做出正确的决策来恢复数据显得尤为重要.…
前言 作为一名运维人员,保证数据的安全是根本职责,所以在维护系统的时候,要慎之又慎,但是有时难免会出现数据被误删除的情况,在这个时候该如何快速.有效地恢复数据显得至关重要,extundelete就是其中的一个选择. 如何使用"rm -rf"命令 在Linux系统下,通过命令"rm -rf"可以将任何数据直接从硬盘删除,并且没有任何提示,同时Linux下也没有与Windows下回收站类似的功能,也就意味着,数据在删除后通过常规的手段是无法恢复的,因此使用这个命令要非常…
高性能Linux服务器 第6章  ext3文件系统反删除利器ext3grep  extundelete工具恢复rm -rf 误删除的文件 只能用于ext3文件系统!!!!!!!高俊峰(高性能Linux服务器构建实战:运维监控.性能调优与集群应用(完整)) Linux作为企业级服务器,数据的安全性至关重要,任何数据的丢失和误删除都是不可容忍的.作为系统管理员,一定要有数据保护意识,不但要对服务器数据进行定期备份,而且还要具有误删除数据后将其快速恢复的技能.本章重点讲述Linux下的ext3文件系统…
SQL Server数据库有三种恢复模式:简单恢复模式.完整恢复模式和大容量日志恢复模式: 1.Simple 简单恢复模式, Simple模式的旧称叫”Checkpoint with truncate log“,其实这个名字更形象,在Simple模式下,SQL Server会在每次checkpoint或backup之后自动截断log,也就是丢弃所有的inactive log records,仅保留用于实例启动时自动发生的instance recovery所需的少量log,这样做的好处是log文件…