最近继续学习Mongodb的根本原因,是为了解决今天的问题。
项目中用到了Hbase,生产环境服务器用了3台,但是不够稳定,每2天左右,就连不上了。
重启就好了,当然,这是一个历史遗留问题。
我在想,是不是连接没有关闭,每次都是建立新的连接?
瞅瞅Java访问Hbase的代码,都close了额。

原来的Hbase,用Java访问,有add/update、get、getList3个接口。
现在要加上Mongodb存储,尽可能保证Hbase和Mongodb数据同步。
优先使用Mongodb中的数据,其次才使用HBase中的数据。

今后有可能不再使用Hbase。

在项目刚刚启动的时候,需要同步HBase中的数据到Mongodb。
简化代码如下
public class ProjectDetailClient {
private ProjectDetailHbaseClient hbase = new ProjectDetailHbaseClient();
private ProjectDetailMongodbClient mongodb = new ProjectDetailMongodbClient();

// 2个都增加
public void add(ProjectDetail projectDetail) {
}


可以这么理解,原来直接使用ProjectDetailHbaseClient,方法名称都一样。
后台增加了ProjectDetailMongodbClient,方法的实现也一样,可以看作是一套接口的2套实现。
ProjectDetailClient的add等具体方法中,会处理2个接口的调用、数据同步等逻辑问题。

完整代码如下

package com.hanhai.zrb.api.mongodb;

import java.util.List;

import org.apache.log4j.Logger;

import casia.isiteam.zrb.hbase.client.ProjectDetailHbaseClient;

import com.hanhai.zrb.model.project.ProjectDetail;

public class ProjectDetailClient {
private ProjectDetailHbaseClient hbase = new ProjectDetailHbaseClient();
private ProjectDetailMongodbClient mongodb = new ProjectDetailMongodbClient();
private Logger log = Logger.getLogger(getClass()); // 2个都增加
public void add(ProjectDetail projectDetail) {
log.info("Add ProjectDetail for hbase.");
hbase.insertProjectDetail(projectDetail);
log.info("Add ProjectDetail for mongodb.");
mongodb.add(projectDetail);
} // 2个都更新
public void update(ProjectDetail projectDetail) {
if (projectDetail.getId() == null) {
log.error("ProjectDetail is is null,Cantnot update~");
return;
}
Long id = projectDetail.getId(); ProjectDetail one = mongodb.get(id);
// Mongodb,如果存在,更新
if (one != null) {
log.info("Update ProjectDetail,Mongodb exists,id="+id);
mongodb.update(projectDetail);
}
// 不存在,就增加
else {
log.info("Update ProjectDetail,Mongodb not exists,id="+id);
mongodb.add(projectDetail);
} // hbase增加和更新是同一个接口
log.info("Update ProjectDetail for hbase,id="+id);
hbase.insertProjectDetail(projectDetail);
} // 2个都查询,优先使用Mongodb
public ProjectDetail get(long id) {
ProjectDetail one = null;
ProjectDetail hbaseOne = hbase.getProjectDetail(id);
ProjectDetail mongodbOne = mongodb.get(id);
if (mongodbOne != null) {
one = mongodbOne;
log.info("Project Detail,Mongodb exists,Use Mongodb," + one);
} else if (hbaseOne != null) {
one = hbaseOne;
log.info("Project Detail,Mongodb not exists,Use Hbase," + one);
log.info("Add Project Detail To Mongodb");
// 同步Hbase中的数据到Mongodb
mongodb.add(hbaseOne);
}
return one;
} // 2个都查询,优先使用Mongodb
public List<ProjectDetail> getProjectInfoBasic(List<Long> idList) {
List<ProjectDetail> list = null;
List<ProjectDetail> hbaseList = hbase.getProjectInfoBasic(idList);
List<ProjectDetail> mongodbList = mongodb.getProjectInfoBasic(idList);
// 优先使用Mongodb中的,条件,Mongodb中的个数不小于hbase中的
if (mongodbList != null) {
int size = mongodbList.size();
if (hbaseList == null || hbaseList.size() <= size) {
list = mongodbList;
log.info("ProjectDetail list,Use MongodbList,size=" + size);
}else{
list = hbaseList;
log.info("ProjectDetail list,Use HbaseList,size=" + hbaseList.size()+",mongodb count "+size+" < hbase count "+hbaseList.size());
}
}
// 其次使用Hbase中的,不会同步hbase中的数据到Mongodb
else if (hbaseList != null) {
list = hbaseList;
log.info("ProjectDetail list,Use HbaseList,size=" + hbaseList.size());
}
return list;
}
}

package com.hanhai.zrb.api.mongodb;

import java.util.ArrayList;
import java.util.List; import org.apache.log4j.Logger; import com.hanhai.zrb.model.project.ProjectDetail;
import com.mongodb.BasicDBList;
import com.mongodb.BasicDBObject;
import com.mongodb.CommandResult;
import com.mongodb.DB;
import com.mongodb.DBCollection;
import com.mongodb.DBCursor;
import com.mongodb.DBObject;
import com.mongodb.WriteResult; public class ProjectDetailMongodbClient { public static final String CON_NAME = "projectDetail"; private Logger log = Logger.getLogger(getClass()); public void add(ProjectDetail projectDetail) {
DBCollection con = getCon();
add(con, projectDetail);
} private DBCollection getCon() {
DB db = MongoUtil.db();
DBCollection con = db.getCollection(CON_NAME);
return con;
} // 增加
private DBCollection add(DBCollection projectDetailCollection,
ProjectDetail projectDetail) {
DBObject object = BeanUtil.bean2DBObject(projectDetail);
WriteResult wr = projectDetailCollection.insert(object);
CommandResult cr = wr.getLastError();
log.info("Add new projectDetail,result:" + cr);
return projectDetailCollection;
} public void update(ProjectDetail projectDetail) {
DBCollection con = getCon();
update(con, projectDetail);
} // 修改
private void update(DBCollection collection, ProjectDetail projectDetail) {
if (projectDetail.getId() == null) {
log.error("Update projectDetail,must have a unique id");
return;
} BasicDBObject updateCondition = new BasicDBObject();
updateCondition.append("id", projectDetail.getId()); DBObject newObject = BeanUtil.bean2DBObject(projectDetail); DBObject updateSetValue = new BasicDBObject("$set", newObject);
WriteResult wr = collection.update(updateCondition, updateSetValue);
log.info("Update new projectDetail,result:" + wr);
} public ProjectDetail get(long id) {
DBCollection con = getCon();
ProjectDetail projectDetail = findById(con, id);
return projectDetail;
} // 从集合中,根据ID查找
private ProjectDetail findById(DBCollection collection, Long id) {
BasicDBObject searchProjectDetailById = new BasicDBObject();
searchProjectDetailById.append("id", id);
ProjectDetail projectDetailBefore = null;
// findOne方法更简单一些
DBCursor cursor = collection.find(searchProjectDetailById);
while (cursor.hasNext()) {
DBObject articleObject = cursor.next();
if (articleObject != null) {
projectDetailBefore = objectToArticle(articleObject);
String internalId = articleObject.get("_id").toString();
projectDetailBefore.setMongoId(internalId);
}
}
cursor.close();
return projectDetailBefore;
} // 对象转换
private ProjectDetail objectToArticle(DBObject object) {
ProjectDetail projectDetail = new ProjectDetail();
// 用工具方法转换,手动转换,需要判断类型,比较麻烦
projectDetail = BeanUtil.dbObject2Bean(object, projectDetail);
return projectDetail;
} public List<ProjectDetail> getProjectInfoBasic(List<Long> idList) {
DBCollection con = getCon();
List<ProjectDetail> list = findByIdList(con, idList);
return list;
} // 根据ID集合查找
private List<ProjectDetail> findByIdList(DBCollection collection,
List<Long> idList) {
BasicDBList values = new BasicDBList();
values.addAll(idList); DBObject inQuery = new BasicDBObject("$in", values); DBObject con = new BasicDBObject();
con.put("id", inQuery);
DBCursor cursorIdArray = collection.find(con); List<ProjectDetail> projectDetailList = new ArrayList<ProjectDetail>();
while (cursorIdArray.hasNext()) {
DBObject articleObject = cursorIdArray.next();
ProjectDetail projectDetail = new ProjectDetail();
BeanUtil.dbObject2Bean(articleObject, projectDetail);
String mongoId = articleObject.get("_id").toString();
projectDetail.setMongoId(mongoId); projectDetailList.add(projectDetail);
}
return projectDetailList;
} }

ProjectDetailHbaseClient代码较为复杂,和ProjectDetailMongodbClient类似,不再贴了。

Mongodb总结5-通过装饰模式,用Mongodb解决Hbase的不稳定问题的更多相关文章

  1. mongoDb CPU利用率100%的分析和解决

    在公司的项目中,突然出现过一个情况,mongodb 的CPU利用率到达100%,导致服务器这边卡死了,请求了半天无响应,提示请求超时. 因为,当时APP用户可能会在某一个时间段集中的使用,所以,请求量 ...

  2. MongoDB学习:(二)MongoDB简单使用

    MongoDB学习:(二)MongoDB简单使用 MongoDB使用: 执行mongodb的操作之前,我们需要运行命令,来进入操作命令界面 >mongo 提示该错误,说明我们系统缺少一个补丁,该 ...

  3. MongoDB学习:(一)MongoDB安装

    MongoDB学习:(一)MongoDB安装 MongoDB介绍:     直接百科了: MongoDB安装: 1:下载安装: MongoDB安装:https://www.mongodb.com/do ...

  4. 基于C#的MongoDB数据库开发应用(1)--MongoDB数据库的基础知识和使用

    在花了不少时间研究学习了MongoDB数据库的相关知识,以及利用C#对MongoDB数据库的封装.测试应用后,决定花一些时间来总结一下最近的研究心得,把这个数据库的应用单独作为一个系列来介绍,希望从各 ...

  5. Mongodb 笔记09 备份、部署MongoDB

    备份 1. 只有在有信心能在紧急情况下完成迅速部署的情况下,备份才是有用的.所以,无论选择了哪种备份技术,一定要对备份及恢复备份的操作进行练习,知道了然于心. 2. 通常情况下,应对副本集的非主节点( ...

  6. MongoDB(索引及C#如何操作MongoDB)(转载)

    MongoDB(索引及C如何操作MongoDB) 索引总概况 db.test.ensureIndex({"username":1})//创建索引 db.test.ensureInd ...

  7. window服务器上mongodb的安装与如何将mongodb设置为服务,为mongodb设置管理用户,mongodb连接字符串配置

    最近公司有一个项目模块让用nosql-mongodb替换了,故,对mongodb做了一点研究,然后分享一下! 1.首先说一下安装时的坑 下载mongodb,如果你从官网下载,将会是一件很慢的事情,在公 ...

  8. 孤荷凌寒自学python第五十六天通过compass客户端和mongodb shell 命令来连接远端MongoDb数据库

    孤荷凌寒自学python第五十六天通过compass客户端和mongodb shell 命令来连接远端MongoDb数据库 (完整学习过程屏幕记录视频地址在文末) 今天是学习mongoDB数据库的第二 ...

  9. 搭建高可用mongodb集群(一)——mongodb配置主从模式

    转载自:LANCEYAN.COM 在大数据的时代,传统的关系型数据库要能更高的服务必须要解决高并发读写.海量数据高效存储.高可扩展性和高可用性这些难题.不过就是因为这些问题Nosql诞生了. NOSQ ...

随机推荐

  1. SQLServer2008端口及防火墙设置

    一,Microsoft SQL Server 2008R2数据库设置 1.       开始=>程序=>Microsoft SQL Server 2008R2=>配置工具=>S ...

  2. 用vuex构建单页

    原文地址:点我 前言:在最近学习 Vue.js 的时候,看到国外一篇讲述了如何使用 Vue.js 和 Vuex 来构建一个简单笔记的单页应用的文章.感觉收获挺多,自己在它的例子的基础上进行了一些优化和 ...

  3. 推荐学习《Python与量化投资从基础到实战》PDF及代码+《量化投资以Python为工具》PDF及代码

    利用python分析量化投资问题是现在研究的热点,推荐两份资料用于学习 <Python与量化投资:从基础到实战>主要讲解如何利用Python进行量化投资,包括对数据的获取.整理.分析挖掘. ...

  4. SSH—指定登录的IP

    设置ssh安全--指定的IP登陆 为了服务器更加具有安全性,我们可以设置ssh安全只允许用户从固定的IP进行登陆, 首先获取要登录服务器的电脑的IP地址 登录http://www.ip138.com/ ...

  5. Idea下mybatis的错误—Module not specified

    IDEA下使用maven的mybatis常见错误 错误类型一:导入项目引起的错误Module not specified 错误提示:idea Error Module not specified. 错 ...

  6. Activiti工作流(3):activiti核心API

    ProcessEngine 说明: 1)     在Activiti中最核心的类,其他的类都是由他而来. 2) 产生方式:ProcessEngine defaultProcessEngine = Pr ...

  7. struts2的字符串参数

    一定要熟记一个东西,一层引号的是变量,两层引号的是字符串 如"蓝"/'蓝'是变量,而" '蓝' "/ ' "蓝" '是字符串 打代码时要警惕 ...

  8. java8新增特性(一)---Lambda表达式

    Lambda表达式也成为闭包,是java语言层次上的改变,Lambda同意把函数作为一个方法的參数(函数作为參数传递进方法中),或者把代码看成数据.函数式程序猿对这一概念非常熟悉. 在JVM平台上有非 ...

  9. Redhat Linux下如何使用KVM虚拟机(视频)

    KVM(kernel-basedVirtualMachine)是一个开源的系统虚拟化模块,自Linux2.6.20之后集成在Linux的各个主要发行版本中.它使用Linux自身的调度器进行管理,所以相 ...

  10. 具有可视化的功能的一款开源软件Gource

    今天为大家介绍一个非常有趣儿的开源软件,Gource可以将代码版本控制系统里面的日志全部可视化,也就是说可以看见每个成员在系统里面提交代码的行为,Gource目前支持git,hg,svn. 650) ...