<div class="show-content-free">
<h1><a name="t0"></a>Neo4j与ElasticSearch数据同步</h1>

针对节点删除,加了一些逻辑,代码地址

背景

需要强大的检索功能,所有需要被查询的数据都在neo4j。

方案

  • 在Server逻辑中直接编写。后端有一个Storage类。当有新数据通过RestAPI存入Neo4j时,同时存一份到ElasticSearch
  • 编写Neo4j插件。Neo4j本身不支持Trigger。但是可以通过插件实现类似功能

方案的选择采用第二种,原因有二

  • 集中式的数据同步处理,比分散式上层逻辑数据同步处理 稳定性和可维护性更高
  • Neo4j开源仓储提供了Neo4j-ElasticSearch插件,虽然不满足我们的需求,但是可以为编写代码提供极大的参考。

插件试用

实验环境: Ubuntu16.04 Docker 17.12.1-ce (由于采用Docker,环境对实验影响不大)

实验环境搭建

  • 下载最近版本(3.2.x)的Jar包
wget https://github.com/neo4j-contrib/neo4j-elasticsearch/releases/download/3.2.3/neo4j-elasticsearch-3.2.3.jar
  • 启动ES容器,该插件用的Jest 2.0.2版本。但是我们使用ElasticSearch2.3也没什么问题
docker run -p 9200:9200 -d --name es elasticsearch:2.3
  • 启动neo4j容器, 并挂载磁盘
docker run -p 7474:7474 -p 7687:7687 -v /home/bonsai/Demo/conf:/var/lib/neo4j/conf  -v /home/bonsai/Demo/plugins:/var/lib/neo4j/plugins --name neo -d  --link es:es neo4j:3.2.3
  • cp插件到plugins文件夹
cp neo4j-elasticsearch-3.2.3.jar /home/bonsai/Demo/plugins
  • 增加配置 vim /home/bonsai/Demo/conf/neo4j.conf

  1. elasticsearch.host_name=http://es:9200
  2. elasticsearch.index_spec=people:Person(first_name,last_name), places:Place(name)
  • 去除默认密码修改限制
docker exec neo /bin/bash -c "echo 'neo4j:SHA-256,BC43474518A71BA7BEB54461F769A76195226474BFE892FF2562211DFD8043FA,B6070629C73CE74455674D39D65BA3DF:' > data/dbms/auth"
  • 重启Neo4j容器
docker restart neo
  • 验证neo4j成功加载配置docker exec neo cat /var/lib/neo4j/logs/debug.log | grep elastic
    成功加载配置

功能使用

在Neo4j-ElasticSearch插件中,引用了index_spec这个配置。具体实现细节下节分析。试用的时候只要知道我们定义了

elasticsearch.index_spec=people:Person(first_name,last_name), places:Place(name)

表示会将Person标签的Node的first_namelast_name属性存入ES people索引中,会将Place标签的Node的name属性存入ES places索引中

节点创建


  1. curl -X POST \
  2. http://localhost:7474/db/data/cypher \
  3. -H 'authorization: Basic bmVvNGo6bmVvNGo=' \
  4. -H 'content-type: application/json' \
  5. -d '{
  6. "query" : "CREATE (n:Person { first_name : {firstname}, last_name: {lastname} }) RETURN n",
  7. "params" : {
  8. "firstname" : "Bonsai",
  9. "lastname": "Y"
  10. }
  11. }
  12. '

成功创建后访问ES数据库查看

curl -X GET 'http://127.0.0.1:9200/people/_search?pretty='
image.png

修改节点


  1. curl -X POST \
  2. http://localhost:7474/db/data/cypher \
  3. -H 'authorization: Basic bmVvNGo6bmVvNGo=' \
  4. -H 'content-type: application/json' \
  5. -d '{
  6. "query" : "MATCH (n:Person) SET n.first_name = { newfirstname } RETURN n",
  7. "params" : {
  8. "newfirstname" : "new_bonsai"
  9. }
  10. }'

成功修改后访问ES数据库查看

curl -X GET 'http://127.0.0.1:9200/people/_search?pretty='
修改节点
  • 删除node

  1. curl -X POST \
  2. http://localhost:7474/db/data/cypher \
  3. -H 'authorization: Basic bmVvNGo6bmVvNGo=' \
  4. -H 'content-type: application/json' \
  5. -d '{
  6. "query" : "MATCH (n:Person) Delete n"
  7. }'

成功删除后访问ES数据库查看

curl -X GET 'http://127.0.0.1:9200/people/_search?pretty='
删除节点
      </div>原文地址:https://blog.csdn.net/weixin_43086579/article/details/84801418
</div>

Neo4j与ElasticSearch数据同步的更多相关文章

  1. Oracle和Elasticsearch数据同步

    Python编写Oracle和Elasticsearch数据同步脚本 标签: elasticsearchoraclecx_Oraclepython数据同步    Python知识库 一.版本 Pyth ...

  2. 基于 MySQL Binlog 的 Elasticsearch 数据同步实践 原

    一.背景 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品.订单等数据的多维度检索. 使用 Elasticsearch 存储业务数据可以 ...

  3. 基于MySQL Binlog的Elasticsearch数据同步实践

    一.为什么要做 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品.订单等数据的多维度检索. 使用 Elasticsearch 存储业务数 ...

  4. kafka2x-Elasticsearch 数据同步工具demo

    Bboss is a good elasticsearch Java rest client. It operates and accesses elasticsearch in a way simi ...

  5. elasticsearch与mongodb分布式集群环境下数据同步

    1.ElasticSearch是什么 ElasticSearch 是一个基于Lucene构建的开源.分布式,RESTful搜索引擎.它的服务是为具有数据库和Web前端的应用程序提供附加的组件(即可搜索 ...

  6. Elasticsearch和mysql数据同步(logstash)

    1.版本介绍 Elasticsearch: https://www.elastic.co/products/elasticsearch 版本:2.4.0   Logstash: https://www ...

  7. Elasticsearch和mysql数据同步(elasticsearch-jdbc)

    1.介绍 对mysql.oracle等数据库数据进行同步到ES有三种做法:一个是通过elasticsearch提供的API进行增删改查,一个就是通过中间件进行数据全量.增量的数据同步,另一个是通过收集 ...

  8. HBase数据同步ElasticSearch该程序

    ElasticSearch的River机械 ElasticSearch本身就提供了River机械,对于同步数据. 在这里,现在能找到的官方推荐River: http://www.elasticsear ...

  9. Linux安装ElasticSearch与MongoDB分布式集群环境下数据同步

    ElasticSearch有一个叫做river的插件式模块,可以将外部数据源中的数据导入elasticsearch并在上面建立索引.River在集群上是单例模式的,它被自动分配到一个节点上,当这个节点 ...

随机推荐

  1. 拓扑排序+并查集——cf1131D

    以前做过了忘记掉了..拓扑排序如果要处理等于关系,就要用并查集把相等关系进行缩点 /* 1.相等关系用并查集合并 2.不等关系用有向边链接 3.拓扑排序求顺序 */ #include<bits/ ...

  2. 二分+2-sat——hdu3062

    hdu3622升级版 注意要保留两位小数 /* 给定n对圆心(x,y),要求从每对里找到一个点画圆,不可相交 使得最小半径最大 二分答案,设最小半径为r 然后两两配对一次进行判断,在2-sat上连边即 ...

  3. c++ static关键字的作用

    1.被申明的函数或值无法被其他源文件使用 2.static的第二个作用是保持变量内容的持久.(static变量中的记忆功能和全局生存期) 存储在静态数据区的变量会在程序刚开始运行时就完成初始化,也是唯 ...

  4. 网页多媒体 flash

    网页上的视频一般都是Flash格式的,因为Flash的兼容性比较好,再一个Flash文件的压缩以后文件较小. 提示:Flash动画的文件扩展名:.swf 以Flash动画为例,播放Flash动画的代码 ...

  5. 什么是 MIME TYPE

    首先,我们要了解浏览器是如何处理内容的.在浏览器中显示的内容有 HTML.有 XML.有 GIF.还有 Flash ……那么,浏览器是如何区分它们,决定什么内容用什么形式来显示呢?答案是 MIME T ...

  6. PKU_3624(0-1背包)

    题目:http://poj.org/problem?id=3624 分析:这是一个0-1背包的问题. #include<stdio.h>#include<string.h>in ...

  7. MySQL5.6 community从下载到安装

    一, 官网下载: https://www.mysql.com/downloads/      二, 安装过程 1, 双击打开 安装 这里是进行数据库配置: 端口默认为3306 这里我们更改为1207 ...

  8. 牛客网暑期ACM多校训练营(第一场)菜鸟补题QAQ

    签到题 J Different Integers(树状数组) 题目大意:给一个长为n的数组,每一个询问给两个数字i, j ,询问1~i, j~n这两个区间中有多少不同的数字,真的像是莫队裸题,但是两个 ...

  9. Leetcode950. Reveal Cards In Increasing Order按递增顺序显示卡牌

    牌组中的每张卡牌都对应有一个唯一的整数.你可以按你想要的顺序对这套卡片进行排序. 最初,这些卡牌在牌组里是正面朝下的(即,未显示状态). 现在,重复执行以下步骤,直到显示所有卡牌为止: 从牌组顶部抽一 ...

  10. python 日记 day5 字典

    一.数据类型分为: 1.不可变数据类型:元组,bool,int,str (不可更改的又叫可哈希) 2.可变数据类型 :list,dict ,set   (可变的又叫不可哈希) 字典: 优点:1.可二分 ...