基础环境:

(二)设置增量导入为定时执行的任务:
很多人利用Windows计划任务,或者Linux的Cron来定期访问增量导入的连接来完成定时增量导入的功能,这其实也是可以的,而且应该没什么问题。
但是更方便,更加与Solr本身集成度高的是利用其自身的定时增量导入功能。
1、下载apache-solr-dataimportscheduler-1.0.jar放到Tomcat的webapps的solr目录的WEB-INF的lib目录下:

下载地址:http://yunpan.cn/cdIpMthFdFcgn (提取码:5a1c)

由于我采用的jetty+zk配置

我将apache-solr-dataimportscheduler-1.0.jar 放在solr-4.10.4/example/solr-webapp/webapp/WEB-INF/lib目录下

2、部分配置文件: db-data-config.xml

文件目录位置:/solr-4.10.4/example/solr/collection1/conf

  1. <entity name="bns_sentence" pk="id"
  2. query ="select id, uid, createname, createheadimg, wid, word, content, articlenum, state, feel, forwardnum, supportnum, updatetime, createtime from bns_sentence"
  3. deltaImportQuery ="select id, uid, createname, createheadimg, wid, word, content, articlenum, state, feel, forwardnum, supportnum, updatetime, createtime from bns_sentence where id='${dataimporter.delta.ID}'"
  4. deltaQuery ="select id, uid, createname, createheadimg, wid, word, content, articlenum, state, feel, forwardnum, supportnum, updatetime, createtime from bns_sentence where updatetime '${dataimporter.last_index_time}'">
  5. <field column="id" name="id"/>
  6. <field column="uid" name="uid"/>
  7. <field column="createname" name="createname"/>
  8. <field column="createheadimg" name="createheadimg"/>
  9. <field column="wid" name="wid"/>
  10. <field column="word" name="word"/>
  11. <field column="content" name="content"/>
  12. <field column="articlenum" name="articlenum"/>
  13. <field column="state" name="state"/>
  14. <field column="feel" name="feel"/>
  15. <field column="forwardnum" name="forwardnum"/>
  16. <field column="supportnum" name="supportnum"/>
  17. <field column="updatetime" name="updatetime"/>
  18. <field column="createtime" name="createtime"/>

3、配置文件头尾

  1. <?xml version="1.0" encoding="UTF-8" ?>
    <dataConfig>
        <dataSource driver="com.mysql.jdbc.Driver"    
                        url="jdbc:mysql://ip:3306/database"     
                                        user="username"     
                                         password="password"   />
                                                                       <span style="color:#FF0000;"> batchSize="-1"</span>/><!-- 注意:mysql中一定要batchSize="-1" 否则会报异常-->
        <document>
            
  2.  
  3.        <entity name="tablename" pk="id"  
                    
                          </entity>
        
            </document>
           <!--deltaQuery="select id, content, avgfeel, state, sentencenum, articlenum,updatetime, createtime  from bns_word where  to_char(updatetime,'yyyy-mm-dd hh24:mi:ss')> '${dataimporter.last_index_time}'"-->
  4.  
  5.  </dataConfig>

4、修改配置文件dataimport.properties

我是放在/solr-4.10.4/example/solr/conf 目录下

配置文件如下

  1. #################################################
  2. # #
  3. # dataimport scheduler properties #
  4. # #
  5. #################################################
  6.  
  7. # to sync or not to sync
  8. # 1 - active; anything else - inactive
  9. syncEnabled=1
  10.  
  11. # which cores to schedule
  12. # in a multi-core environment you can decide which cores you want syncronized
  13. # leave empty or comment it out if using single-core deployment
  14. syncCores=game,resource
  15.  
  16. # solr server name or IP address
  17. # [defaults to localhost if empty]
  18. server=ip
  19.  
  20. # solr server port
  21. # [defaults to 80 if empty]
  22. port=8983
  23.  
  24. # application name/context
  25. # [defaults to current ServletContextListener's context (app) name]
  26. webapp=solr
  27.  
  28. # URL params [mandatory]
  29. # remainder of URL
  30. params=/dataimport?command=delta-import&clean=true&commit=true
  31.  
  32. # schedule interval
  33. # number of minutes between two runs
  34. # [defaults to 30 if empty]
  35. interval=1
  36.  
  37. # 重做索引的时间间隔,单位分钟,默认7200,即1天;
  38. # 为空,为0,或者注释掉:表示永不重做索引
  39. reBuildIndexInterval=7200
  40.  
  41. # 重做索引的参数
  42. reBuildIndexParams=/dataimport?command=full-import&clean=true&commit=true
  43.  
  44. # 重做索引时间间隔的计时开始时间,第一次真正执行的时间=reBuildIndexBeginTime+reBuildIndexInterval*60*1000;
  45. # 两种格式:2012-04-11 03:10:00 或者 03:10:00,后一种会自动补全日期部分为服务启动时的日期
  46. reBuildIndexBeginTime=03:10:00

5、第一次启动会出现:

  1. sorry, no dataimport-handler defined!

解决办法

找到配置文件example/solr/collection1/conf 下的solrconfig.xml添加

  1. <requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler">
  2. <lst name="defaults">
  3. <str name="config">db-data-config.xml</str>
  4. </lst>
  5. </requestHandler>

6、启动后报错信息:

  1. - 2015-08-19 23:31:13.591; org.apache.solr.handler.dataimport.scheduler.BaseTimerTask; [game] <index update process> Response message Not Found
  2. INFO - 2015-08-19 23:31:13.592; org.apache.solr.handler.dataimport.scheduler.BaseTimerTask; [game] <index update process> Response code 404
  3. INFO - 2015-08-19 23:31:13.592; org.apache.solr.core.SolrResourceLoader; JNDI not configured for solr (NoInitialContextEx)
  4. INFO - 2015-08-19 23:31:13.593; org.apache.solr.core.SolrResourceLoader; solr home defaulted to 'solr/' (could not find system property or JNDI)
  5. INFO - 2015-08-19 23:31:13.593; org.apache.solr.core.SolrResourceLoader; new SolrResourceLoader for deduced Solr Home: 'solr/'
  6. INFO - 2015-08-19 23:31:13.609; org.apache.solr.handler.dataimport.scheduler.SolrDataImportProperties; Instance dir = solr/

错误原因:

改成启动方式:

java -Dsolr.solr.home=/home/hadoop/cloudsolr/solr-4.10.4/example -DzkHost=192.168.0.157:2181,192.168.0.158:2181,192.168.0.159:2181 -DnumShards=2 -Dbootstrap_confdir=./solr/collection1/conf -Dcollection.configName=myconf -jar start.jar
 7、错误信息如下:

  1. 1045 [main] ERROR org.apache.solr.handler.dataimport.scheduler.SolrDataImportProperties Error locating DataImportScheduler dataimport.properties file
  2. java.io.FileNotFoundException: /home/hadoop/cloudsolr/solr-4.10.4/example/conf/dataimport.properties (No such file or directory)

将配置文件dataimport.properties移动对应的目录

8、错误信息:

  1. ter Could not start Solr. Check solr/home property and the logs
  2. 1146 [main] ERROR org.apache.solr.core.SolrCore null:org.apache.solr.common.SolrException: solr.xml does not exist in /home/hadoop/cloudsolr/solr-4.10.4/example/solr.xml cannot start Solr
  3. at org.apache.solr.core.ConfigSolr.fromFile(ConfigSolr.java:62)

将对应的solr.xml 复制到对应的目录即可

9、错误信息:

  1. in] ERROR org.apache.solr.servlet.SolrDispatchFilter Could not start Solr. Check solr/home property and the logs
  2. 3230 [main] ERROR org.apache.solr.core.SolrCore null:org.apache.solr.common.SolrException: Found multiple cores with the name [collection1], with instancedirs [/home/hadoop/cloudsolr/solr-4.10.4/example/example-schemaless/solr/collection1/] and [/home/hadoop/cloudsolr/solr-4.10.4/example/solr/collection1/]
  1. 解决办法:example-schemaless/solr/collection1 将例子的core重新命名为其他的名字,并且在core.properties 也修改即可
    10、在执行的时候另一个错误:
  1. dding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-http-8.1.10.v20130312.jar' to classloader
  2. 481115 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.SolrDataImportProperties Instance dir = /home/hadoop/cloudsolr/solr-4.10.4/example/
  3. 481116 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [resource] <index update process> Disconnected from server ip
  4. 481117 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [resource] <index update process> Process ended at ................ 20.08.2015 01:37:00 595
  5. 541047 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [game] <index update process> Process started at .............. 20.08.2015 01:38:00 525
  6. 541049 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [game] <index update process> Full URL http://ip:8983/solr/game/dataimport?command=delta-import&clean=true&commit=true
  7. 541057 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [game] <index update process> Response message Not Found
  8. 541058 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [game] <index update process> Response code 404
  9. 541058 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader JNDI not configured for solr (NoInitialContextEx)
  10. 541059 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader using system property solr.solr.home: /home/hadoop/cloudsolr/solr-4.10.4/example
  11. 541059 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader new SolrResourceLoader for deduced Solr Home: '/home/hadoop/cloudsolr/solr-4.10.4/example/'
  12. 541061 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-deploy-8.1.10.v20130312.jar' to classloader
  13. 541061 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-xml-8.1.10.v20130312.jar' to classloader
  14. 541062 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-servlet-8.1.10.v20130312.jar' to classloader
  15. 541062 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-io-8.1.10.v20130312.jar' to classloader
  16. 541063 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-util-8.1.10.v20130312.jar' to classloader
  17. 541063 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-security-8.1.10.v20130312.jar' to classloader
  18. 541064 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-server-8.1.10.v20130312.jar' to classloader
  19. 541065 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-continuation-8.1.10.v20130312.jar' to classloader
  20. 541065 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/ext/' to classloader
  21. 541066 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-webapp-8.1.10.v20130312.jar' to classloader
  22. 541067 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/servlet-api-3.0.jar' to classloader
  23. 541067 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-jmx-8.1.10.v20130312.jar' to classloader
  24. 541068 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-http-8.1.10.v20130312.jar' to classloader
  25. 541085 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.SolrDataImportProperties Instance dir = /home/hadoop/cloudsolr/solr-4.10.4/example/
  26. 541085 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [game] <index update process> Disconnected from server ip
  27. 541086 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [game] <index update process> Process ended at ................ 20.08.2015 01:38:00 564
  28. 541086 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [resource] <index update process> Process started at .............. 20.08.2015 01:38:00 564
  29. 541087 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [resource] <index update process> Full URL http://ip:8983/solr/resource/dataimport?command=delta-import&clean=true&commit=true
  30. 541091 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [resource] <index update process> Response message Not Found
  31. 541091 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [resource] <index update process> Response code 404
  32. 541091 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader JNDI not configured for solr (NoInitialContextEx)
  33. 541091 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader using system property solr.solr.home: /home/hadoop/cloudsolr/solr-4.10.4/example
  34. 541091 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader new SolrResourceLoader for deduced Solr Home: '/home/hadoop/cloudsolr/solr-4.10.4/example/'
  35. 541092 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-deploy-8.1.10.v20130312.jar' to classloader
  36. 541092 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-xml-8.1.10.v20130312.jar' to classloader
  37. 541092 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-servlet-8.1.10.v20130312.jar' to classloader
  38. 541092 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-io-8.1.10.v20130312.jar' to classloader
  39. 541093 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-util-8.1.10.v20130312.jar' to classloader
  40. 541093 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-security-8.1.10.v20130312.jar' to classloader
  41. 541093 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-server-8.1.10.v20130312.jar' to classloader
  42. 541093 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-continuation-8.1.10.v20130312.jar' to classloader
  43. 541094 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/ext/' to classloader
  44. 541094 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-webapp-8.1.10.v20130312.jar' to classloader
  45. 541094 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/servlet-api-3.0.jar' to classloader
  46. 541094 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-jmx-8.1.10.v20130312.jar' to classloader
  47. 541094 [Timer-0] INFO org.apache.solr.core.SolrResourceLoader Adding 'file:/home/hadoop/cloudsolr/solr-4.10.4/example/lib/jetty-http-8.1.10.v20130312.jar' to classloader
  48. 541106 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.SolrDataImportProperties Instance dir = /home/hadoop/cloudsolr/solr-4.10.4/example/
  49. 541106 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [resource] <index update process> Disconnected from server ip
  50. 541111 [Timer-0] INFO org.apache.solr.handler.dataimport.scheduler.BaseTimerTask [resource] <index update process> Process ended at ................ 20.08.2015 01:38:00 589

问题原因:

solr版本不支持

解决办法:

jar包换1.1版本。

错误原因:

  1. deltaQuery="select id, content, avgfeel, state, sentencenum, articlenum,updatetime, createtime  from bns_word  where  updatetime  &gt;=  '${dataimporter.last_index_time}'">

在xml 中定义大于号小于号:

原符号   <    <=    >    >=     &      '       "
替换符号 &lt; &lt;= &gt; &gt;= &amp; &apos; &quot;

11、导入数据后出现控制台有出现导入数据成功,但是solr查询不到数据

错误原因:

  1. db-data-config.xml
  2. 配置文件中
  3. <entity name="bns_sentence" pk="id"
  4. query ="select id, uid, createname, createheadimg, wid, word, content, articlenum, state, feel, forwardnum, supportnum, updatetime, createtime from bns_sentence"
  5. deltaImportQuery ="select id, uid, createname, createheadimg, wid, word, content, articlenum, state, feel, forwardnum, supportnum, updatetime, createtime from bns_sentence where id='${dataimporter.delta.id}'"
  6.  
  7. dataimporter.delta.id 需要改为小写的id

12 、配置完启动出错:

  1. 48 [coreLoadExecutor-5-thread-1] ERROR org.apache.solr.core.CoreContainer ? Error creating core [collection1]: RequestHandler init failure
  2. org.apache.solr.common.SolrException: RequestHandler init failure
  3. at org.apache.solr.core.SolrCore.<init>(SolrCore.java:881)
  4. at org.apache.solr.core.SolrCore.<init>(SolrCore.java:654)
  5. at org.apache.solr.core.CoreContainer.create(CoreContainer.java:491)
  6. at org.apache.solr.core.CoreContainer$1.call(CoreContainer.java:255)
  7. at org.apache.solr.core.CoreContainer$1.call(CoreContainer.java:249)
  8. at java.util.concurrent.FutureTask.run(FutureTask.java:262)
  9. at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
  10. at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)
  11. at java.lang.Thread.run(Thread.java:745)
  12. Caused by: org.apache.solr.common.SolrException: RequestHandler init failure
  13. at org.apache.solr.core.RequestHandlers.initHandlersFromConfig(RequestHandlers.java:172)
  14. at org.apache.solr.core.SolrCore.<init>(SolrCore.java:800)
  15. ... 8 more
  16. Caused by: org.apache.solr.common.SolrException: Error loading class 'org.apache.solr.handler.dataimport.DataImportHandler'
  17. at org.apache.solr.core.SolrResourceLoader.findClass(SolrResourceLoader.java:490)
  18. at org.apache.solr.core.SolrResourceLoader.findClass(SolrResourceLoader.java:421)
  19. at org.apache.solr.core.SolrCore.createInstance(SolrCore.java:551)
  20. at org.apache.solr.core.SolrCore.createRequestHandler(SolrCore.java:624)
  21. at org.apache.solr.core.RequestHandlers.initHandlersFromConfig(RequestHandlers.java:158)
  22. ... 9 more
  23. Caused by: java.lang.ClassNotFoundException: org.apache.solr.handler.dataimport.DataImportHandler
  24. at java.net.URLClassLoader$1.run(URLClassLoader.java:366)
  25. at java.net.URLClassLoader$1.run(URLClassLoader.java:355)
  26. at java.security.AccessController.doPrivileged(Native Method)
  27. at java.net.URLClassLoader.findClass(URLClassLoader.java:354)
  28. at java.lang.ClassLoader.loadClass(ClassLoader.java:425)
  29. at java.net.FactoryURLClassLoader.loadClass(URLClassLoader.java:789)
  30. at java.lang.ClassLoader.loadClass(ClassLoader.java:358)
  31. at java.lang.Class.forName0(Native Method)
  32. at java.lang.Class.forName(Class.java:274)
  33. at org.apache.solr.core.SolrResourceLoader.findClass(SolrResourceLoader.java:474)
  34. ... 13 more

错误原因:

解决办法:

软件包下载地址:http://yunpan.cn/cHTNPkchYSCrX (提取码:e5ee)

将solr-4.10.4/dist下的
solr-dataimporthandler-4.10.4.jar
solr-dataimporthandler-extras-4.10.4.jar
考到solr web的lib目录下,然后重启即可

  1. [root@devnote ~]# cp solr-4.5.1/dist/solr-dataimporthandler-*.jar /opt/tomcat/webapps/solr/WEB-INF/lib/

13 、 solr 清空所有数据:

http://ip:port/solr/corename/update/?stream.body=%3Cdelete%3E%3Cquery%3E*:*%3C/query%3E%3C/delete%3E&stream.contentType=text/xml;charset=utf-8&commit=true

参考地址:http://josh-persistence.iteye.com/blog/2017155

14、如果是solr和tomcat 集成,参考http://www.aboutyun.com/thread-10496-1-1.html, 这步是必须的

  1. 、修改solrWEB-INF目录下面的web.xml文件:
  2. 为<web-app>元素添加一个子元素
  3.  
  4. <listener>
  5. <listener-class>
  6. org.apache.solr.handler.dataimport.scheduler.ApplicationListener
  7. </listener-class>
  8. </listener>

15、如果出现:Unsupported Media Type 错误提示,数据增量导入失败

错误原因: 我部署的是在tomcat 下 的solr /WEB-INF/lib 下将apache-solr-dataimportscheduler-1.0.jar 包删除

解决办法: 将/WEB-INF/lib 下将apache-solr-dataimportscheduler-1.0.jar 删除, 替换上solr-dataimportscheduler-1.1.jar
软件包下载地址:http://yunpan.cn/cHTNPkchYSCrX (提取码:e5ee)

用solr DIH 实现mysql 数据定时,增量同步到solr的更多相关文章

  1. MySQL数据实时增量同步到Kafka - Flume

    转载自:https://www.cnblogs.com/yucy/p/7845105.html MySQL数据实时增量同步到Kafka - Flume   写在前面的话 需求,将MySQL里的数据实时 ...

  2. 通过canal实现把MySQL数据实时增量到kafka

    说明:我们有一个业务需要把mysql中一些表实时同步到大数据集群hbase上面,我们先通过sqoop把表中数据全量导入到hbase中,然后再通过canal定位的某个binlog的position,来实 ...

  3. solr实时更新mysql数据的方法

    第一步:创建core core是solr的特有概念,每个core是一个查询数据,.索引等的集合体,你可以把它想象成一个独立数据库,我们创建一个新core:名字[core1] 进入linux命令行,进入 ...

  4. 利用shell脚本将Oracle服务器中数据定时增量刷新到ftp服务器中

    现有需求:将oracle数据库中的数据准实时同步至某ftp服务器中,以便前端应用能定时从ftp服务器目录中取增量数据 方法:将加工脚本写为存储过程,然后利用shell脚本执行该存储过程并将增量数据导出 ...

  5. orcale增量全量实时同步mysql可支持多库使用Kettle实现数据实时增量同步

    1. 时间戳增量回滚同步 假定在源数据表中有一个字段会记录数据的新增或修改时间,可以通过它对数据在时间维度上进行排序.通过中间表记录每次更新的时间戳,在下一个同步周期时,通过这个时间戳同步该时间戳以后 ...

  6. MySQL 数据备份与同步

    前段时间使用MySQL作为数据存储做了一个小项目.项目上线运行了几十天之后,数据已经越来越多,达到了100多M.用mysqldump每天备份全量数据然后传输到另外一台机器上这种方式进行数据备份,久而久 ...

  7. MYSQL数据库主主同步实战

    MYSQL支持单向.异步复制,复制过程中一个服务器充当主服务器,而一个或多个其它服务器充当从服务器.主服务器将更新写入二进制日志文件,并维护日志文件的一个索引以跟踪日志循环.当一个从服务器连接到主服务 ...

  8. rsync数据定时增量备份知识管理服务器数据

    为了保证公司知识管理服务器数据的安全性,所以计划每天同步confluence服务器上面数据 一.安装rsync服务端 1.查看是否安装rsync ps -ef | grep rsync 2.添加配置文 ...

  9. Linux rsync数据定时增量备份

    一.安装rsync服务端 1.查看是否安装rsync ps -ef | grep rsync 系统一般默认已安装,安装方法: yum -y install rsync 2.添加配置文件 rsync没有 ...

随机推荐

  1. 简单理解Ext.DomQuery操作CSS3选择器

    <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8&quo ...

  2. [7.18NOIP模拟测试5]砍树 题解(数论分块)

    题面(加密) 又考没学的姿势……不带这么玩的…… 考场上打了个模拟 骗到30分滚粗了 稍加思考(滑稽)可将题面转化为: 求一个最大的$d$,使得 $\sum \limits _{i=1}^n {(\l ...

  3. [HNOI2015]菜肴制作 题解(贪心+拓扑)

    Description 知名美食家小 A被邀请至ATM 大酒店,为其品评菜肴. ATM 酒店为小 A 准备了 N 道菜肴,酒店按照为菜肴预估的质量从高到低给予 1到N的顺序编号,预估质量最高的菜肴编号 ...

  4. wmic命令用法小例

    wmic就是wmic.exe,位于windows目录底下,是一个命令行程序.WMIC可以以两种模式执行:交互模式(Interactive mode)和非交互模式(Non-Interactive mod ...

  5. CSS:CSS 图像拼合技术

    ylbtech-CSS:CSS 图像拼合技术 1.返回顶部 1. CSS 图像拼合技术 图像拼合 图像拼合就是单个图像的集合. 有许多图像的网页可能需要很长的时间来加载和生成多个服务器的请求. 使用图 ...

  6. python re.findall 使用

    python re.findall 使用 import re #\w 匹配字母数字及下划线 print(re.findall('\w','hello alan _god !@^&#^$^!*& ...

  7. 假如Kafka集群中一个broker宕机无法恢复,应该如何处理?

    假如Kafka集群中一个broker宕机无法恢复, 应该如何处理? 今天面试时遇到这个问题, 网上资料说添加新的broker, 是不会自动同步旧数据的. 笨办法 环境介绍 三个broker的集群, z ...

  8. PHP简单读取XML

    DOM document object model,文档对象模型,就是树形结构 节点的分类 元素节点 属性节点 值节点 注释节点 根节点(document才是根节点) 生成XML文档 xml的根节点为 ...

  9. vant实现三级联动

    首先要在vant 框架里边   复制一下   省市区的 地址数据在这里下载eare.js 格式 : var address = { province_list: { 110000: '北京市', }, ...

  10. svn向服务器添加新建文件夹

    tip: 1)提交文件分为两步,先将要提交的文件加入缓存区,然后将文件提交 2)add:添加的意思.commit:提交的意思 第一步:加入缓存区(如图) 1)选择要提交的文件 2)右键svn---&g ...