(一)数据库信息

名称

源端数据库

目标端数据库

数据库类型

Postgresql 12.4

MySQL 5.7

IP地址

20.2.127.23

20.2.127.24

端口

5432

3306

数据库

testpdb

test

用户

ogguser

root

密码

ogguserP2021

Root@1234

postgreSQL数据库配置:

vi postgresql.conf

wal_level = logical     # minimal, replica, or logical

# (change requires restart)

max_wal_senders = 10    # max number of walsender processes

# (change requires restart)

max_replication_slots = 10  # max number of replication slots

# (change requires restart)

修改后,重启PostgreSQL数据库。

(二)OGG安装信息

名称

源端OGG

目标端OGG

OGG版本

213000_ggs_Linux_x64_PostgreSQL_64bit.zip

213000_ggs_Linux_x64_MySQL_64bit.zip

安装服务器IP

20.2.127.24

20.2.127.24

OGG_HOME

/data/ogg_pg/

/data/ogg_mysql/

MGR进程

mgr

mgr

EXTRACT进程

ext1

PUMP进程

pump1

REPLICAT进程

rep1

编辑变量:

vi  /etc/profile

export LD_LIBRARY_PATH=/data/ogg_pg/lib:/data/ogg_mysql/lib:$LD_LIBRARY_PATH

alias pg_ggsci='cd /data/ogg_pg; ./ggsci'

alias mysql_ggsci='cd /data/ogg_mysql; ./ggsci'

source  /etc/profile

(三)OGG源端配置

1.启动PG的ggsci

pg_ggsci

2.PG 创建目录

create subdirs

3.配置并启动MGR

--编辑MGR

edit  param  mgr

port 2031

dynamicportlist 2032-2040

purgeoldextracts ./dirdat/*, usecheckpoints,minkeephours 24

AUTORESTART ER *, RETRIES 3, WAITMINUTES 2,RESETMINUTES 10

--启动MGR

start  mgr

--查看MGR状态

Info  mgr

4.登录PG数据库

编辑 odbc.ini

[ODBC Data Sources]

PGDSN=DataDirect 12.4 PostgreSQL Wire Protocol

postgres=DataDirect 12.4 PostgreSQL Wire Protocol

scott=DataDirect 12.4 PostgreSQL Wire Protocol

[ODBC]

IANAAppCodePage=106

InstallDir=/data/ogg_pg

[TESTPDB]

Driver=/data/ogg_pg/lib/GGpsql25.so

Description=DataDirect 12.4 PostgreSQL Wire Protocol

Database=testpdb

HostName=20.2.127.23

PortNumber=5432

LogonID=ogguser

Password=ogguserP2021

TransactionErrorBehavior=2

--登录

dblogin sourcedb testpdb, userid ogguser, password ogguserP2021

5.配置抽取进程

--注册抽取

register extract ext1

--增加抽取进程日志

add ext ext1, tranlog , begin now

add exttrail ./dirdat/e1, ext ext1

--编辑抽取参数

edit param ext1

extract ext1

setenv(PGCLIENTENCODING = "UTF8")

setenv(ODBCINI="/data/ogg_pg/odbc.ini" )

sourcedb testpdb, userid ogguser, password ogguserP2021

exttrail ./dirdat/e1

discardfile ./dirrpt/ext1.dsc

cachemgr  cachesize 1G

container  mem_limit  8G

table public.*;

--启动抽取进程

start  ext1

--查看进程状态

info  ext1

--查看统计信息

stats ext1, total

6.配置投递进程

--编辑投递参数

edit  param  pump1

extract pump1

rmthost 20.2.127.24, mgrport 7809

rmttrail ./dirdat/e1

passthru

cachemgr  cachesize 1G

container  mem_limit 8G

table public.*;

--添加投递进程日志

add extract pump1, exttrailsource ./dirdat/e1

add rmttrail  ./dirdat/e1, extract  pump1

--启动投递进程

start  pump1

--查看投递进程状态

Info  pump1

7.配置源端OGG异构mapping文件

edit params defgen1

defsfile ./dirdef/defgen1.def

sourcedb testpdb, userid ogguser, password ogguserP2021

table public.*;

--将默认生成的文件保存到OGG目录的dirdef目录下

shell ./defgen  paramfile  dirprm/defgen1.prm

将生成的def传输到目标端

shell  scp  ./dirdef/defgen1.def   root@20.2.127.24:/data/ogg_mysql/dirdef/

如果出现提示:说明/data/ogg_mysql/dirdef/这个目录不存在,需要在OGG目标端创建目录后才能会自动生成。

(四)OGG目标端配置

1.启动MySQL的ggsci

mysql_ggsci

2.MySQL 创建目录

create subdirs

3.配置并启动MGR

edit  param  mgr

PORT 7809

DYNAMICPORTLIST 7810-7909

AUTORESTART EXTRACT *,RETRIES 5,WAITMINUTES 3

PURGEOLDEXTRACTS ./dirdat/*,USECHECKPOINTS, MINKEEPDAYS 3

--启动MGR

start  mgr

--查看MGR状态

Info  mgr

4.目标端检查日志表(checkpoint)配置

--登录数据库

dblogin sourcedb test@20.2.127.24:3306 userid root password Root@1234

--添加检查日志表

add  checkpointtable  test.ggs_checkpoint

5.回放(Replicat)进程配置

--添加一个回放进程并与源端pump进程传输过来的trail文件关联,并使用checkpoint表确保数据不丢失

add  replicat rep1, exttrail  ./dirdat/e1, checkpointtable test.ggs_checkpoint

--添加/编辑回放进程配置文件

edit  param  rep1

replicat rep1

targetdb test@20.2.127.24:3306,userid root,password Root@1234

sourcedefs  ./dirdef/defgen1.def

discardfile ./dirrpt/rep1.dsc,append,megabytes 1024

handlecollisions

cachemgr  cachesize  1G

container  mem_limit  8G

map public.*, target test.*;

--启动回放进程

start  rep1

--查看进程状态

info  rep1

(五)常用命令总结

--查看所有OGG进程

info  all

--查看某个OGG进程

info  进程名

info  进程名  detail

--管理OGG进程

start/stop/delete  进程名

--查看进程日志报告

view  report  进程名

--修改进程参数

edit  params  进程名

--修改全局参数

edit  params  ./GLOBAL

--查看统计信息,列出处理的所有记录数

stats  进程名,total

--查看详细处理过的事务记录

info  进程名 showch

--查看进程中最长的10个交易

send  extract  进程名 ,showtrans  thread 1 count 10

--查看当前GoldenGate环境信息

show

--历史命令

history

--执行本地shell

shell  ls

--查看告警日志信息

view  ggsevt

--查看延时,以及文件抽取应用情况

lag  进程名

OGG-Postgres实时同步到MySQL的更多相关文章

  1. 实战:sqlserver 数据实时同步到mysql

    1.安装安装mysqlconnector 2.配置mysqlconnector ODBC数据管理器->系统DSN->加入->mysql ODBC 5.3 ANSI driver-&g ...

  2. mysql实时同步到mssql的解决方案

    数据库在应用程序中是必不可少的部分,mysql是开源的,所以很多人它,mssql是微软的,用在windows平台上是非常方便的,所以也有很多人用它.现在问题来了,如何将这两个数据库同步,即数据内容保持 ...

  3. 基于OGG的Oracle与Hadoop集群准实时同步介绍

    版权声明:本文由王亮原创文章,转载请注明出处: 文章原文链接:https://www.qcloud.com/community/article/220 来源:腾云阁 https://www.qclou ...

  4. 使用Logstash来实时同步MySQL数据到ES

    上篇讲到了ES和Head插件的环境搭建和配置,也简单模拟了数据作测试 本篇我们来实战从MYSQL里直接同步数据 一.首先下载和你的ES对应的logstash版本,本篇我们使用的都是6.1.1 下载后使 ...

  5. Mysql数据实时同步

    企业运维的数据库最常见的是 mysql;但是 mysql 有个缺陷:当数据量达到千万条的时候,mysql 的相关操作会变的非常迟缓; 如果这个时候有需求需要实时展示数据;对于 mysql 来说是一种灾 ...

  6. goldengate 12.3 实现mysql数据及DDL实时同步

    以下环境在mysql 5.7上完成. set mysql_home=mysql安装路径 set path=%mysql_home%\bin;%path% 首先要准备mysql的启动,可参考:http: ...

  7. Mysql 到 Hbase 数据如何实时同步,强大的 Streamsets 告诉你

    很多情况大数据集群需要获取业务数据,用于分析.通常有两种方式: 业务直接或间接写入的方式 业务的关系型数据库同步到大数据集群的方式 第一种可以是在业务中编写代码,将觉得需要发送的数据发送到消息队列,最 ...

  8. logstash-input-jdbc实现mysql 与elasticsearch实时同步(ES与关系型数据库同步)

    引言: elasticsearch 的出现使得我们的存储.检索数据更快捷.方便.但很多情况下,我们的需求是:现在的数据存储在mysql.oracle等关系型传统数据库中,如何尽量不改变原有数据库表结构 ...

  9. mysql数据实时同步到Elasticsearch

    业务需要把mysql的数据实时同步到ES,实现低延迟的检索到ES中的数据或者进行其它数据分析处理.本文给出以同步mysql binlog的方式实时同步数据到ES的思路, 实践并验证该方式的可行性,以供 ...

  10. 基于Canal和Kafka实现MySQL的Binlog近实时同步

    前提 近段时间,业务系统架构基本完备,数据层面的建设比较薄弱,因为笔者目前工作重心在于搭建一个小型的数据平台.优先级比较高的一个任务就是需要近实时同步业务系统的数据(包括保存.更新或者软删除)到一个另 ...

随机推荐

  1. watch监听对象遇坑

    当以下数据,有一个变化,就重新调接口.  formInline: {         needTrain: '',         trainResult: '',         userNameS ...

  2. P2058

    这道不难的题引发了我不少思考 我第一个版本是用vector嵌套vector写成的,后来发现没必要还存储那些已经超过24h的船,完全可以删除前面的船,因此把外层vector换成了deque. 即用deq ...

  3. 【C++】类概念及使用

    类定义中不允许对数据成员初始化 类外只能访问公有部分 类成员必须指定访问属性 类的成员函数是实现对封装的数据成员进行操作的唯一途径 类定义中不允许定义本类对象,因无法预知大小 类与结构形式相同,唯一区 ...

  4. 《OnJava》——11内部类

    内部类 利用内部类,可以将逻辑上存在关联的类组织在一起,而且可以控制一个类在另一个类中的可见性. 内部类和组合不同,内部类是一种代码隐藏机制:将代码放在其他类的内部. 11.1 创建内部类 创建内部类 ...

  5. [转帖]CIDR

    什么是 CIDR? 无类别域间路由 (CIDR) 是一种 IP 地址分配方法,可提高互联网上的数据路由效率.每台连接到互联网的计算机.服务器和最终用户设备都有一个与之关联的唯一编号,称为 IP 地址. ...

  6. [转帖]Oracle中unicode的几种不同字符编码模式

    https://zhuanlan.zhihu.com/p/668340691#   在Oracle中unicode字符集中,存在以下几种不同unicode字符集的编码模式 AL32UTF8 UTF8 ...

  7. [转帖]Jmeter创建简单的HTTP(S)请求测试-3

    在上一章节中,介绍了Jmeter基本的组成组件,那么我们如何使用这些组件去完成测试呢,以下将通过创建一个简单的HTTP(S)测试进行说明,另外,除JDBC请求外,Jmeter进行测试构建的步骤大同小异 ...

  8. 跨主机Docker容器通信的学习

    背景 骨折在家找自己的人比较少. 又因为出不去也没法做运动,就不如将之前没学习深入的地方学习下 先是进行Docker 搭建 redis cluster的处理. 当时发现必须使用 --net=host进 ...

  9. 不想做架构师的Gopher不是好程序员

    最近我们在组队学习<手把手带你写一个web框架>,强制PUSH,坚持每天学习打卡,不完成惩罚发红包的那种. 你别说,效果还真挺好. 昨天学到了架构部分,很受启发,光学不写假把式.(还是得坚 ...

  10. 【如何提高IT运维效率】深度解读京东云基于NLP的运维日志异常检测AIOps落地实践

    作者:京东科技  张宪波.张静.李东江 基于NLP技术对运维日志聚类,从日志角度快速发现线上业务问题 日志在IT行业中被广泛使用,日志的异常检测对于识别系统的运行状态至关重要.解决这一问题的传统方法需 ...