目录

引言

随着技术的进步,许多企业开始考虑将他们的数据从Oracle迁移到更现代、成本效益更高的数据库系统如MySQL或PostgreSQL。本文将详细描述我们如何进行这样的数据迁移过程。

一、前期准备工作

1.搭建新的MySQL数据库

​ 首先,我们需要设置一个新的MySQL数据库环境,这将作为我们的新数据源。这包括安装MySQL服务器,创建数据库,以及配置适当的用户权限。

2 .建立相应的数据表

​ 我们可以使用PowerDesigner等数据表模型设计工具,将Oracle的模型转换成MySQL模型,然后根据这个模型生成DDL脚本。这些脚本可能需要根据实际情况进行一些修改。例如,我们可能需要调整字段类型以适应MySQL的特性,或者修改索引和约束的定义。

2.1 数据库兼容性分析

2.1.1 字段类型兼容性分析

以下是常用的oracle字段类型和和mysql字段类型的对应关系 ,如果使用特殊的字段类型,需要检查确认字段转换是否符合真实需求。

oracle字段类型 mysql字段类型
varchar2 varchar
number(1,0))->number(2,0) tinyint
number(3,0)->number(4,0) smallint
number(5,0)->number(6,0) mediumint
number(7,0)->number(9,0) int
number(10,0) -> number(18,0) bigint
number(x,y) decimal(x,y)
date datetime
timestamp(6) datetime
char varchar
clob Text 或 Midiumtext 或 longtext

2.1.2 函数兼容性分析

Oracle和MySQL的函数有一定对的相似性也要有一定的区别,下面表格列出了Oracle和MySQL常用函数的对比和区别。

功能 oracle函数 mysql函数 备注
舍入函数 round round 一样
取绝对值 abs abs 一样
返回 expr 的最小或最大值 Max(expr)/Min(expr) Max(expr)/Min(expr) 一样
在字符串 str 中所有出现的字符串 from_str 均被 to_str 替换 REPLACE(str,from_str,to_str) REPLACE(str,from_str,to_str) 一样
截取函数 SUBSTR('abcd',2,2) substring('abcd',2,2) 函数名称不同
获取长度 length(str) char_length() 函数名称不同
转大写 UPPER(str) UPPER(str) 一样
转小写 LOWER(str) LOWER(str) 一样
转字符 TO_CHAR(SQLCODE) date_format/ time_format 函数名称不同
转时间 to_date(str,format) STR_TO_DATE(str,format) 函数名称不同
获取当前时间 SYSDATE now() / SYSDATE() 函数名称不同
求和 SUM(num) SUM(num) 一样
返回两个日期之间的天数 (D1-D2) DATEDIFF(date1,date2)

2.1.3 是否使用存储过程?存储过程的个数?复杂度?

在这次的案例中,没有使用存储过程,因此不需要进行这方面的分析。

2.1.4 是否使用触发器?个数?使用的场景?

公司的数据库使用规范里禁止使用触发器,因此这次也不需要进行这方面的分析。

2.2 建表过程中其他需要注意的事项

  • 自增主键 mysql默认需要有自增主键,而oracle的表可以不加主键
  • 编码格式:oracle的编码格式utf8在mysql需要修改成utf8mb4 要确保所有的表都有一个自增的主键列。
  • 时间字段:时间字段需要精确到时分秒的需要修改为datatime类型。这是因为MySQL的DATETIME类型可以存储到秒级别的时间信息,而Oracle的DATE类型只能存储到天级别的时间信息。
  • 索引格式:索引格式需要按照规范重新定义,最好在测试环境中进行检查和校验。这是因为Oracle和MySQL的索引实现方式有所不同,直接复制索引可能会导致性能问题。

3.为项目配置Oracle和MySQL双数据源

在项目的数据源配置里添加刚刚新建的MySQL数据源配置,并配置双数据源和Mapper的匹配规则。

4.对项目进行改造添加MySQL数据CRUD代码

添加一套针对MuSQL数据库CRUD的Dao和Mapper代码,同时我们写了一个注解以切面的方式实现根据配置实例化Oracle的Dao、MySQl的Dao、同时调用Oracle和MySQLDao的功能。

改造方式:

数据库迁移切换流程:

二、数据迁移操作步骤

数据迁移操作的答题步骤如下图所示:

1、配置初始化

​ 数据库写入的配置设置为只写Oracle数据库。数据库读取的配置设置为从OracleL数据库读取。

2、同步数据检查

​ 查询待迁移的几张表的数据量:

​ select count(1) from table;

3、全量数据迁移

​ 在迁移工具上执行数据迁移脚本SQL

4、检查全量迁移的数据

​ 查询迁移后的数据量,检查是否和需要迁移的数据量能匹配:

5、开启双写

数据库写入的配置设置为Oracle数据库和MYSQl数据库双写

6、获取迁移过程中oracle数据库的增量数据

查询updated_time在全量数据迁移开始时间之后的数据

select * from table whereupdated_time>to_Date('2022/12/16 04:00:00', 'yyyy/mm/dd hh24:mi:ss')

7、增量数据脚本准备

根据监控的增量数据对比,找出需要新增和修改的数据,准备脚本

8、数据补偿

在迁移工具上执行数据补偿脚本SQL

9、核对整体数据

我们有额外的数据核对方案,通过应用读Oracle,再异步读取MySQL并进行对比的方式进行业务表的数据核对。这样可以确保数据的一致性。

10、在灰度环境里验证数据的正确性

将灰度机器的数据库读取的配置设置为从MySQL数据库读取。并在灰度环境验证数据的正确性

11、数据库读取的配置设置为从MySQL数据库读取。

将正式环境的机器的数据库读取的配置设置为从MySQL数据库读取。

12、数据库写入的配置设置为只写MySQL

在生产环境运行一段时间,如果运行平稳的话,就可以关闭数据库双写,将数据库写入配置改为只写MySQL数据库了。

三、数据迁移的经验教训

1. 遇到的坑

在迁移过程中,我们发现了一些Oracle语法与MySQL语法不兼容的地方,有些写法在Oracle中可行,在MySQL中会报错:

(1)子查询语句要取别名

(2)字段别名需要注意,AS后是否为空

(3)条件语句中判断需要注意

(4)oracle转mysql条件语句is null需格外注意,在Oracle中null和空串是一个含义,在mysql中是两个含(只针对字段类型为varchar类型的字段)

Oracle中:
IS_LIMIT_SUCESS is null
Mysql替换为:
(IS_LIMIT_SUCESS is null or IS_LIMIT_SUCESS = '')

从 Oracle 到 MySQL 数据库的迁移之旅的更多相关文章

  1. 在oracle配置mysql数据库的dblink

    本文介绍如何在oracle配置mysql数据库的dblink:虽然dblink使用很占资源:俗称“性能杀手”.但有些场景不得不使用它.例如公司使用数据库是oracle:可能其他部门或者CP合作公司使用 ...

  2. JAVA项目将 Oracle 转 MySQL 数据库转换(Hibernate 持久层)

    项目开发时用的是Oracle数据库,但为了更好的做分布式,做集群,我们要将数据库转成 MySQL! 在数据库迁移中首先要做的事是将 Oracle 的表结构以及数据 克隆到 MySQL 数据库. 这点不 ...

  3. SQL Server 和 Oracle 以及 MySQL 数据库

    推荐:https://www.zhihu.com/question/19866767 三者是目前市场占有率最高(依安装量而非收入)的关系数据库,而且很有代表性.排行第四的DB2(属IBM公司),与Or ...

  4. 一起学微软Power BI系列-使用技巧(1)连接Oracle与Mysql数据库

    说起Oracle数据库,以前没用过Oracle不知道,但是这1年用Oracle后,发现真的是想狂吐槽,特别是那个.NET驱动和链接字符串,特别奇葩.总归是和其他数据库不一样,标新立异,不知道为何.另外 ...

  5. mysql 数据库视图迁移

    最近做一个项目,为了方便查询,建了好多的视图表,正式上线的时候需要把本地数据库迁移到服务器上. 按照常规方法: 1."导出sql","导入sql",发现视图没过 ...

  6. Sqlserver 连接oracle和mysql数据库 已经oracle导入sqlserver表数据

    SQL Server2012创建连接服务器到ORACLE11G 8,百思考不知道原因啊??突然我发现如下:链接服务器—〉访问接口—〉OraOLEDB.Oracle—〉允许进程内没有勾上,但是我想上面的 ...

  7. mysql 数据库数据迁移 The user specified as a definer ('root'@'%') does not exist 解决方法

    从一个数据库数据迁移到本地localhost 程序在调用到数据库的视图时报错,直接在数据库中打开视图时也报错,类似: mysql 1449 : The user specified as a defi ...

  8. MySQL数据库数据迁移到SQLserver

    近期因工作须要.须要将mysql数据库迁移到sqlserver.不过数据迁移.因此相对照较简单.对于mysql迁移到sqlserver,我们须要使用到mysql odbc驱动,然后透过sqlserve ...

  9. 数据库----ORACLE和MYSQL数据库简介

    一.什么是数据库? 数据库(Database---DB)按照组织.储存和管理数据的仓库.(理解以下三个概念)   数据(Data)用来描述事物的记录都可称数据,如文字音乐图像.   数据库系统(Dat ...

  10. oracle sqlserver mysql数据库分页

    1.Mysql的limit用法 在我们使用查询语句的时候,经常要返回前几条或者中间某几行数据,这个时候怎么办呢?不用担心,mysql已经为我们提供了这样一个功能. SELECT * FROM tabl ...

随机推荐

  1. 【Azure 云服务】云服务(经典) 迁移至云服务(外延支持) 的相关疑问

    问题描述 根据微软官方文档说明,云服务(经典)已弃用.所以关于它有以下的一些疑问: 一:迁移时候的停机时间问题? 二:云服务(经典) 与 云服务(外延支持) 的区别是什么? 三:注意事项有那些呢?如 ...

  2. 如何使用 perf 分析 splice 中 pipe 的容量变化

    如何使用 perf 分析 splice 中 pipe 的容量变化 这个文章为了填上一篇文章的坑的,跟踪内核函数本来是准备使用 ebpf 的,但是涉及到了低内核版本,只能使用 kprobe 了. 恰好, ...

  3. Spring Boot+Thymeleaf+MyBatis--推荐一个后端练手极佳的商城项目

    项目整体架构 newbee-mall ├── src/main/java └── ltd.newbee.mall ├── common // 存放相关的常量配置及枚举类 ├── config // 存 ...

  4. [Python] 通过md5去重 筛选文件代码

    这是一些代码记录 这次是帮朋友恢复硬盘,扫描到的结果包含了好多个分区,通过将分区中的数据导出发现很多文件是重复的.所以想到通过python代码去重. 首先把所有分区的图片文件都放到一个文件夹A中,如果 ...

  5. C# 操作国产数据库之【 人大金仓 】之四大模式

    人大金仓优点 人大金仓是国产最主流ORM之一 具有和PgSql一样强悍的性能,同时人大金仓支持了四种数据库模式 : Oracle.PgSql.MySql和SqlServer ,假如你们系统有多种数据库 ...

  6. ConcurrentHashMap的put方法

    使用JDK8 源码: public V put(K key, V value) { return putVal(key, value, false); } /** Implementation for ...

  7. netcore linux ffmpeg 首帧图

    第一步 On CentOS/RHEL 6.*: $ sudo rpm -Uvh http://li.nux.ro/download/nux/dextop/el6/x86_64/nux-dextop-r ...

  8. Windows10 Linux 子系统的骚操作之 Ctrl+Alt+T shell启动终端

    巨硬的 WSL(Windows Subsystem for Linux)是真的好用 但是,由于本人比较喜欢按快捷键.所以一直想着找到Windows上安装的ubuntu.exe文件,搞个快捷方式,然后再 ...

  9. 阿里云Python UDP Server和client基础教程

    壹: socket通信是常用的一种通信方式,熟练掌握,快速的入戏,是一个程序员必备的素质. 贰: 注意:udp和tcp的套接字: 服务端代码: #!/usr/bin/env python3 # -*- ...

  10. struts1之global-forwards

    当你的某个转发要经常用,并且要携带某些数据(request)的时候用全局转发,也就是global-forwards,例如我们在分页的时候,或者得到数据列表的时候.. ForwardAction呢,是为 ...