SpringBoot数据库管理 - 用Liquibase对数据库管理和迁移？

Liquibase是一个用于用于跟踪、管理和应用数据库变化的开源工具，通过日志文件(changelog)的形式记录数据库的变更(changeset)，然后执行日志文件中的修改，将数据库更新或回滚(rollback)到一致的状态。它的目标是提供一种数据库类型无关的解决方案，通过执行schema类型的文件来达到迁移。本文主要介绍SpringBoot与Liquibase的集成。@pdai

SpringBoot数据库管理 - 用Liquibase对数据库管理和迁移？

知识准备

需要理解什么是Liquibase，它的出现是要解决什么问题。

什么是Liquibase？这类工具要解决什么问题？

Liquibase是一个用于用于跟踪、管理和应用数据库变化的开源工具，通过日志文件(changelog)的形式记录数据库的变更(changeset)，然后执行日志文件中的修改，将数据库更新或回滚(rollback)到一致的状态。它的目标是提供一种数据库类型无关的解决方案，通过执行schema类型的文件来达到迁移。

其优点主要有以下：

支持几乎所有主流的数据库，目前支持包括 Oracle/Sql Server/DB2/MySql/Sybase/PostgreSQL等各种数据库，这样在数据库的部署和升级环节可帮助应用系统支持多数据库；
支持版本控制，这样就能支持多开发者的协作维护；
日志文件支持多种格式，如XML, YAML, JSON, SQL等；
提供变化应用的回滚功能，可按时间、数量或标签（tag）回滚已应用的变化。通过这种方式，开发人员可轻易的还原数据库在任何时间点的状态
支持多种运行方式，如命令行、Spring集成、Maven插件、Gradle插件等。

为何会出现Liquibase这类工具呢？

在实际上线的应用中，随着版本的迭代，经常会遇到需要变更数据库表和字段，必然会遇到需要对这些变更进行记录和管理，以及回滚等等；同时只有脚本化且版本可管理，才能在让数据库实现真正的DevOps（自动化执行 + 回滚等）。在这样的场景下Liquibase等工具的出现也就成为了必然。

Liquibase有哪些概念？是如何工作的？

工作流程：将SQL变更记录到changeset，多个changeset变更组成了日志文件(changelog)，liquibase将changelog更新日志文件同步到指定的RDBMS中。

日志文件(databaseChangeLog)支持多种格式，如XML, YAML, JSON, SQL; 我们以xml为例，看下相关配置

<?xml version="1.0" encoding="UTF-8"?>

<databaseChangeLog

	xmlns="http://www.liquibase.org/xml/ns/dbchangelog"

	xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"

	xmlns:ext="http://www.liquibase.org/xml/ns/dbchangelog-ext"

	xmlns:pro="http://www.liquibase.org/xml/ns/pro"

	xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog

		http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-4.9.0.xsd

		http://www.liquibase.org/xml/ns/dbchangelog-ext http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-ext.xsd

		http://www.liquibase.org/xml/ns/pro http://www.liquibase.org/xml/ns/pro/liquibase-pro-4.9.0.xsd">

    <changeSet id="1" author="bob">

        <comment>A sample change log</comment>

        <createTable/>

    </changeSet>

    <changeSet id="2" author="bob" runAlways="true">

        <alterTable/>

    </changeSet>

    <changeSet id="3" author="alice" failOnError="false" dbms="oracle">

        <alterTable/>

    </changeSet>

    <changeSet id="4" author="alice" failOnError="false" dbms="!oracle">

        <alterTable/>

    </changeSet>

</databaseChangeLog>

简单示例

这里主要介绍基于SpringBoot集成liquibase来管理数据库的变更。

POM依赖

Maven 包的依赖，主要包含mysql驱动, JDBC(这里spring-boot-starter-data-jpa包含了jdbc包，当然直接引入jdbc包也行)，以及liquibase包。

<dependency>

    <groupId>mysql</groupId>

    <artifactId>mysql-connector-java</artifactId>

    <version>8.0.28</version>

</dependency>

<dependency>

    <groupId>com.github.wenhao</groupId>

    <artifactId>jpa-spec</artifactId>

    <version>3.1.0</version>

</dependency>

<dependency>

    <groupId>org.springframework.boot</groupId>

    <artifactId>spring-boot-starter-data-jpa</artifactId>

</dependency>

<dependency>

    <groupId>org.liquibase</groupId>

    <artifactId>liquibase-core</artifactId>

    <version>4.9.1</version>

</dependency>

yml配置

SpringBoot AutoConfig默认已经包含了对liquibase的配置，在spring.liquibase配置下。

基础的配置，可以直接使用如下（主要是指定change-log的位置，默认的位置是classpath:/db/changelog/db.changelog-master.yaml）：

spring:

  datasource:

    url: jdbc:mysql://localhost:3306/test_db_liquibase?useSSL=false&autoReconnect=true&characterEncoding=utf8

    driver-class-name: com.mysql.cj.jdbc.Driver

    username: root

    password: bfXa4Pt2lUUScy8jakXf

  liquibase:

    enabled: true

    # 如下配置是被spring.datasource赋值的，所以可以不配置

#    url: jdbc:mysql://localhost:3306/test_db_liquibase?useSSL=false&autoReconnect=true&characterEncoding=utf8

#    user: root

#    password: bfXa4Pt2lUUScy8jakXf

    change-log: classpath:/db/changelog/db.changelog-master.yaml

在开发时，更多的配置可以从如下SpringBoot AutoConfig中找到。

新增changelog

XML方式固然OK，不过依然推荐使用yml格式。

databaseChangeLog:

  - changeSet:

      id: 20220412-01

      author: pdai

      changes:

        - createTable:

            tableName: person

            columns:

              - column:

                  name: id

                  type: int

                  autoIncrement: true

                  constraints:

                    primaryKey: true

                    nullable: false

              - column:

                  name: firstname

                  type: varchar(50)

              - column:

                  name: lastname

                  type: varchar(50)

                  constraints:

                    nullable: false

              - column:

                  name: state

                  type: char(2)

  - changeSet:

      id: 20220412-02

      author: pdai

      changes:

        - addColumn:

            tableName: person

            columns:

              - column:

                  name: username

                  type: varchar(8)

  - changeSet:

      id: 20220412-03

      author: pdai

      changes:

        - addLookupTable:

            existingTableName: person

            existingColumnName: state

            newTableName: state

            newColumnName: id

            newColumnDataType: char(2)

测试

启动springBootApplication, 我们可以看到如下的几个changeSet被依次执行

2022-04-12 20:41:20.591  INFO 8476 --- [           main] liquibase.lockservice                    : Successfully acquired change log lock

2022-04-12 20:41:20.737  INFO 8476 --- [           main] liquibase.changelog                      : Creating database history table with name: test_db_liquibase.DATABASECHANGELOG

2022-04-12 20:41:20.783  INFO 8476 --- [           main] liquibase.changelog                      : Reading from test_db_liquibase.DATABASECHANGELOG

Running Changeset: classpath:/db/changelog/db.changelog-master.yaml::20220412-01::pdai

2022-04-12 20:41:20.914  INFO 8476 --- [           main] liquibase.changelog                      : Table person created

2022-04-12 20:41:20.914  INFO 8476 --- [           main] liquibase.changelog                      : ChangeSet classpath:/db/changelog/db.changelog-master.yaml::20220412-01::pdai ran successfully in 53ms

Running Changeset: classpath:/db/changelog/db.changelog-master.yaml::20220412-02::pdai

2022-04-12 20:41:20.952  INFO 8476 --- [           main] liquibase.changelog                      : Columns username(varchar(8)) added to person

2022-04-12 20:41:20.952  INFO 8476 --- [           main] liquibase.changelog                      : ChangeSet classpath:/db/changelog/db.changelog-master.yaml::20220412-02::pdai ran successfully in 31ms

Running Changeset: classpath:/db/changelog/db.changelog-master.yaml::20220412-03::pdai

2022-04-12 20:41:21.351  INFO 8476 --- [           main] liquibase.changelog                      : Lookup table added for person.state

2022-04-12 20:41:21.351  INFO 8476 --- [           main] liquibase.changelog                      : ChangeSet classpath:/db/changelog/db.changelog-master.yaml::20220412-03::pdai ran successfully in 389ms

2022-04-12 20:41:21.382  INFO 8476 --- [           main] liquibase.lockservice                    : Successfully released change log lock

查看数据库，你会发现数据已经变更

那我们如果重新启动这个SpringBootApplication，会怎么呢？

很显然，因为databasechangelog表中已经有相关执行记录了，所以将不再执行变更

2022-04-12 20:49:01.566  INFO 9144 --- [           main] liquibase.lockservice                    : Successfully acquired change log lock

2022-04-12 20:49:01.761  INFO 9144 --- [           main] liquibase.changelog                      : Reading from test_db_liquibase.DATABASECHANGELOG

2022-04-12 20:49:01.812  INFO 9144 --- [           main] liquibase.lockservice                    : Successfully released change log lock

进一步理解

通过几个问题，进一步理解。

比较好的changelog的实践？

简单而言：yml格式 + sql-file方式

执行sqlFile格式的changeSet，如下

执行的日志如下

2022-04-12 21:00:28.198  INFO 17540 --- [           main] liquibase.lockservice                    : Successfully acquired change log lock

2022-04-12 21:00:28.398  INFO 17540 --- [           main] liquibase.changelog                      : Reading from test_db_liquibase.DATABASECHANGELOG

Running Changeset: classpath:/db/changelog/db.changelog-master.yaml::20220412-04::pdai

2022-04-12 21:00:28.516  INFO 17540 --- [           main] liquibase.changelog                      : SQL in file classpath:/db/changelog/db.changelog-20220412-04.sql executed

2022-04-12 21:00:28.516  INFO 17540 --- [           main] liquibase.changelog                      : ChangeSet classpath:/db/changelog/db.changelog-master.yaml::20220412-04::pdai ran successfully in 83ms

2022-04-12 21:00:28.532  INFO 17540 --- [           main] liquibase.lockservice                    : Successfully released change log lock

执行后，查看变更记录

数据表user表已经创建并插入一条数据

除了addColumn,addTable还有哪些changeType呢？

除了addColumn,addTable还有哪些changeType呢?

与此同时，还支持如下changeType：

此外，还支持执行command

changeSet:

  id:  executeCommand-example

  author:  liquibase-docs

  changes:

  -  executeCommand:

      args:

      -  arg:

          value:  -out

      -  arg:

          value:  -param2

      executable:  mysqldump

      os:  Windows 7

      timeout:  10s

比如，回滚的操作可以通过如下command进行

再比如，我们可以通过Liquibase来生成相关差异，再制作成changeSet，最后部署。

示例源码

https://github.com/realpdai/tech-pdai-spring-demos

参考文章

https://docs.liquibase.com