Proxy下的Prepare透传,让GaussDB(for MySQL)更稳固,性能更卓越
本文分享自华为云社区《Proxy下的Prepare透传,让GaussDB(for MySQL)更稳固,性能更卓越》,作者: GaussDB 数据库 。
1.引言
在很多业务场景下,数据库应用程序处理大量相同的SQL语句——只需更改SQL语句中的文字或变量值。例如:使用相同的SQL模板进行WHERE查询,SET 更新和VALUES 插入等操作。数据库内部收到SQL语句后,需要对语句进行解析,即翻译成机器可执行的语言,对大量相似的语句要做反复的重复翻译。GaussDB(for MySQL)支持Prepare协议,来减少重复翻译的工作量。Prepare协议利用高效的客户端/服务端二进制协议,在预处理语句中使用占位符代替参数值,使每个预处理语句只用解析一次,从而减少数据库的开销。
另外,由于程序员的水平及经验参差不齐,相当大一部分程序员在编写代码的时候,并不会考虑SQL注入风险,使不法分子植入恶意SQL攻击数据库有了可乘之机。SQL注入通过将恶意的SQL查询或更新语句插入到应用的输入参数中,后台数据库做SQL解析时将遭受攻击。由于Prepare协议在输入参数之前已经完成了SQL的预编译,因此将恶意的SQL当做参数插入时,数据库不会重新编译,因此可以防止SQL注入攻击,具备更高的安全性。
综上,Prepare协议可以带来数据库性能和稳固方面的双重收益。
2.Prepare执行流程
Prepare协议分为两个阶段,第一阶段是提交带占位符的预编译SQL,第二阶段是传输数据,将占位符替换为数据进行执行。
Prepare协议应用代码案例:
3.数据库代理(Proxy)场景下的Prepare协议
在“高可用只读,让RDS for MySQL更稳定”一文中,我们曾提及了使用数据库代理(Proxy)实现读写分离及高可靠的方案。GaussDB(for MySQL)同样支持多Proxy,以实现读写分离,自动均衡负载及在只读实例故障时自动路由至其他实例的高可靠和高性能方案。——GaussDB(for MySQL)同样支持多Proxy,以实现读写分离,自动均衡负载及在只读实例故障时自动路由至其他实例,具备高可靠和高性能能力。
数据库代理是位于数据库服务端和应用服务端之间的网络代理服务,其接收应用程序的连接,根据路由情况将SQL请求自动分发到GaussDB(for MySQL)节点上执行。数据库代理(以下简称proxy)具有高可用、高性能、可运维、简单易用等特点,提供自动读写分离、连接池、事务拆分、会话一致性等功能,详细架构图如下:
3.1 Proxy下的Prepare协议实现方案
未采用Proxy时,Prepare协议的两阶段(预编译阶段和执行阶段)直接在数据库节点上执行。Proxy加入后,由于数据库代理会将同一个连接上的不同SQL分发到多个后端数据库上,因此数据库代理需要保存预编译SQL和执行参数的对应关系,并在执行时,传入至数据库节点上执行。目前Proxy场景下的Prepare协议实现方案有两种:
- 文本模式(诞生较早的模式)
- 透传模式(现下流行的模式)
3.1.1 文本模式:
Proxy内部保存预编译SQL的相关信息,将客户端发送的二进制Prepare协议转换为普通文本协议进行传输,即在Proxy侧完成解析和替换,将解析和替换后的SQL发往后端数据库,无需依赖数据库进行解析转换。
优势:
- 实现简单,任何SQL无条件封装成文本SQL直接执行。
- 可以任意路由。
- 当数据库代理和后端数据库连接断开时,客户端无感知,自动兼容容灾场景。
劣势:
- 需要解析类型结构,并拼装原始SQL,对发过来的类型强依赖。例如:执行SELECT * FROM t1 LIMIT ?,当发送String类型数据时,会将其拼接成一个带引号的String值:SELECT * FROM t1 LIMIT ‘10’, 数据库不支持此种SQL语法导致执行报错。
- 由于每条SQL都需要在数据库代理侧进行拼接,且拼接时,Proxy侧需要根据数据类型处理SQL注入问题,代理侧性能损耗严重,容易成为瓶颈。
3.1.2透传模式
透传模式下Proxy侧只做预编译阶段的事情,执行阶段将预编译语句和参数数据直接发往后端数据库。即Proxy侧不执行解析和编译。透传模式有两种实现方式:
广播式透传(多数数据库厂商在用的模式)
广播式透传是将客户端发的预编译语句发送到所有的后端数据库节点,即所有后端数据库节点在接收到参数后都可以解析、编译和执行语句。故发送参数时,只需要任意选择一个已发送预编译语句的节点传输即可。
优势:
- Proxy无需拼装解析SQL。
- Proxy无需维护预编译语句和后端数据库节点之间的映射关系,只需要负责广播和转发,实现简单。
劣势:
- 所有数据库节点承受了同等的压力,同一条预编译语句被多个数据库节点执行,资源存在浪费,某个节点压力大时,还会承受编译语句的压力。
- 当多个节点异常后恢复时,Proxy需要在所有恢复的数据库节点上重新执行预编译语句,才能保证参数和预编译语句之间的对应关系,此时会导致代理的压力过大。
单节点透传(GaussDB(for MySQL)代理使用的模式)
单节点透传是数据库代理将预编译语句根据路由发往数据库其中一个节点,并维护预编译语句和数据库节点之间的映射关系,当执行参数数据时,根据映射关系将参数发往指定节点执行。
优势:
- Proxy无需拼装解析SQL。
- 不会导致后端数据库资源浪费和整体压力过大。
劣势:
客户端存储的预编译语句单点透传到了某数据库节点,在执行阶段需要将客户端输入的参数路由到对应的节点, Proxy需要处理此关系,功能实现复杂,给GaussDB(for MySQL)团队编码带来更大挑战。
4.性能对比
我们对Proxy场景下GaussDB(for MySQL)在文本模式和透传模式下的Prepare协议做了性能测试对比。测试显示透传模式下的性能优于文本模式,性能提升约28%。
执行测试的软硬件规格说明如下表所示:
由于现下条件所限,虽然我们没有测试广播透传模式与单点透传模式间的性能对比,但是从前文的方案对比中不难预见,单点透传模式具有更高的稳固性,因为其更不容易在Proxy侧和数据库节点侧产生资源消耗,带来瓶颈。
5.总结
GaussDB(for MySQL) Proxy下的Prepare协议将原本文本模式的处理方式优化为透传模式,其性能得到很大提升,解决了文本模式中对数据类型强依赖的问题。目前业界多采用广播模式的透传,而GaussDB(for MySQL) Proxy侧则将广播模式优化为单点传输模式,降低了数据库的整体性能损耗。
Proxy下的Prepare透传,让GaussDB(for MySQL)更稳固,性能更卓越的更多相关文章
- Linux系统下祼机安装mysql8.0和docker mysql 8.0 性能差异对比~
环境准备 准备两台服务器环境,配置相同,分别安装Centos7,mysql8.0,docker mysql 8.0 准备测试代码 public class Chat { public static l ...
- 手把手教你开发BLE数据透传应用程序
如何开发BLE数据透传应用程序?什么是BLE service和characteristic?如何开发自己的service和characteristic?如何区分ATT和GATT?有没有什么工具可以对B ...
- 13.多级代理下Nginx透传真实IP
1.基于代理(七层负载均衡)情况下 透传客户端的真实IP 环境: 10.0.0.5 proxy_node1 一级代理 10.0.0.6 proxy_node2 二级代理 10.0.0.7 proxy_ ...
- ESP8266局域网 路由器下作服务器模式串口透传 arduino uno示例 模板参考2
ESP8266服务器模式串口透传编译需要下载8266的库文件后才可以正常 准备工作 下载一个Arduino IDE,下载8266的库文件ESP8266服务器模式串口透传编译 功能说明 1.直接使用路由 ...
- ESP8266局域网智能家居 路由器下作服务器模式串口透传 无线通信控制 arduino uno示例 模板参考
准备工作 下载一个Arduino IDE, 下载8266的库文件 ESP8266服务器模式串口透传编译 功能说明 1.直接使用路由器中转数据 2.手机放热点模式直接传输数据 两者有访问IP地址的差别, ...
- Dubbo透传traceId/logid的一种思路
前言: 随着dubbo的开源, 以及成为apache顶级项目. dubbo越来越受到国内java developer欢迎, 甚至成为服务化自治的首选方案. 随着微服务的流行, 如何跟踪整个调用链, 成 ...
- Xshell5下利用sftp上传下载传输文件
sftp是Secure File Transfer Protocol的缩写,安全文件传送协议.可以为传输文件提供一种安全的加密方法.sftp 与 ftp 有着几乎一样的语法和功能.SFTP 为 SSH ...
- KVM嵌套虚拟化nested之CPU透传
嵌套式虚拟nested是一个可通过内核参数来启用的功能.它能够使一台虚拟机具有物理机CPU特性,支持vmx或者svm(AMD)硬件虚拟化.该特性需要内核升级到Linux 3.X版本 ,所以在cento ...
- ESP8266串口和MQTT服务器消息互传(版本一) 单纯透传+保存WIFI账号信息
目标 制作一个ESP8266串口和MQTT相互透传的小WIFI,可用手机修改其连接的路由器,由此该模块可以任意加载到各种串口传输的单片机上,完成硬件到云端的传输. 1 实物图 2 MQTT网页测试客户 ...
- H3C S5800 MPLS----VPLS 三层路由透传二层网络
一.MPLS 介绍 多协议标签交换(Multi-Protocol Label Switching,MPLS)是新一代的IP高速骨干网络交换标准,由因特网工程任务组(Internet Engineeri ...
随机推荐
- 在 kubernetes 环境中实现 gRPC 负载均衡
前言 前段时间写过一篇 gRPC 的入门文章,在最后还留了一个坑没有填: 也就是 gRPC 的负载均衡问题,因为当时的业务请求量不算大,再加上公司没有对 Istio 这类服务网格比较熟悉的大牛,所以我 ...
- [ABC218F] Blocked Roads 题解
Blocked Roads 题目大意 给定一张 \(n\) 个点,\(m\) 条边的无向图,每条边的边权均为 \(1\).对于每一个 \(i\in [1,m]\) 求出从点 \(1\) 到 \(n\) ...
- 这一大波Offer来的太突然了
今年 10 月份之前,作为双非院校的本科生来说是非常煎熬的,十几年的求学之路,加上猛学编程和猛肝算法,到头来却是"无一次面试机会",背后的辛酸不言而喻. 然而,国庆之后," ...
- 推理(Inference)与预测(Prediction)
在机器学习的背景下,很多人似乎混淆了这两个术语.这篇文章将试图澄清我们所说的这两个词是什么意思,每一个词在哪里有用,以及它们是如何应用的.在这里,我将举几个例子来直观地理解两者之间的区别. 推理和预测 ...
- [Python急救站课程]圆的面积计算
利用公式计算圆的面积程序 radius = 25 # 设置圆的面积 area = 3.1415926 * radius * radius # 输入计算公式 print(area) # 输出计算值 pr ...
- Java Springbool敏感词过工具类滤
Java Springbool敏感词过工具类滤 1. 功能描述利用前缀树这种数据结构,设计并开发出敏感词过滤工具. 2. 构建敏感词表resource/sensitive-words.txt 3. 敏 ...
- k8s-服务网格实战-配置 Mesh(灰度发布)
在上一篇 k8s-服务网格实战-入门Istio中分享了如何安装部署 Istio,同时可以利用 Istio 实现 gRPC 的负载均衡. 今天我们更进一步,深入了解使用 Istio 的功能. 从 Ist ...
- (int argc, char *argv[])在MCU中的调试使用
这里主要讲了基于RTT的 finsh->MSH_CMD_EXPORT 方法,在串口终端中调用自定义函数,并传入参数的方法. 在传统的MCU开发中 当我们需要测试一个函数在传入不同参数时的运算结果 ...
- Why Microservices ?
微服务(Microservices)是一种软件架构设计风格,其中应用程序由一组小型.独立.自治的服务组成,这些服务共同工作以构建整体应用.每个服务都专注于一个特定的业务功能,可以独立部署.扩展和维护. ...
- 10个PPT制作实用小技巧
当制作PPT时,您可以使用一些实用的小技巧来提升演示效果和工作效率.以下是10个PPT制作实用小技巧的详细描述: 第一.选择合适的模板 选择合适的PPT模板非常重要,因为模板可以决定整个演示的风格和视 ...