通过减少 IO 实现性能的优化
原始地址见 这里
本文是工作中一点点简单的思考,不能保证是完全正确的,可能也仅仅是适用于部分场景。
场景 1:获取用户关注的好友列表中,每个好友的名字、头像等信息。
在很多公司中,不同的服务是由不同的人甚至是不同的部门维护的,这中间会通过一些定义好的接口进行交互(这里就用 RPC接口来说明了)。假设我们的服务是维护用户的关注关系,而用户的基本信息会维护在用户服务中。用户服务提供了如下两个接口:
get_user_info(user_id):
return {name='name', avatar='avatar'}
batch_get_user_info(user_ids):
return map{user_id=user_info, user_id2=user_info}
假设我们提供给用户的关注好友列表,开始的时候是先获取用户的所有关注好友,然后依次去获取每个关注好友的信息,则提供给用户的接口 P95 可能会是 300ms,初始伪代码如下:
def get_following_info():
following_ids = [1, 2, 4, 5]
user_infos = []
for f_id in following_ids:
user_infos.append(get_user_info(f_id))
return user_infos
我们知道,和 IO 比起来,一般来说,内存计算要快得多,所以,针对以上代码,我们可以使用批量接口,直接获取到所有的用户信息。
def get_following_info():
following_ids = [1, 2, 4, 5]
return batch_get_user_info(following_ids)
使用了以上代码之后,可能接口的性能会提高到 100 ms,此外,由于网络 IO 的减少,接口的错误也会少了很多。这就是一个优化。
当然,如果一个用户关注了很多的好友,可能没办法一次获取到所有的好友消息,这时候就需要分页了。
场景2: 批量查询表中数据
一般情况下,应用服务器和数据库存储并不是在同一台服务器上,如果要进行数据库的查询操作,很多时候就需要通过网络来进行。
对于 MySQL 来说,数据是按照主键来进行物理存储的,如果表中没有主键,则会设置一个默认的主键。二级索引都会查询到主键之后,再次回表查询。也就是说,根据主键,可以认为更快的进行数据的查询。对于下面的表,如果我们想进行表的扫描,获取到 user_id,则可以首先获取到表的最大和最小主键 ID,然后批量获取两个 ID 之间的数据。
CREATE TABLE `user_name` (
`id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT '自增id',
`user_id` bigint(20) NOT NULL COMMENT ' 用户 id',
`user_name` varchar(64) NOT NULL COMMENT '姓名',
PRIMARY KEY (`id`),
UNIQUE KEY `unq_uid` (`user_id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
select max(id) from `user_name`;
select min(id) from `user_name`;
获取到了最大最小的 ID 之后,就可以批量获取两个 ID 之间的数据了,不过多数情况下,两个 ID 之间是有几百万甚至上亿数据的,这时候就需要在程序中设置一个阈值,避免一下获取太多,反而减缓速度,甚至没法获取到。当然,一次获取数据太多,内存也可能存在不足的问题了。
select user_name from `user_name` where 0 < id < 200;
这样一来,只需要在程序中设置好每次查询的数据量,就可以一次查询多条数据了。
通过减少 IO 实现性能的优化的更多相关文章
- Java性能之优化RPC网络通信
服务框架的核心 大型服务框架的核心:RPC通信 微服务的核心是远程通信和服务治理 远程通信提供了服务之间通信的桥梁,服务治理提供了服务的后勤保障 服务的拆分增加了通信的成本,因此远程通信很容易成为系统 ...
- python面试总结3(性能分析优化,GIl常考题)
python性能分析和优化,GIL常考题 什么是Cpython GIL Cpython解释器的内存管理并不是线程安全的 保护多线程情况下对python对象访问 Cpython使用简单的锁机制避免多个线 ...
- [转帖]Java虚拟机(JVM)体系结构概述及各种性能参数优化总结
Java虚拟机(JVM)体系结构概述及各种性能参数优化总结 2014年09月11日 23:05:27 zhongwen7710 阅读数 1437 标签: JVM调优jvm 更多 个人分类: Java知 ...
- Windows五种IO模型性能分析和Linux五种IO模型性能分析
Windows五种IO模型性能分析和Linux五种IO模型性能分析 http://blog.csdn.net/jay900323/article/details/18141217 http://blo ...
- Java性能 -- Lock优化
Lock / synchronized Lock锁的基本操作是通过乐观锁实现的,由于Lock锁也会在阻塞时被挂起,依然属于悲观锁 synchronized Lock 实现方式 JVM层实现 Jav ...
- 在ASP.NET Core中用HttpClient(四)——提高性能和优化内存
到目前为止,我们一直在使用字符串创建请求体,并读取响应的内容.但是我们可以通过使用流提高性能和优化内存.因此,在本文中,我们将学习如何在请求和响应中使用HttpClient流. 什么是流 流是以文件. ...
- fir.im Weekly - APP 性能监测优化 二三事
每一个成功的 App,都拥有强大的性能体验.本期 fir.im Weekly 整理了微信读书.美团外卖. 天猫.美团点评技术团队的关于性能监测优化方面策略和工具的分享,一起来看看. 微信读书 iOS ...
- paip.提升性能---mysql 优化cpu多核以及lan性能的关系.
paip.提升性能---mysql 优化cpu多核以及lan性能的关系. 作者Attilax 艾龙, EMAIL:1466519819@qq.com 来源:attilax的专栏 地址:http:/ ...
- php性能效率优化
[size=5][color=Red]php性能效率优化[/color][/size] 最近在公司一边自学一边写PHP程序,由于公司对程序的运行效率要求很高,而自己又是个新手,一开始就注意程序的效率很 ...
随机推荐
- ZR#1012
## ZR#1012 blog咕咕咕了好久,开始补. 解法: 一个很显然的性质, $ x $ 只能转移到 $ x+1 $ 或者 $ 2x $ 处,所以我们可以以此性质建图,即 $ x $ 向 $ x ...
- Android中为何使用Log而不用System.out
Android中为何使用Log而不用System.out System.out除了使用方便一点以外有以下缺点:日志不可控制,打印时间无法确定,不能添加过滤器,日志没有级别之分. 使用Log比如想打印一 ...
- 任意模数FFT
任意模数FFT 这是一个神奇的魔法,但是和往常一样,在这之前,先 \(\texttt{orz}\ \color{orange}{\texttt{matthew99}}\) 问题描述 给定 2 个多项式 ...
- java代码拼写sql
java后台 String zffwdm=map.get("zffwmc")==null?"":map.get("zffwmc"); ...
- CSS Sticky 其实很简单
为什么要写这篇文章 Sticky 也不是新知识点了,写这篇文章的原因是由于最近在实现效果的过程中,发现我对 Sticky 的理解有偏差,代码执行结果不如预期.决定写篇文章重新学习一次. 什么是 Sti ...
- Mybatis异常-java.lang.IllegalArgumentException: invalid comparison:java.util.Date and java.lang.String
原因:在Mapper.xml中对非字符串类型的数据进行了是否为空判断,如date类型的数据Create_Date != '',decimal类型的数据price != ''都会报这个错误 只有字符串才 ...
- 11.linux dns服务器建立和安装apache
dns服务器建立 1.安装bind建立dns服务器 yum install bind -y 2.安装好修改配置文件:vim /etc/named.conf 修改: listen-on ...
- Fish Lang
fish lang是一门基于函数的,可定制语法的编程语言. 为什么要设计fish这门语言 目前的编程语言语法都是固定死的,无法很容易的移除一种语法.fish语言一切语法由函数定义,语言只提供一个函数的 ...
- 判断x的m次方和y的m次方末尾三位数是否相等
/*==============================================对于任意给定的两个正整数x和y,是否存在一个不超过100的正整数m使得x^m与y^m的末尾三位数相等呢? ...
- 【转】Django继承AbstractUser新建User Model时出现auth.User.groups: (fields.E304)错误
错误详情如下: (venv) D:\workspace\music>python manage.py makemigrations SystemCheckError: System check ...