通过减少 IO 实现性能的优化
原始地址见 这里
本文是工作中一点点简单的思考,不能保证是完全正确的,可能也仅仅是适用于部分场景。
场景 1:获取用户关注的好友列表中,每个好友的名字、头像等信息。
在很多公司中,不同的服务是由不同的人甚至是不同的部门维护的,这中间会通过一些定义好的接口进行交互(这里就用 RPC接口来说明了)。假设我们的服务是维护用户的关注关系,而用户的基本信息会维护在用户服务中。用户服务提供了如下两个接口:
get_user_info(user_id):
return {name='name', avatar='avatar'}
batch_get_user_info(user_ids):
return map{user_id=user_info, user_id2=user_info}
假设我们提供给用户的关注好友列表,开始的时候是先获取用户的所有关注好友,然后依次去获取每个关注好友的信息,则提供给用户的接口 P95 可能会是 300ms,初始伪代码如下:
def get_following_info():
following_ids = [1, 2, 4, 5]
user_infos = []
for f_id in following_ids:
user_infos.append(get_user_info(f_id))
return user_infos
我们知道,和 IO 比起来,一般来说,内存计算要快得多,所以,针对以上代码,我们可以使用批量接口,直接获取到所有的用户信息。
def get_following_info():
following_ids = [1, 2, 4, 5]
return batch_get_user_info(following_ids)
使用了以上代码之后,可能接口的性能会提高到 100 ms,此外,由于网络 IO 的减少,接口的错误也会少了很多。这就是一个优化。
当然,如果一个用户关注了很多的好友,可能没办法一次获取到所有的好友消息,这时候就需要分页了。
场景2: 批量查询表中数据
一般情况下,应用服务器和数据库存储并不是在同一台服务器上,如果要进行数据库的查询操作,很多时候就需要通过网络来进行。
对于 MySQL 来说,数据是按照主键来进行物理存储的,如果表中没有主键,则会设置一个默认的主键。二级索引都会查询到主键之后,再次回表查询。也就是说,根据主键,可以认为更快的进行数据的查询。对于下面的表,如果我们想进行表的扫描,获取到 user_id,则可以首先获取到表的最大和最小主键 ID,然后批量获取两个 ID 之间的数据。
CREATE TABLE `user_name` (
`id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT '自增id',
`user_id` bigint(20) NOT NULL COMMENT ' 用户 id',
`user_name` varchar(64) NOT NULL COMMENT '姓名',
PRIMARY KEY (`id`),
UNIQUE KEY `unq_uid` (`user_id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
select max(id) from `user_name`;
select min(id) from `user_name`;
获取到了最大最小的 ID 之后,就可以批量获取两个 ID 之间的数据了,不过多数情况下,两个 ID 之间是有几百万甚至上亿数据的,这时候就需要在程序中设置一个阈值,避免一下获取太多,反而减缓速度,甚至没法获取到。当然,一次获取数据太多,内存也可能存在不足的问题了。
select user_name from `user_name` where 0 < id < 200;
这样一来,只需要在程序中设置好每次查询的数据量,就可以一次查询多条数据了。
通过减少 IO 实现性能的优化的更多相关文章
- Java性能之优化RPC网络通信
服务框架的核心 大型服务框架的核心:RPC通信 微服务的核心是远程通信和服务治理 远程通信提供了服务之间通信的桥梁,服务治理提供了服务的后勤保障 服务的拆分增加了通信的成本,因此远程通信很容易成为系统 ...
- python面试总结3(性能分析优化,GIl常考题)
python性能分析和优化,GIL常考题 什么是Cpython GIL Cpython解释器的内存管理并不是线程安全的 保护多线程情况下对python对象访问 Cpython使用简单的锁机制避免多个线 ...
- [转帖]Java虚拟机(JVM)体系结构概述及各种性能参数优化总结
Java虚拟机(JVM)体系结构概述及各种性能参数优化总结 2014年09月11日 23:05:27 zhongwen7710 阅读数 1437 标签: JVM调优jvm 更多 个人分类: Java知 ...
- Windows五种IO模型性能分析和Linux五种IO模型性能分析
Windows五种IO模型性能分析和Linux五种IO模型性能分析 http://blog.csdn.net/jay900323/article/details/18141217 http://blo ...
- Java性能 -- Lock优化
Lock / synchronized Lock锁的基本操作是通过乐观锁实现的,由于Lock锁也会在阻塞时被挂起,依然属于悲观锁 synchronized Lock 实现方式 JVM层实现 Jav ...
- 在ASP.NET Core中用HttpClient(四)——提高性能和优化内存
到目前为止,我们一直在使用字符串创建请求体,并读取响应的内容.但是我们可以通过使用流提高性能和优化内存.因此,在本文中,我们将学习如何在请求和响应中使用HttpClient流. 什么是流 流是以文件. ...
- fir.im Weekly - APP 性能监测优化 二三事
每一个成功的 App,都拥有强大的性能体验.本期 fir.im Weekly 整理了微信读书.美团外卖. 天猫.美团点评技术团队的关于性能监测优化方面策略和工具的分享,一起来看看. 微信读书 iOS ...
- paip.提升性能---mysql 优化cpu多核以及lan性能的关系.
paip.提升性能---mysql 优化cpu多核以及lan性能的关系. 作者Attilax 艾龙, EMAIL:1466519819@qq.com 来源:attilax的专栏 地址:http:/ ...
- php性能效率优化
[size=5][color=Red]php性能效率优化[/color][/size] 最近在公司一边自学一边写PHP程序,由于公司对程序的运行效率要求很高,而自己又是个新手,一开始就注意程序的效率很 ...
随机推荐
- Python 之pyinstaller模块打包成exe文件
一.安装pyinstaller pip install pyinstaller 二.下载安装pyinstaler运行时所需要的windows扩展pywin32 https://github.com/m ...
- git 的使用方法以及要注意的地方~
1.假如你在一个分支,非master分支,例如avatar,在你修改之前一定要 get merge master,git pull,再开始写代码.如果改好了,也要先git merge master,g ...
- boosting与随机森林
本文原创,转载请注明出处 http://www.cnblogs.com/gufeiyang 本文主要分两部分,boosting 与 随机森林. “三个臭皮匠顶一个诸葛亮”是说三个不聪明的人集合在一 ...
- Prometheus初体验(三)
一.安装部署 Prometheus基于Golang编写,编译后的软件包,不依赖于任何的第三方依赖.用户只需要下载对应平台的二进制包,解压并且添加基本的配置即可正常启动Prometheus Server ...
- 第06组 团队Git现场编程实战
一.组员职责分工 队员姓名 主要分工 朱庆章 测评福州最受欢迎的商圈(参考人气) 陈梦雪 测评福州最受欢迎的商圈(参考人气) 关文涛 分别测评福州人均消费50以下,50-100.100-200.200 ...
- iframe的src指向的内容不刷新
想任何一种办法让iframe的src的值有变化就可以了 $("#h5Content").attr("src","${h5.url}"+&qu ...
- js 对象 toJSON 方法
浅谈 js 对象 toJSON 方法 前些天在<浅谈 JSON.stringify 方法>说了他的正确使用姿势,今天来说下 toJSON 方法吧.其实我觉得这货跟 toString 一 ...
- 《Linux设备驱动程序》第三版 scull编译 Ubuntu18.04
0 准备工作. 0.0 系统环境:Ubuntu18.04.1 amd64. 0.1 安装必要软件包 1 sudo apt install build-essential bison flex libs ...
- 回声消除(AEC)原理
一.前言 因为工作的关系,笔者从2004年开始接触回声消除(Echo Cancellation)技术,而后一直在某大型通讯企业从事与回声消除技术相关的工作,对回声消除这个看似神秘.高端和难以理解的技术 ...
- 004-行为型-01-策略模式(Strategy)
一.概述 定义了一系列算法,并将每个算法封装起来,使他们可以相互替换,且算法的变化不会影响到使用算法的客户.需要设计一个接口,为一系列实现类提供统一的方法,多个实现类实现该接口,设计一个抽象类(可有可 ...