【并发】7、借助redis 实现多线程生产消费队列
1、这是第一个简单的初始化版本,看起来比使用fqueue似乎更好用
package queue.redisQueue; import queue.fqueue.vo.TempVo;
import redis.clients.jedis.Jedis; import java.io.ByteArrayOutputStream;
import java.io.IOException;
import java.io.ObjectOutputStream;
import java.io.OutputStream;
import java.util.UUID; /**
* @ProjectName: cutter-point
* @Package: queue.redisQueue
* @ClassName: RedisQueueProducter
* @Author: xiaof
* @Description: ${description}
* @Date: 2019/6/12 9:44
* @Version: 1.0
*/
public class RedisQueueProducter implements Runnable { private Jedis jedis;
private String queueKey; public RedisQueueProducter(Jedis jedis, String queueKey) {
this.jedis = jedis;
this.queueKey = queueKey;
} @Override
public void run() { while(true) { try {
Thread.sleep(100); //不存在则创建,存在则直接插入
//向redis队列中存放数据
//生成数据
TempVo tempVo = new TempVo();
tempVo.setName(Thread.currentThread().getName() + ",time is:" + UUID.randomUUID());
//序列化为字节
ByteArrayOutputStream arrayOutputStream = new ByteArrayOutputStream();
ObjectOutputStream objectOutputStream = new ObjectOutputStream(arrayOutputStream);
objectOutputStream.writeObject(tempVo);
arrayOutputStream.flush(); try {
int i = 0;
while(i < 10) {
long num = jedis.lpush(queueKey.getBytes(), arrayOutputStream.toByteArray());
if(num > 0) {
System.out.println("成功!");
break;
} ++i;
}
} catch (Exception e) {
System.out.println("失败!");
// long num = jedis.lpush(queueKey.getBytes(), arrayOutputStream.toByteArray());
} } catch (Exception e) {
e.printStackTrace();
}
} }
}
消费
package queue.redisQueue; import queue.fqueue.vo.EventVo;
import redis.clients.jedis.Jedis; import java.io.ByteArrayInputStream;
import java.io.IOException;
import java.io.ObjectInputStream; /**
* @ProjectName: cutter-point
* @Package: queue.redisQueue
* @ClassName: RedisQueueConsume
* @Author: xiaof
* @Description: ${description}
* @Date: 2019/6/12 10:08
* @Version: 1.0
*/
public class RedisQueueConsume implements Runnable { private Jedis jedis;
private String queueKey; public RedisQueueConsume(Jedis jedis, String queueKey) {
this.jedis = jedis;
this.queueKey = queueKey;
} @Override
public void run() { while(true) {
byte bytes[] = null;
try{
bytes = jedis.lpop(queueKey.getBytes());
} catch (Exception e) { } //反序列化对象
if(bytes == null || bytes.length <= 0) {
Thread.yield();
continue;
} ByteArrayInputStream byteArrayInputStream = new ByteArrayInputStream(bytes);
try {
ObjectInputStream objectInputStream = new ObjectInputStream(byteArrayInputStream);
EventVo eventVo = (EventVo) objectInputStream.readObject(); eventVo.doOperater(); } catch (IOException e) {
e.printStackTrace();
} catch (ClassNotFoundException e) {
e.printStackTrace();
}
} }
}
测试,这里我踩了个坑,切记每个线程最好先获取一次资源,也就是
jedisPool.getResource()
不然再并发操作的时候,2个线程同时使用一个连接,会导致服务无法使用
package queue.redisQueue; import org.junit.Before;
import org.junit.Test;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPool;
import redis.clients.jedis.JedisPoolConfig; import java.io.IOException; /**
* @ProjectName: cutter-point
* @Package: queue.redisQueue
* @ClassName: RedisQueueTest
* @Author: xiaof
* @Description: ${description}
* @Date: 2019/6/12 10:09
* @Version: 1.0
*/
public class RedisQueueTest { public static JedisPool jedisPool = null;
public static Jedis jedis; @Before
public void test0() {
//静态块,初始化加载,看来fQueue并不支持多进程操作,但是多线程是支持的
try { if(jedisPool == null) {
JedisPoolConfig jedisPoolConfig = new JedisPoolConfig();
jedisPoolConfig.setMaxTotal(10000);
jedisPoolConfig.setMaxIdle(2000);
jedisPoolConfig.setMaxWaitMillis(2000);
jedisPoolConfig.setTestOnBorrow(true);
jedisPoolConfig.setTestOnReturn(true); jedisPool = new JedisPool(jedisPoolConfig, "127.0.0.1", 17399, 2000, "ZTE$soft987", 0);
} if(jedis == null) {
jedis = jedisPool.getResource();
}
} catch (Exception e) {
e.printStackTrace();
}
} @Test
public void test1() throws InterruptedException { //读写取数据
for(int i = 0; i < 5; ++i) {
System.out.println("输出测试" + i);
RedisQueueProducter producter = new RedisQueueProducter(jedisPool.getResource(), "xiaof");
Thread t = new Thread(producter);
t.start();
} while(true) {
Thread.sleep(1000);
}
} @Test
public void test2() throws InterruptedException { //读写取数据
for(int i = 0; i < 2; ++i) {
System.out.println("输出测试" + i);
//切记一定要重新获取Resource,不然无法并发操作
RedisQueueConsume fqueueConsume = new RedisQueueConsume(jedisPool.getResource(), "xiaof");
Thread t = new Thread(fqueueConsume);
t.setDaemon(true);
t.start();
} while(true) {
Thread.sleep(1000);
}
} }
结果:
【并发】7、借助redis 实现多线程生产消费队列的更多相关文章
- 【并发】8、借助redis 实现多线程生产消费阻塞队列
顾名思义这个就是再消费的时候,不是之前的那哥用yield进行线程切换的操作,而是用线程等待阻塞的方式去执行,说实话我感觉效率不一定有之前那个好, 因为我对这种阻塞队列使用的时候,之前有发现阻塞队列,塞 ...
- 【并发】6、借助FQueue 实现多线程生产消费队列
1.这里先要说一下为什么会想到fqueue,因为这个是一个轻量级的消息队列框架,并且速度很快,用起来很方便,就是这样 当然后期考虑使用redis,这里先上一个fqueue的版本,后面有时间我再吧他改成 ...
- python多线程生产消费
#!/usr/bin/env python# -*- coding: utf-8 -*- from threading import Threadfrom Queue import Queueimpo ...
- 【java并发编程】Lock & Condition 协调同步生产消费
一.协调生产/消费的需求 本文内容主要想向大家介绍一下Lock结合Condition的使用方法,为了更好的理解Lock锁与Condition锁信号,我们来手写一个ArrayBlockingQueue. ...
- redis和memcached有什么区别?redis的线程模型是什么?为什么单线程的redis比多线程的memcached效率要高得多(为什么redis是单线程的但是还可以支撑高并发)?
1.redis和memcached有什么区别? 这个事儿吧,你可以比较出N多个区别来,但是我还是采取redis作者给出的几个比较吧 1)Redis支持服务器端的数据操作:Redis相比Memcache ...
- Python并发编程-生产消费模型
生产消费模型初步 #产生两个子进程,Queue可以在子进程之间传递消息 from multiprocessing import Queue,Process import random import t ...
- kafka如何实现高并发存储-如何找到一条需要消费的数据(阿里)
阿里太注重原理了:阿里问kafka如何实现高并发存储-如何找到一条需要消费的数据,kafka用了稀疏索引的方式,使用了二分查找法,其实很多索引都是二分查找法 二分查找法的时间复杂度:O(logn) ...
- Dyno-queues 分布式延迟队列 之 生产消费
Dyno-queues 分布式延迟队列 之 生产消费 目录 Dyno-queues 分布式延迟队列 之 生产消费 0x00 摘要 0x01 前情回顾 1.1 设计目标 1.2 选型思路 0x02 产生 ...
- 测算Redis处理实际生产请求的QPS/TPS
测算Redis处理实际生产请求的QPS/TPS Benchmark工具 redis发布版本中自带了redis-benchmark性能测试工具; 示例: 使用50个并发连接,发出100000个请求,每个 ...
随机推荐
- PostgreSQL定时自动备份
PostgreSQL定时自动备份 简介 PostgreSQL数据库中未提供数据库的定时备份功能,所以需要结合备份和定时job功能来共同实现. 这里我选取了2种定时job方式,crontab是Linux ...
- C# WinForm MessageBox弹窗倒计时的自动关闭
[DllImport("user32.dll", EntryPoint = "FindWindow")] private static exter ...
- shell按月循环取数
这里有个需求,按月查询,并且要输出每月的开始日期,结束日期. shell脚本如下: #!/bin/sh echo "0个参数时, 按月执行,默认当前月份 " echo " ...
- markdown2的key
分享一个MarkDown2的授权key 邮箱地址: Soar360@live.com 授权秘钥: GBPduHjWfJU1mZqcPM3BikjYKF6xKhlKIys3i1MU2eJHqWGIm ...
- 多线程查询数据,将结果存入到redis中,最后批量从redis中取数据批量插入数据库中【我】
多线程查询数据,将结果存入到redis中,最后批量从redis中取数据批量插入数据库中 package com.xxx.xx.reve.service; import java.util.ArrayL ...
- QWidget中结束QThread线程
QThread安全结束 protected: void closeEvent(QCloseEvent *event); void closeEvent(QCloseEvent *event) { th ...
- python web开发Django连接mysql
需要MYSQL-python,一般情况下直接pip install window系统会报错,所以要去 https://www.lfd.uci.edu/~gohlke/pythonlibs/#lxml ...
- bootstrap 自带字体颜色
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/ ...
- 无法复制CSD内容,复制后出现一行长字符串解决
先打开一个linux文件,然后把复制的内容放到linux文件中即可解决
- PhpStorm (强大的PHP开发环境)10.0.2 附注
最新版PhpStorm 10正式版改进了PHP 7支持,改进代码完成功能. PhpStorm 是最好的PHP开发工具,使用它进行PHP开发将会让你感觉到编程的乐趣. 快乐无极终于从oschina看到了 ...