背景介绍

    这几年一直在摸索一种框架,足够简单,又能应付很多高并发高性能的需求。研究过一些框架思想如DDD DCI,也实践过CQRS框架。

但是总觉得复杂度高,门槛也高,自己学都吃力,如果团队新人更难接受。所以自从写了最简单的BaseContext类之后很长一段时间内都没有加任何代码。(basecontext只有10行内代码)

之前有个秒杀业务要做,用了MVC的异步Action队列处理请求,感觉还是蛮不错,所以跟另外一位同事一同把这个功能整合进这个baseContext里面,既没有用第三方的Queue(如 RabbitMQ )也没有另外开一个宿主进程Exe。

总之“simple is good!”

EasyQ

EasyQ是一个轻量级的专门用来处理高并发HTTP请求的框架。
应用MVC异步Action机制实现了相同业务单线程排队处理,没有用任何读写锁。
可以指定某一种业务创建一条队列,也可以指定某一种业务+某一种数据ID作为一条队列。
如秒杀商品业务,可以指定所有秒杀业务都使用单线程排队处理,避免脏读 脏写。
但是这样做的话,所有秒杀商品都会进入排队,显然是不科学的。
所以扩展一种方式是: 秒杀业务+商品ID 作为队列名。
当然不止商品ID,也可以是用户ID,商品分类等任意字符串作为队列名的后缀。
  GITHUB地址:https://github.com/BTteam/EasyQ

如能占用您一点时间,提出一点改进的意见,不胜感激!

使用说明

HomeController 是入口页面,需要继承AsyncController,使用MVC的异步Action
BT.Contexts项目放置业务代码,所有Context需要继承抽象类QueueBaseContext,并且实现3个方法
1,InitData 初始化数据,数据库获取数据的方法应该写在此处
2,Interact 交互操作,数据模型之间的交互,业务代码的各种计算、判断等
3,Persist 持久化操作,数据保存到数据库的操作应当写在此处。
这3个方法的默认执行步骤非常简单 1=》2=》3
  这个类是封装了队列、线程的操作,是EasyQ的核心类。
在HomeController使用Context时,首先应该分开2个Action 如 TestAsync TestCompleted。这是MVC异步Action的机制决定
TestAsync用来启动异步,TestCompleted是异步完成后的回调操作。这2个方法必须成对出现。具体原理请参考MSDN

调用是URL为:{host}/home/text 注意Async后缀在路由时会被去掉。
SetAsync方法必须传入AsyncManager对象,key是可选参数,如上所述是用来细分队列的。
如果想根据商品ID生成队列,不同商品的秒杀行为在不同的队列中排队,就在此处用SetAsync传入key是商品ID

  1. public void TestAsync(string key)
  2. {
  3. //GET DATA
  4. TestContext context = new TestContext();
  5. context.SetAsync(AsyncManager, key);//参数为产品队列标识
  6. context.Execute();
  7. }

再看回调方法

  1. public ActionResult TestCompleted()
  2. {
  3. var result = AsyncManager.Parameters["response"];
  4.  
  5. return Content(JsonConvert.SerializeObject( result));
  6. }

所有Context执行后的结果以Parameters["response"]返回

核心解析

QueueBaseContext类

  1. public abstract class QueueBaseContext:BaseContext
  2. {
  3. private ILog log = LogManager.GetLogger(typeof(QueueBaseContext));
  4. private static ConcurrentDictionary<string, ConcurrentQueue<AsyncManager>> killQueues = new ConcurrentDictionary<string, ConcurrentQueue<AsyncManager>>();
  5. private static ConcurrentDictionary<string, Task> taskDic = new ConcurrentDictionary<string, Task>();
  6. //场景使用步骤 编写好 1.Interact() 2.Persist() 3.在api调用初始场景后,调用QueueContextAsync()
  7. private AsyncManager AsyncManager;
  8. private string quenekey;
  9.  
  10. public void SetAsync(AsyncManager _AsyncManager)
  11. {
  12. SetAsync(_AsyncManager, "");
  13. }
  14. public void SetAsync(AsyncManager _AsyncManager, string _quenekey)
  15. {
  16. quenekey = _quenekey;
  17. this.AsyncManager = _AsyncManager;
  18. }
  19.  
  20. public abstract void InitData();
  21. public override string Execute()
  22. {
  23. if (AsyncManager == null)
  24. {
  25. throw new Exception("必须调用SetAsync 设置AsyncManager对象");
  26.  
  27. }
  28. var runtimeType= this.GetType();
  29. var qKey = runtimeType.FullName + quenekey;
  30. // typeof().
  31. AsyncManager.OutstandingOperations.Increment();
  32. //开一个队列 判断是否有队列
  33. if (killQueues.ContainsKey(qKey) == false)
  34. {
  35. killQueues.TryAdd(qKey, new ConcurrentQueue<AsyncManager>(new[] {AsyncManager}));
  36. }
  37. else
  38. {
  39. killQueues[qKey].Enqueue(AsyncManager);
  40.  
  41. }
  42. Action ac = () =>
  43. {
  44.  
  45. while (killQueues[qKey].IsEmpty == false)
  46. {
  47. // Thread.Sleep(15000);
  48. log.DebugFormat("while 进来了 killQueueitemCount length:{0} ,Q num{1}", killQueues[qKey].Count, killQueues.Count);
  49. AsyncManager item;
  50. killQueues[qKey].TryDequeue(out item);//取出队列的一个进行处理
  51. try
  52. {
  53.  
  54. InitData();
  55. if (Interact())//对应业务逻辑
  56. Persist();
  57.  
  58. AsyncManager.Parameters["response"] = new { Code = this.StatusCode};
  59. AsyncManager.OutstandingOperations.Decrement();
  60. }
  61. catch (Exception e)
  62. {
  63. log.ErrorFormat("出错,e msg:{0} ,trace:{1}", e.Message, e.StackTrace);
  64. AsyncManager.Parameters["response"] = new { Code = ResponseCode.DataError, Description = "服务器错误,请重试" };
  65. AsyncManager.OutstandingOperations.Decrement();
  66. }
  67. }
  68. //remove q
  69. };
  70. if (taskDic.ContainsKey(qKey) == false)
  71. {
  72. taskDic.TryAdd(qKey, Task.Factory.StartNew(ac));
  73. }
  74. if (taskDic[qKey].IsCompleted || taskDic[qKey].IsFaulted)
  75. {
  76. taskDic[qKey] = Task.Factory.StartNew(ac);
  77. }
  78. return "";
  79. }
  80.  
  81. }

构建了2个字典

  1. killQueues :队列名作为KEY 队列实例作为Value
    taskDic:队列名作为KEY 队列指定的执行Task作为Value
  2.  
  3. 处理逻辑是创建一个Task 循环队列每次取出一个项,执行业务操作。直到队列为空。
    如果在上一个Task运行过程中有新的请求加入,则不需要新建Task,只需要继续加入队列尾部。上一个Task会执行对应的业务操作。
    队列中的每一个元素代表一次业务操作,操作完毕之后会调用
  1. AsyncManager.OutstandingOperations.Decrement();
    用来返回异步结果给请求线程。这样HTTP请求结果就返回给用户了。不需要等到队列完毕。
  1. qKey可以设置任意字符串,用来细分队列名称。
  2.  
  3. 队列最好用
  1. ConcurrentQueue
    因为在入列出列操作时处于多线程共享队列,必须要用线程安全的队列类。

存在缺陷

1 目前是单点设计,只能在单机上运行,还在研究横向扩展。
2 性能还需要优化
3 由于使用异步Action 导致每个Action必须一分为二。

[超简洁]EasyQ框架-应对WEB高并发业务(秒杀、抽奖)等业务的更多相关文章

  1. 详解应对平台高并发的分布式调度框架TBSchedule

    转载: 详解应对平台高并发的分布式调度框架TBSchedule

  2. 针对web高并发量的处理

    针对web高并发量的处理 针对高并发量的处理 一个老生常谈的话题了 至于需要运维支持的那些cdn.负载均衡神马的就不赘述了 你们都懂的 虫子在此博文只讲一些从程序角度出发的一些不错的解决方案. 至于从 ...

  3. 手把手让你实现开源企业级web高并发解决方案(lvs+heartbeat+varnish+nginx+eAccelerator+memcached)

    原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 .作者信息和本声明.否则将追究法律责任.http://freeze.blog.51cto.com/1846439/677348 此文凝聚 ...

  4. SSM框架学习之高并发秒杀业务--笔记3-- Service层

    上一节中已经包DAO层编写完成了,所谓的DAO层就是所有和数据访问的部分都应该放在这个层里,它负责与数据库打交道.对于一个web项目来说,大概由这几部分组成: 1. 前台的显示层. 2. 分发处理请求 ...

  5. SSM框架学习之高并发秒杀业务--笔记1-- 项目的创建和依赖

    在慕课网上看了Java高并发秒杀API视屏后,觉得这个案例真的让我学到了很多,现在重新自己实现一遍,博客记下,顺便分析其中的要点. 第一步是项目的创建和依赖 利用Maven去创建工程然后导入Idea中 ...

  6. SSM框架学习之高并发秒杀业务--笔记5-- 并发优化

    前几节终于实现了这个高并发秒杀业务,现在问题是如何优化这个业务使其能扛住一定程度的并发量. 一. 优化分析 对于整个业务来说,首先是分析哪些地方会出现高并发,以及哪些地方会影响到了业务的性能.可能会出 ...

  7. 面试官问你如何解决web高并发这样回答就好了

    所谓高并发,就是同一时间有很多流量(通常指用户)访问程序的接口.页面及其他资源,解决高并发就是当流量峰值到来时保证程序的稳定性. 我们一般用QPS(每秒查询数,又叫每秒请求数)来衡量程序的综合性能,数 ...

  8. web 高并发分析

    <高并发Web系统的设计与优化>的读后感 一口气看完了<高并发Web系统的设计与优化>,感觉受益匪浅,作者从高并发开始讨论问题,并逐步给出了非常有建设性的想法和建议,是值得我们 ...

  9. 【总结】瞬时高并发(秒杀/活动)Redis方案(转)

    转载地址:http://bradyzhu.iteye.com/blog/2270698 1,Redis 丰富的数据结构(Data Structures) 字符串(String) Redis字符串能包含 ...

随机推荐

  1. 华为OJ平台——24点游戏

    题目描述: 给出4个1-10的数字,通过加减乘除,得到数字为24就算胜利 输入: 4个1-10的数字.[数字允许重复,测试用例保证无异常数字]输出: true or false 思路:

  2. C#之泛型

    泛型是C# 2.0版本才有的语言特性,是具有参数类型占位符的类.结构.接口和方法.这些占位符是类.结构.接口和方法所存储或使用的一个或多个占位符.简单来说,就是变量类型的参数化. 以下是详细demo: ...

  3. C# 特性 Attribute

    特性就是在类的类名称.属性.方法等上面加一个标记,使这些类.属性.方法等具有某些统一的特征,从而达到某些特殊的需要.举个小栗子:方法的异常捕捉,你是否还在某些可能出现异常的地方(例如数据库的操作.文件 ...

  4. WWF3控制流程类型活动<第二篇>

    一.顺序工作流 顺序活动是WWF工作流中最基本.最简单的容器类型的活动.顺序活动可以作为很多其他活动的分支. 代码: private void CodeExecute1(object sender, ...

  5. 1.6Linux设备驱动

    1.设备驱动的作用: 计算机系统的运行是软硬件共同作用的结果.如果应用程序直接访问硬件,会造成应用程序与硬件耦合度过高(了解面向对象的读者会很容易想到,降低对象与对象之间的耦合度最有效的方法是通过接口 ...

  6. Web.config配置文件

    优点:Web.config配置文件使得ASP.NET应用程序的配置变得灵活高效和容易实现并为ASP.NET应用提供了可扩展的配置,使得应用程序能够自定义配置,同时还包括的优点有:配置设置易读性.更新的 ...

  7. 整合jQuery和Prototype遇到的问题.

    由于项目要在旧的服务器上面运行,而旧的服务器底层用了Prototype,所以需要解决jQuery和Prototype冲突的问题. 一.$符号冲突问题 这个还是很好解决的. jQuery.noConfl ...

  8. yii2.0 DetailView 自定义样式

    GII 生成如下: <?= DetailView::widget([ 'model' => $model, 'attributes' => [ 'id', ['label'=> ...

  9. PHP XML笔记汇总

    一.XML Expat解析器 内建的Expat解析器使在PHP中处理XML文档成为可能. XML用于描述数据,其焦点是数据是什么.XML 文件描述了数据的结构. 在XML中,没有预定义的标签.您必须定 ...

  10. ASP.NET中@Page指令中的AutoEventWireup

    AutoEventWireup:指示控件的事件是否自动匹配 (Autowire).如果启用事件自动匹配,则为 true:否则为 false.默认值为 true.如果设为false,则事件不可用.有关更 ...