在文章([事件中心 Azure Event Hub]使用Logstash消费EventHub中的event时遇见的几种异常(TimeoutException, ReceiverDisconnectedException))中,介绍了使用Logstash连接EventHub时,遇见的两种异常,但是对于如何在Linux环境中安装Logstash,并且配置EventHub设置,启动等,则包含在当前文章中. 安装Logstash 首先在Logstash中选择需要的版本,使用wget下载到当前目录中,如当…

问题描述 使用EFK(Elasticsearch, Fluentd and Kibana)在收集日志的解决方案中, 可以先把日志发送到EventHub中,然后通过Logstash消费EventHub中的事件并分发出去.但是在使用Logstash的过程中,遇见了连接不上EventHub的错误,和Receiver一直不停关闭的问题. 错误的信息分别为: Exception while initializing stores, not starting partition manager com.mi…

请问对偶发的定义是多少频率? 针对偶发的定义,主要是看发生的时间非常短,次数极少(如 10次以内),并且发生的时候EventHub其他分区或其他连接都是正常接收和发送数据.所以对于频率是没有明确的定义的,这个需要根据每次发生的情况来分析.由于Event Hub SDK都考虑了这样短暂出现连接性的情况,所以默认都启动了重试机制.这样能解决绝大多数的连接异常问题. 连接问题重连成功的最短间隔是多少?请问有没有经验值? 在查看源码发现默认的Timeout时间设置为60秒,关于最短时间并没有文档明确说明…

问题情形 使用Java SDK编写的Event Hub消费端应用,随机性遇见了某个分区没有消费消息的情况,在检查日志时候,有发现IdelTimeExpired的错误记录.在重启应用后,连接EventHub正常,并又能正常消费数据.比较怀疑的方面,在又开启Retry机制的情况下,为什么分区(Partition)连接断掉后没有重连呢? 错误消息: {"time":"2020-09-21 05:11:19.578", "level":"ERR…

问题描述 使用Event Hub消费事件时,出现的各种客户端错误的解读.(再后期遇见新的错误信息,会持续添加进此说明) 一:再Linux中运行Event Hub消费端程序,出现Too many open files 解读:该信息是指java程序打开操作系统文件句柄数超出了操作系统的限制,排查操作系统的文件句柄的限制是不是默认的1024,如果是,请改为无限制. 使用ulimit -a 或者 ulimit -n 查看句柄数 open files (-n) 1024 配置文件/etc/security…

问题描述 使用Java SDK连接Azure Event Hub,一直出现 java.util.concurrent.TimeoutException 异常, 消息为:java.util.concurrent.TimeoutException: Did not observe any item or terminal signal within 60000ms in 'flatMapMany' (and no fallback has been configured). 且消息体中并没有更多有效…

问题描述 关于Event Hub(事件中心)的灾备方案,大多数就是新建另外一个备用的Event Hub,当主Event Hub出现不可用的情况时,就需要切换到备Event Hub上. 而在切换的过程中,难点在于如何让客户端应用无感知的切换到备份Event Hub,以前的方案有两种: 1:在自己DNS服务器中,配置DNS别名.然后在应用代码中,需要先根据DNS别名查询到正确的Event Hub域名.实现方式:https://docs.azure.cn/zh-cn/event-hubs/event-…

上篇博文中,我们介绍了Azure Event Hub的一些基本概念和架构: Azure Event Hub 技术研究系列1-Event Hub入门篇 本篇文章中,我们继续深入研究,了解Azure Event Hub的创建.编程SDK,实现将事件发送到云端的Azure Event Hub. 一.Azure Portal中创建Event Hub 创建一个新的Event Hub: 将连接字符串拷贝出来,备用. 二.通过Event Hub的SDK将事件发送到Event Hub 新建一个Console工程…

上篇博文中,我们通过编程的方式介绍了如何将事件消息发送到Azure Event Hub: Azure Event Hub 技术研究系列2-发送事件到Event Hub 本篇文章中,我们继续:从Event Hub中接收事件. 1. 新建控制台工程 EventHubReceiver 2. 添加Nuget引用 Microsoft.Azure.EventHubs Microsoft.Azure.EventHubs.Processor 3. 实现IEventProcessor接口 MyEventProce…

前两个系列研究了Azure IoT Hub和Azure Messaging.最近准备继续研究Azure Event Hub,即Azure的事件中心.首先, Azure Event Hub的官方介绍: 1. Azure 事件中心是超大规模的遥测引入服务,可收集.传输和存储数以百万的事件 2. 从网站.应用和任何数据流引入云端大规模的遥测数据,进行流式处理和分析 可以看出,Azure Event Hub是一个数据的云端接入服务.我们上面的博客中讲到的Azure IoT Hub中的数据,发送到云端之后…