nsq源码阅读笔记之nsqd(一)——nsqd的配置解析和初始化
配置解析
nsqd的主函数位于apps/nsqd.go
中的main
函数
首先main
函数调用nsqFlagset
和Parse
进行命令行参数集初始化,
然后判断version
参数是否存在,若存在,则打印版本号并退出程序
接下来钩住系统的syscall.SIGINT
和syscall.SIGTERM
消息,用来阻塞主goroutine防止退出
随后判断config
参数是否存在,若存在的话还需进行配置文件的读取,
nsq使用toml格式的配置文件,并通过github.com/BurntSushi/toml
库进行配置文件的读取和解析
如果配置文件存在并且符合toml格式,则调用cfg.Validate
对配置文件的各项进行进一步的合法性检查。
主要是检查配置文件中有关tls的选项(是否支持以及支持的版本)
配置文件检查通过后,创建默认配置opts
,并于命令行参数和配置文件进行合并。
合并时用到了github.com/mreiferson/go-options
库。
若出现冲突,则优先级从高到低排序依次是命令行、配置文件和默认配置
使用合并后的参数集初始化真正的nsqd对象
最后,nsqd对象进行初始化和检查后,启动nsqd包的主函数,程序从跳转apps/nsqd.go
到nsqd/nsqd.go
初始化
nsqd真正开始运行前需要执行nsqd/nsqd.go
中的LoadMetadata
和PersistMetadata
两个函数
LoadMetadata
初始化nsqd的LoadMetadata
函数使用atomic
包中的方法来保证方法执行前和执行后isLoading
值的改变
元数据以json
格式保存在nsqd可执行文件目录下的nsqd.%d.dat中。其中%d
为代表该程序的ID,
通过在启动时的命令行worker-id
或者配置文件中的id
指定。默认ID是通过对主机名散列后获得。
因此保证了同一台机器每次启动的ID相同。
解析元数据的文件得到系统中的存在的topic列表,遍历topic列表中的每个topic:
- 检查topic名称是否合法(长度在1-64之间,满足正则表达式
^[\.a-zA-Z0-9_-]+(#ephemeral)?$
)
,若不合法则忽略 - 使用
GetTopic
函数通过名字获得topic对象 - 判断当前topic对象是否处于暂停状态,是的话调用
Pause
函数暂停topic - 获取当前topic下所有的channel,并且遍历channel,执行的操作与topic基本一致
- 检查channel名称是否合法(长度在1-64之间,满足正则表达式
^[\.a-zA-Z0-9_-]+(#ephemeral)?$
)
,若不合法则忽略 - 使用
GetChannel
函数通过名字获得channel对象 - 判断当前channel对象是否处于暂停状态,是的话调用
Pause
函数暂停channel
- 检查channel名称是否合法(长度在1-64之间,满足正则表达式
至此,元数据的载入完成
PersistMetadata
PersistMetadata
将当前的topic和channel信息写入nsqd.%d.dat文件中,
主要步骤是忽略#ephemeral
结尾的topic和channel后将topic和channel列表json序列化后写回文件中
写入文件时先创建扩展名为tmp的临时文件,写入内容后并保存后再调用atomicRename
函数将tmp文件重命名为nsqd.%d.dat。
其中atomicRename
函数在windows和其他操作系统下实现方式不同,分别位于nsqd/rename_windows.go
和rename.go
中。在Linux下直接调用了os.Rename
函数,而Windows下则使用Win32 API实现了文件的重命名。
这是因为go的早期版本中Windows下调用os.Rename
函数时如果重命名后的文件已经存在则会失败。
这个bug在os: make Rename atomic on Windows中提到,
并且已经在os: windows Rename should overwrite destination file.提交中被修复,
因此,Golang1.5不存在这一bug
Main
在Main
函数中,nsqd真正开始运行。Main
监听tcp,https(如果设置了相关参数),http端口并通过WaitGroupWrapper
的Wrap
函数以goroutine方式启动主要的组件。
其中WaitGroupWrapper
是对sync.WaitGroup
的简单包装
执行完Main
函数后,配置和初始化工作全部完成,各个组件启动运行,而主goroutine会阻塞在<-signalChan
处,直到收到中断程序的信号,随后执行nsqd.Exit
函数。 Exit
函数将进行socket
关闭等清理工作,随后结束整个程序的运行。
nsq源码阅读笔记之nsqd(一)——nsqd的配置解析和初始化的更多相关文章
- nsq源码阅读笔记之nsqd(二)——Topic
与Topic相关的代码主要位于nsqd/nsqd.go, nsqd/topic.go中. Topic的获取 Topic通过GetTopic函数获取 GetTopic函数用于获取topic对象,首先先尝 ...
- nsq源码阅读笔记之nsqd(四)——Channel
与Channel相关的代码主要位于nsqd/channel.go, nsqd/nsqd.go中. Channel与Topic的关系 Channel是消费者订阅特定Topic的一种抽象.对于发往Topi ...
- nsq源码阅读笔记之nsqd(三)——diskQueue
diskQueue是backendQueue接口的一个实现.backendQueue的作用是在实现在内存go channel缓冲区满的情况下对消息的处理的对象. 除了diskQueue外还有dummy ...
- CI框架源码阅读笔记5 基准测试 BenchMark.php
上一篇博客(CI框架源码阅读笔记4 引导文件CodeIgniter.php)中,我们已经看到:CI中核心流程的核心功能都是由不同的组件来完成的.这些组件类似于一个一个单独的模块,不同的模块完成不同的功 ...
- CI框架源码阅读笔记4 引导文件CodeIgniter.php
到了这里,终于进入CI框架的核心了.既然是“引导”文件,那么就是对用户的请求.参数等做相应的导向,让用户请求和数据流按照正确的线路各就各位.例如,用户的请求url: http://you.host.c ...
- CI框架源码阅读笔记3 全局函数Common.php
从本篇开始,将深入CI框架的内部,一步步去探索这个框架的实现.结构和设计. Common.php文件定义了一系列的全局函数(一般来说,全局函数具有最高的加载优先权,因此大多数的框架中BootStrap ...
- CI框架源码阅读笔记2 一切的入口 index.php
上一节(CI框架源码阅读笔记1 - 环境准备.基本术语和框架流程)中,我们提到了CI框架的基本流程,这里再次贴出流程图,以备参考: 作为CI框架的入口文件,源码阅读,自然由此开始.在源码阅读的过程中, ...
- 源码阅读笔记 - 1 MSVC2015中的std::sort
大约寒假开始的时候我就已经把std::sort的源码阅读完毕并理解其中的做法了,到了寒假结尾,姑且把它写出来 这是我的第一篇源码阅读笔记,以后会发更多的,包括算法和库实现,源码会按照我自己的代码风格格 ...
- Three.js源码阅读笔记-5
Core::Ray 该类用来表示空间中的“射线”,主要用来进行碰撞检测. THREE.Ray = function ( origin, direction ) { this.origin = ( or ...
随机推荐
- BAT面试技巧
很多人都质疑面试前去google一下面试题,是否有用....其实真实情况往往是这样:前台告诉经理,有个面试者来了,经理一拍头:啊!差点忘了!拿起电话:小谢,你有空吧,帮忙面个试! 小谢答应后,goog ...
- Python-Web框架之 - 利用SQLALchemy创建与数据库MySQL的连接, 详解用Flask时会遇到的一些大坑 !
经过这个小项目算是对Django与Flask这两个web框架有了新的认识 , Django本身的轮子非常齐全 , 套路也很固定 , 新手在接触Django框架时 , 不会陷入到处找轮子的大坑 ; 那么 ...
- Ubuntu14.04部署pyspider的过程
1.安装,安装官方文档,应该先执行 sudo apt-get install python python-dev python-distribute python-pip libcurl4-opens ...
- MariaDB/MySQL备份和恢复(一):mysqldump工具用法详述
本文目录:1.备份分类2.备份内容和备份工具3.mysqldump用法详述 3.1 语法选项 3.1.1 连接选项 3.1.2 筛选选项 3.1.3 DDL选项 3.1.4 字符集选项 3.1.5 复 ...
- html居中定位
<!DOCTYPE html PUBLIC "-//W3C//Ddiv XHTML 1.0 divansitional//EN" "http://www.w3.or ...
- mysql-列属性
列属性 列属性是真正约束字段的数据类型,但是数据类型的约束很单一,需要有一些额外的约束来确保数据的合法性 NULL/NOT NULL.default.primary key.unique key.au ...
- 谣传QQ被黑客DDOS攻击,那么Python如何实现呢?
于2018-5-10日晚 网络流传黑客DDOS攻击了QQ服务器,导致大家聊天发送内容时出现感叹号.我们都知道一般情况下出现感叹号都是你的网络不稳定,或者...别人已经删除你了.然而昨晚很奇怪,发出的内 ...
- 架构之ELK日志分析系统
ELK多种架构及优劣 既然要谈ELK在大数据运维系统中的应用,那么ELK架构就不得不谈.本章节引出四种笔者曾经用过的ELK架构,并讨论各种架构所适合的场景和优劣供大家参考. 先大致介绍ELK组件.EL ...
- Lua读取CSV文件到table中
创建Lua函数载入CSV文件并保存到表中的函数: function GetLines(fileName) indx = 0 myLines ={} for line in io.line(string ...
- centos下网络的配置
1.网络模式要进行使用NAT,要连网的话,要配置好设置:网络要进行一下共享到虚拟机 进入vi /etc/sysconfig/network-scripts/ifcfg-eth0 把里面的onboo ...