Kube-proxy需要在每一个minion结点上运行。他的作用是service的代理,负责将业务连接到service后面具体执行结点(endpoints)。

我们列一下体现kube-proxy主要设计的代码部分。

总的来说kubernetes的代码可以从cmd看进去,看每个组件的启动过程,以及提供的业务。Cmd部分组织启动进程的过程以及代码调用,具体的代码实现在pkg里面。

Kube-proxy的重点代码是pkg中的serviceConfig、endpointsConfig(在pkg/proxy/config中),每个config中的mux,以及注册到config的处理函数proxier和endpointsHandler(这两个在pkg/proxy/userspace中),还有监听服务信息的API(代码也在pkg/proxy/config中)。

在执行kube-proxy命令的时候,NewProxyServerDefault函数依次创建serviceConfig,注册proxier;创建endpointConfig,注册endpointsHandler; 创建NewSourceAPI,在这里面会启动两个channel监听service和endpoint的变化,具体代码见下段:

serviceConfig := proxyconfig.NewServiceConfig()

serviceConfig.RegisterHandler(proxier)

endpointsConfig := proxyconfig.NewEndpointsConfig()

endpointsConfig.RegisterHandler(endpointsHandler)

proxyconfig.NewSourceAPI(

client,

config.ConfigSyncPeriod,

serviceConfig.Channel("api"),

endpointsConfig.Channel("api"),

)

下面是代码调用依赖。我的画图工具太差,有点难看~~

proxyconfig.NewSourceAPI(

client,

config.ConfigSyncPeriod,

serviceConfig.Channel("api"),

endpointsConfig.Channel("api"),

这段代码中,serviceConfig和endpointsConfig会分别创建一个channel,并监听这个channel的消息收到后推送到config内的mux。

serviceConfig的创建在

func NewServiceConfig() *ServiceConfig {

updates := make(chan struct{})

store := &serviceStore{updates: updates, services: make(map[string]map[types.NamespacedName]api.Service)}

mux := config.NewMux(store)

bcaster := config.NewBroadcaster()

go watchForUpdates(bcaster, store, updates)

return &ServiceConfig{mux, bcaster, store}

}

他创建了mux,注入进mux的serviceStore会提供Merge方法:

func (s *serviceStore) Merge(source string, change interface{}) error {

这个方法加工组织收到的数据,并通知proxier,调用他的OnServiceUpdate方法。具体是怎么触发到的呢?Merge方法在加工好数据后,构造一个空的数据{}推给叫updates的 channel,他触发了前面注册进去的proxier。 代码是serviceConfig.RegisterHandler(proxier)。

这样,当service有变化就会触发到OnServiceUpdate。

以新增一个service为例,前端api将消息发过来最后触发OnServiceUpdate后,这个方法会启动一个随机端口并监听他;再通过修改iptables的方式,将发给service的portal(集群内虚地址)的报文全部截收,发给自己刚才监听的那个随机端口。随机端口收到消息后,会选择这个service的一个endpoint,并建立到这个endpoint的链接,同时转发client和endpoints直接的报文。

这里可以看到,kubernetes这种解决服务发现的方法,多转发了一次报文。

OnServiceUpdate调用了两个很重要的函数addServiceOnPort和openPortal,通过他们完成了上述工作。

func (proxier *Proxier) addServiceOnPort(service proxy.ServicePortName, protocol api.Protocol, proxyPort int, timeout time.Duration) (*serviceInfo, error) {

sock, err := newProxySocket(protocol, proxier.listenIP, proxyPort)

if err != nil {

return nil, err

}

_, portStr, err := net.SplitHostPort(sock.Addr().String())

if err != nil {

sock.Close()

return nil, err

}

portNum, err := strconv.Atoi(portStr)

if err != nil {

sock.Close()

return nil, err

}

si := &serviceInfo{

isAliveAtomic:       1,

proxyPort:           portNum,

protocol:            protocol,

socket:              sock,

timeout:             timeout,

activeClients:       newClientCache(),

sessionAffinityType: api.ServiceAffinityNone, // default

stickyMaxAgeMinutes: 180,                     // TODO: parameterize this in the API.

}

proxier.setServiceInfo(service, si)

glog.V(2).Infof("Proxying for service %q on %s port %d", service, protocol, portNum)

go func(service proxy.ServicePortName, proxier *Proxier) {

defer util.HandleCrash()

atomic.AddInt32(&proxier.numProxyLoops, 1)

sock.ProxyLoop(service, si, proxier)

atomic.AddInt32(&proxier.numProxyLoops, -1)

}(service, proxier)

return si, nil

}

func (proxier *Proxier) openPortal(service proxy.ServicePortName, info *serviceInfo) error {

err := proxier.openOnePortal(info.portal, info.protocol, proxier.listenIP, info.proxyPort, service)

if err != nil {

return err

}

for _, publicIP := range info.externalIPs {

err = proxier.openOnePortal(portal{net.ParseIP(publicIP), info.portal.port, true}, info.protocol, proxier.listenIP, info.proxyPort, service)

if err != nil {

return err

}

}

for _, ingress := range info.loadBalancerStatus.Ingress {

if ingress.IP != "" {

err = proxier.openOnePortal(portal{net.ParseIP(ingress.IP), info.portal.port, false}, info.protocol, proxier.listenIP, info.proxyPort, service)

if err != nil {

return err

}

}

}

if info.nodePort != 0 {

err = proxier.openNodePort(info.nodePort, info.protocol, proxier.listenIP, info.proxyPort, service)

if err != nil {

return err

}

}

return nil

}

在addServiceOnPort中调用的重要函数是

func (udp *udpProxySocket) getBackendConn(activeClients *clientCache, cliAddr net.Addr, proxier *Proxier, service proxy.ServicePortName, timeout time.Duration) (net.Conn, error) {

activeClients.mu.Lock()

defer activeClients.mu.Unlock()

svrConn, found := activeClients.clients[cliAddr.String()]

if !found {

// TODO: This could spin up a new goroutine to make the outbound connection,

// and keep accepting inbound traffic.

glog.V(3).Infof("New UDP connection from %s", cliAddr)

var err error

svrConn, err = tryConnect(service, cliAddr, "udp", proxier)

if err != nil {

return nil, err

}

if err = svrConn.SetDeadline(time.Now().Add(timeout)); err != nil {

glog.Errorf("SetDeadline failed: %v", err)

return nil, err

}

activeClients.clients[cliAddr.String()] = svrConn

go func(cliAddr net.Addr, svrConn net.Conn, activeClients *clientCache, timeout time.Duration) {

defer util.HandleCrash()

udp.proxyClient(cliAddr, svrConn, activeClients, timeout)

}(cliAddr, svrConn, activeClients, timeout)

}

return svrConn, nil

}

他选择service的一个endpoint,并建立clientSock和endpointSock之间的连接

http://blog.csdn.net/zhaoguoguang/article/details/51225426

kubernetes源码分析 -- kube-proxy的更多相关文章

  1. Magnum Kubernetes源码分析(二)

    Kubernetes Master Stack kubernetes master的stack的resources主要分为三个部分. master wait handle wait handle主要用 ...

  2. Magnum Kubernetes源码分析(一)

    Magnum版本说明 本文以magnum的mitaka版本代码为基础进行分析. Magnum Kubernetes Magnum主要支持的概念有bay,baymodel,node,pod,rc,ser ...

  3. client-go客户端自定义开发Kubernetes及源码分析

    介绍 client-go 是一种能够与 Kubernetes 集群通信的客户端,通过它可以对 Kubernetes 集群中各资源类型进行 CRUD 操作,它有三大 client 类,分别为:Clien ...

  4. ABP源码分析三十七:ABP.Web.Api Script Proxy API

    ABP提供Script Proxy WebApi为所有的Dynamic WebApi生成访问这些WebApi的JQuery代理,AngularJs代理以及TypeScriptor代理.这些个代理就是j ...

  5. JAVA设计模式-动态代理(Proxy)源码分析

    在文章:JAVA设计模式-动态代理(Proxy)示例及说明中,为动态代理设计模式举了一个小小的例子,那么这篇文章就来分析一下源码的实现. 一,Proxy.newProxyInstance方法 @Cal ...

  6. kubernetes垃圾回收器GarbageCollector Controller源码分析(二)

    kubernetes版本:1.13.2 接上一节:kubernetes垃圾回收器GarbageCollector Controller源码分析(一) 主要步骤 GarbageCollector Con ...

  7. Kubernetes client-go Indexer / ThreadSafeStore 源码分析

    Kubernetes client-go Indexer / ThreadSafeStore 源码分析   请阅读原文:原文地址   Contents 概述 Indexer 接口 ThreadSafe ...

  8. Kubernetes client-go 源码分析 - Reflector

    概述入口 - Reflector.Run()核心 - Reflector.ListAndWatch()Reflector.watchHandler()NewReflector()小结 概述 源码版本: ...

  9. Kubernetes Deployment 源码分析(一)

    概述Deployment 基础创建 DeploymentReplicaSet滚动更新失败回滚历史版本回滚其他特性小结 概述 Deployment 是最常用的 Kubernetes 原生 Workloa ...

随机推荐

  1. 【足迹C++primer】38、关联容器操作(2)

    版权声明:本文为博主原创文章.未经博主同意不得转载. https://blog.csdn.net/cutter_point/article/details/35244805 关联容器操作(2) map ...

  2. python学习笔记(十七)网络编程之urllib模块

    如何用python打开一个网站或者请求一个接口呢,我们在这篇博客介绍一下. 首先我们得导入一个urllib模块,这个模块是python自带的标准模块,直接导入就能使用,但是用起来不方便,先看个简单的打 ...

  3. 《FTL之垃圾回收、写放大和OP 》总结

    来自 http://www.ssdfans.com/?p=1840: 写放大WA: 对空盘来说(未触发GC),写放大一般为1,即Host写入多少数据,SSD写入闪存也是多少数据量(这里忽略SSD内部数 ...

  4. PHP 基础篇 - PHP 的 BC MATH 系列数学函数

    一.常见问题 用 PHP 做计算时经常会遇到精度带来的问题,下面来看两个常见的例子: 1. 运算比较 下面表达式输出的结果不是相等: <?php echo 2.01 - 0.01 == 2 ? ...

  5. 高并发下hystrix熔断超时及concurrent.RejectedExecutionException: Rejected command because thread-pool queueSize is at rejection threshold问题

    我的一个项目并发200+,观察服务器的日志发现出现了大量的熔断超时偶尔会闪现出RejectedExecutionException: Rejected command because thread-p ...

  6. C++切割字符串

    std::string text = "2001_1;2005_5;"; std::stringstream ss(text); std::string sub_str; std: ...

  7. java命令--jmap命令使用(查找内存泄漏对象)

    转自:https://www.cnblogs.com/kongzhongqijing/articles/3621163.html jdk安装后会自带一些小工具,jmap命令(Java Memory M ...

  8. $ 一步一步学Matlab(2)——Matlab基本通用操作

    在上一篇中对Matlab做了一个初步的了解,本文继续来零距离亲身体验Matlab,来感受一下Matlab的一些基本.通用的操作. 命令行窗口 一打开Matlab就能看到命令行窗口,在我所用的这个精简版 ...

  9. $PDB——Python调试利器详解

    python 2.7 pdb官方文档:https://docs.python.org/2.7/library/pdb.html pdb是ptyhon内置的一个调试库,是调试python代码的好帮手,本 ...

  10. Spring MVC 复习笔记03

    1. @RequestMapping 1). url映射 定义controller方法对应的url,进行处理器映射使用. 2). 窄化请求映射  3). 限制http请求方法 出于安全性考虑,对htt ...