个人总结: 1.长连接机制——分清Websocket,http2,SSE: 1)HTTP/2 引进了 Server Push 技术用来让服务器主动向客户端缓存发送数据.然而,它并不允许直接向客户端程序本身发送数据.服务端推送只能由浏览器处理而不能够在程序代码中进行处理,意即程序代码没有 API 可以用来获取这些事件的通知. 2)通过SSE(Server Side Event)来实现服务端向客户端的单向推送,SSE基于HTTP,是单向通信.  3)WebSocket是在服务端和客户端建立双工通信.…

Spark内部有若干术语(Executor.Job.Stage.Task.Driver.DAG等),需要理解并搞清其内部关系,因为这是性能调优的基石.   节点类型有: 1. Master 节点: 常驻master进程,负责管理全部worker节点. 2. Worker 节点: 常驻worker进程,负责管理executor 并与master节点通信. Dirvier:官方解释为: The process running the main() function of the applicatio…

Job->Stage->Task开发完一个应用以后,把这个应用提交到Spark集群,这个应用叫Application.这个应用里面开发了很多代码,这些代码里面凡是遇到一个action操作,就会产生一个job任务. 一个Application有一个或多个job任务.job任务被DAGScheduler划分为不同stage去执行,stage是一组Task任务.Task分别计算每个分区partition上的数据,Task数量=分区partition数量. Spark如何划分Stage:会从执行act…

一.大数据实时计算介绍 1.概述 Spark Streaming,其实就是一种Spark提供的,对于大数据,进行实时计算的一种框架.它的底层,其实,也是基于我们之前讲解的Spark Core的. 基本的计算模型,还是基于内存的大数据实时计算模型.而且,它的底层的组件或者叫做概念,其实还是最核心的RDD. 只不过,针对实时计算的特点,在RDD之上,进行了一层封装,叫做DStream.其实,学过了Spark SQL之后,你理解这种封装就容易了.之前学习Spark SQL是不是也是发现, 它针对数据查…

本文摘录参考: 细说 CA 和证书(主要讲解 CA 的使用) 数字签名是什么?(简单理解原理) 深入浅出 HTTPS 工作原理(深入理解原理) HTTP 协议由于是明文传送,所以存在三大风险: 1.被窃听的风险:第三方可以截获并查看你的内容 2.被篡改的危险:第三方可以截获并修改你的内容 3.被冒充的风险:第三方可以伪装成通信方与你通信 HTTP 因为存在以上三大安全风险,所以才有了 HTTPS 的出现. HTTPS 涉及到了很多概念,比如 SSL/TSL,数字证书.数字签名.加密.认证.公钥和…

本文摘录参考: 细说 CA 和证书(主要讲解 CA 的使用) 数字签名是什么?(简单理解原理) 深入浅出 HTTPS 工作原理(深入理解原理) HTTP 协议由于是明文传送,所以存在三大风险: 1.被窃听的风险:第三方可以截获并查看你的内容 2.被篡改的危险:第三方可以截获并修改你的内容 3.被冒充的风险:第三方可以伪装成通信方与你通信 HTTP 因为存在以上三大安全风险,所以才有了 HTTPS 的出现. HTTPS 涉及到了很多概念,比如 SSL/TSL,数字证书.数字签名.加密.认证.公钥和…

大数据体系概览Spark.Spark核心原理.架构原理.Spark特点 大数据体系概览(Spark的地位) 什么是Spark? Spark整体架构 Spark的特点 Spark核心原理 Spark架构原理 spark内核架构 RDD及其特点 Spark SQL VS Hive Spark Streaming VS Storm spark 任务提交流程 小提示:这里,使用axure(原型制作工具),来画图十分方便,个人认为比viso或者是processon等流程图制作工具简单多了. 点击链接,看取…

HTTP协议 HTTP协议主要应用是在服务器和客户端之间,客户端接受超文本. 服务器按照一定规则,发送到客户端(一般是浏览器)的传送通信协议.与之类似的还有文件传送协议(file transfer protocol,FTP),简单邮件传送协议(simple mail ttransfer protocol,SMTP)等. HTTP是在七层网络模型中的应用层的协议,由发送请求和接受响应构成,是一个标准的客户端服务器模型.与此同时,HTTP是一个无状态的协议.也就是说,不能通过一个状态判断连接的状态,…

这里记录一下学习与使用Protocol Buffer的笔记,优点缺点如何使用这里不再叙述,重点关注与理解Protocol Buffers的工作原理,其大概实现. 我们经常使用Protocol Buffer进行序列化与反序列化.理解Protocol Buffer的工作原理,就要理解序列化与反序列化. 序列化:将数据结构或对象转换为二进制串的过程: 反序列化:序列化的逆过程: 如何实现呢?核心有两点:编码 + 存储.数据在计算机间通过网络进行传输时,传输的是比特流,只有0和1,并没有你所定义的各种类…

原文链接:https://fuckcloudnative.io/posts/ipvs-how-kubernetes-services-direct-traffic-to-pods/ Kubernetes 中的 Service 就是一组同 label 类型 Pod 的服务抽象,为服务提供了负载均衡和反向代理能力,在集群中表示一个微服务的概念.kube-proxy 组件则是 Service 的具体实现,了解了 kube-proxy 的工作原理,才能洞悉服务之间的通信流程,再遇到网络不通时也不会一脸懵…