关于tcp的三次握手与四次挥手，以及粘包

tcp三次握手：

TCP是因特网中的传输层协议，使用三次握手协议建立连接。当主动方发出SYN连接请求后，等待对方回答SYN+ACK[1]，并最终对对方的 SYN 执行 ACK 确认。这种建立连接的方法可以防止产生错误的连接。[1]
TCP三次握手的过程如下：
客户端发送SYN（SEQ=x）报文给服务器端，进入SYN_SEND状态。
服务器端收到SYN报文，回应一个SYN （SEQ=y）ACK(ACK=x+1）报文，进入SYN_RECV状态。
客户端收到服务器端的SYN报文，回应一个ACK(ACK=y+1）报文，进入Established状态。
三次握手完成，TCP客户端和服务器端成功地建立连接，可以开始传输数据了。

网传的一个例子：

三次握手：
A:“喂，你听得到吗？”A->SYN_SEND
B:“我听得到呀，你听得到我吗？”应答与请求同时发出 B->SYN_RCVD | A->ESTABLISHED
A:“我能听到你，今天balabala……”B->ESTABLISHED

四次挥手：
A:“喂，我不说了。”A->FIN_WAIT1
B:“我知道了。等下，上一句还没说完。Balabala…..”B->CLOSE_WAIT | A->FIN_WAIT2
B:”好了，说完了，我也不说了。”B->LAST_ACK
A:”我知道了。”A->TIME_WAIT | B->CLOSED

A等待2MSL,保证B收到了消息,否则重说一次”我知道了”,A->CLOSED

tcp的四次挥手：

建立一个连接需要三次握手，而终止一个连接要经过四次握手，这是由TCP的半关闭（half-close）造成的。
(1) 某个应用进程首先调用close，称该端执行“主动关闭”（active close）。该端的TCP于是发送一个FIN分节，表示数据发送完毕。
(2) 接收到这个FIN的对端执行 “被动关闭”（passive close），这个FIN由TCP确认。
注意：FIN的接收也作为一个文件结束符（end-of-file）传递给接收端应用进程，放在已排队等候该应用进程接收的任何其他数据之后，因为，FIN的接收意味着接收端应用进程在相应连接上再无额外数据可接收。
(3) 一段时间后，接收到这个文件结束符的应用进程将调用close关闭它的套接字。这导致它的TCP也发送一个FIN。
(4) 接收这个最终FIN的原发送端TCP（即执行主动关闭的那一端）确认这个FIN。[1]
既然每个方向都需要一个FIN和一个ACK，因此通常需要4个分节。
注意：
(1) “通常”是指，某些情况下，步骤1的FIN随数据一起发送，另外，步骤2和步骤3发送的分节都出自执行被动关闭那一端，有可能被合并成一个分节。[2]
(2) 在步骤2与步骤3之间，从执行被动关闭一端到执行主动关闭一端流动数据是可能的，这称为“半关闭”（half-close）。
(3) 当一个Unix进程无论自愿地（调用exit或从main函数返回）还是非自愿地（收到一个终止本进程的信号）终止时，所有打开的描述符都被关闭，这也导致仍然打开的任何TCP连接上也发出一个FIN。
无论是客户还是服务器，任何一端都可以执行主动关闭。通常情况是，客户执行主动关闭，但是某些协议，例如，HTTP/1.0却由服务器执行主动关闭。[2] 

粘包：

同时执行多条命令之后，得到的结果很可能只有一部分，在执行其他命令的时候又接收到之前执行的另外一部分结果，这种显现就是黏包。

换句话说：数据太多，或者数据太少，由于双方的缓存以及mtu的原因，数据发送不完整，剩下的数据和第二条命令的数据黏在了一起

由于tcp的拆包，合包机制，容易产生粘包现象

发送方引起的粘包是由TCP协议本身造成的，TCP为提高传输效率，发送方往往要收集到足够多的数据后才发送一个TCP段。
若连续几次需要send的数据都很少，通常TCP会根据优化算法把这些数据合成一个TCP段后一次发送出去，这样接收方就收到了粘包数据。

而udp不会，数据过大，会提示缓冲区过大，不会出现粘包现象

udp不会粘包：

UDP（user datagram protocol，用户数据报协议）是无连接的，面向消息的，提供高效率服务。
不会使用块的合并优化算法，, 由于UDP支持的是一对多的模式，所以接收端的skbuff(套接字缓冲区）采用了链式结构来记录每一个到达的UDP包，在每个UDP包中就有了消息头（消息来源地址，端口等信息），
这样，对于接收端来说，就容易进行区分处理了。 即面向消息的通信是有消息保护边界的。
对于空消息：tcp是基于数据流的，于是收发的消息不能为空，这就需要在客户端和服务端都添加空消息的处理机制，防止程序卡住，而udp是基于数据报的，
即便是你输入的是空内容（直接回车），也可以被发送，udp协议会帮你封装上消息头发送过去。
不可靠不黏包的udp协议：udp的recvfrom是阻塞的，一个recvfrom(x)必须对唯一一个sendinto(y),收完了x个字节的数据就算完成,若是y;x数据就丢失，这意味着udp根本不会粘包，但是会丢数据，不可靠。

tcp的拆包机制

当发送端缓冲区的长度大于网卡的MTU时，tcp会将这次发送的数据拆成几个数据包发送出去。
MTU是Maximum Transmission Unit的缩写。意思是网络上传送的最大数据包。MTU的单位是字节。 
大部分网络设备的MTU都是1500。如果本机的MTU比网关的MTU大，大的数据包就会被拆开来传送，这样会产生很多数据包碎片，增加丢包率，降低网络速度。

面向流的通信特点和Nagle算法

TCP（transport control protocol，传输控制协议）是面向连接的，面向流的，提供高可靠性服务。
收发两端（客户端和服务器端）都要有一一成对的socket，因此，发送端为了将多个发往接收端的包，更有效的发到对方，使用了优化方法（Nagle算法），将多次间隔较小且数据量小的数据，合并成一个大的数据块，然后进行封包。
这样，接收端，就难于分辨出来了，必须提供科学的拆包机制。 即面向流的通信是无消息保护边界的。
对于空消息：tcp是基于数据流的，于是收发的消息不能为空，这就需要在客户端和服务端都添加空消息的处理机制，防止程序卡住，而udp是基于数据报的，即便是你输入的是空内容（直接回车），也可以被发送，udp协议会帮你封装上消息头发送过去。
可靠黏包的tcp协议：tcp的协议数据不会丢，没有收完包，下次接收，会继续上次继续接收，己端总是在收到ack时才会清除缓冲区内容。数据是可靠的，但是会粘包。

补充说明

  用UDP协议发送时，用sendto函数最大能发送数据的长度为：65535- IP头(20) – UDP头(8)＝65507字节。用sendto函数发送数据时，如果发送数据长度大于该值，则函数会返回错误。（丢弃这个包，不进行发送） 

    用TCP协议发送时，由于TCP是数据流协议，因此不存在包大小的限制（暂不考虑缓冲区的大小），这是指在用send函数时，数据长度参数不受限制。而实际上，所指定的这段数据并不一定会一次性发送出去，如果这段数据比较长，会被分段发送，如果比较短，可能会等待和下一次数据一起发送。

tcp产生粘包情况的总结：

1.从表面上看，黏包问题主要是因为发送方和接收方的缓存机制、tcp协议面向流通信的特点。

2.实际上，主要还是因为接收方不知道消息之间的界限，不知道一次性提取多少字节的数据所造成的

知道了粘包原因，下面就想着如何去解决：

粘包的解决方法

发送时	接收时
先发报头长度	先收报头长度，用struct取出来
再编码报头内容然后发送	根据取出的长度收取报头内容，然后解码，反序列化
最后发真实内容	从反序列化的结果中取出待取数据的详细信息，然后去取真实的数据内容

这里引入一个模块，struct

struct

struct模块将一个类型，如数字，转化成固定长度的bytes

简单用法：

import struct
ret = struct.pack('i',1000000)  # i表示int类型
print(ret)
print(len(ret))  # 返回4

ret1 = struct.unpack('i',ret)  # 按照给定的格式(fmt)解析字节流string，返回解析出来的tuple
print(ret1)  # 返回一个元组
print(ret1[0]) #最终需要的值

下面以一个文件的传输为例

服务端：

import os ,json, struct , socket , hashlib

sk=socket.socket()
sk.bind(('127.0.0.1',9999))
sk.listen()

conn,addr=sk.accept()
print(addr)

filename='server.txt'
absolute_path=os.path.join('G:\study\day11\download',filename)
buffer_size=1024 * 1024 #缓冲大小 1M

md5_obj=hashlib.md5()

dic={
    'filename':filename,
    'buffer_size':buffer_size,
    'filesize':os.path.getsize(absolute_path)
}
print(dic)
dic_json=json.dumps(dic).encode('utf-8') #先将字典转化成json
dic_len=struct.pack('i',len(dic_json))   # 获取字典，转化成struct

conn.send(dic_len) #发送字典长度
conn.send(dic_json) #发送字典

with open(absolute_path,'rb') as f:
    while True:
        content=f.read(buffer_size) #每次读取指定字节
        if content: #判断内容不为空
            conn.send(content)
            md5_obj.update(content)
        else:
            break  #内容为空时，终止循环

md5_hex=md5_obj.hexdigest()
conn.send(md5_hex.encode('utf-8')) #发送md5值
print(md5_hex)

conn.close()
sk.close()

客户端：

import json, struct , socket , hashlib ,time, os

start_time=time.time()
sk=socket.socket()
sk.connect(('127.0.0.1',9999))

dic_struct=sk.recv(4) #先读取struct的内容，固定为 4
dic_len=struct.unpack('i',dic_struct)[0] #转化成数字

dic_str=sk.recv(dic_len).decode('utf-8') #获得json对象

dic=json.loads(dic_str) #反序列化成字典
print(dic)

md5=hashlib.md5()
with open(dic['filename'],'wb') as f:
    while dic['filesize']>0:
        content=sk.recv(dic['buffer_size'])
        f.write(content)
        md5.update(content)
        dic['filesize']-=len(content)
print(os.path.getsize(dic['filename']))
md5_client=md5.hexdigest()
print(md5_client)
print('下面校验md5的值')
md5_server=sk.recv(1024).decode('utf-8') #接收服务端的md5值
print(md5_server)
if md5_client == md5_server:
    print('md5校验正确---下载成功')
else:
    print('文件验证失败')

sk.close()
end_time=time.time()
print('花费时间{}秒'.format(end_time-start_time))

tcp的数据流和udp的数据报

1.TCP本身是面向连接的协议，S和C之间要使用TCP，必须先建立连接，数据就在该连接上流动，可以是双向的，没有边界。所以叫数据流 ，占系统资源多
2.UDP不是面向连接的，不存在建立连接，释放连接，每个数据包都是独立的包，有边界，一般不会合并。
3.TCP保证数据正确性，UDP可能丢包，TCP保证数据顺序，UDP不保证