python socket编程和黏包问题

一、基于TCP的socket

tcp是基于链接的，必须先启动服务端，然后再启动客户端去链接服务端，有顺序，不重复，可靠。不会被加上数据边界。

server端

import socket
sk = socket.socket()
sk.bind(('127.0.0.1',8898))  #把地址绑定到套接字
sk.listen()          #监听链接
conn,addr = sk.accept() #接受客户端链接
ret = conn.recv(1024)  #接收客户端信息
print(ret)       #打印客户端信息
conn.send(b'hi')        #向客户端发送信息
conn.close()       #关闭客户端套接字
sk.close()        #关闭服务器套接字(可选)

client

import socket
sk = socket.socket()           # 创建客户套接字
sk.connect(('127.0.0.1',8898))    # 尝试连接服务器
sk.send(b'hello!')
ret = sk.recv(1024)         # 对话(发送/接收)
print(ret)
sk.close()            # 关闭客户套接字

二、基于UDP的socket

udp是无链接的，启动服务之后可以直接接受消息，不需要提前建立链接

server

import socket
udp_sk = socket.socket(type=socket.SOCK_DGRAM)   #创建一个服务器的套接字
udp_sk.bind(('127.0.0.1',9000))        #绑定服务器套接字
msg,addr = udp_sk.recvfrom(1024)
print(msg)
udp_sk.sendto(b'hi',addr)                 # 对话(接收与发送)
udp_sk.close()                         # 关闭服务器套接字

client

import socket
ip_port=('127.0.0.1',9000)
udp_sk=socket.socket(type=socket.SOCK_DGRAM)
udp_sk.sendto(b'hello',ip_port)
back_msg,addr=udp_sk.recvfrom(1024)
print(back_msg.decode('utf-8'),addr)

socket参数详解

socket.socket(family=AF_INET,type=SOCK_STREAM,proto=0,fileno=None)

family：地址族：AF_INET(默认值，基于网络),AF_INET6；AF_UNIX(基于文件)
type：
    SOCK_STREAM 是基于TCP的，有保障的（即能保证数据正确传送到对方）面向连接的SOCKET，多用于资料传送。
    SOCK_DGRAM 是基于UDP的，无保障的面向消息的socket，多用于在网络上发广播信息。

proto：0

fileno：
    如果指定了fileno,则其他参数将被忽略,导致带有指定文件描述符的套接字返回。
    与socket.fromfd()不同,fileno将返回相同的套接字,而不是重复的。
    这可能有助于使用socket.close()关闭一个独立的插座。

三、黏包问题

同时执行多条命令之后，得到的结果很可能只有一部分，在执行其他命令的时候又接收到之前执行的另外一部分结果，这种显现就是黏包。

server端： 只会接收到一个client send来的一条数据

# -*- coding: utf-8 -*-
'''
@Time    : 2018/3/21 15:15
@Author  : Weiheng
@Email   : weicunheng@gmail.com
@Info    :  server端发送命令
'''
import socket

server = socket.socket()
server.bind(('127.0.0.1',8080))
server.listen()
conn,addr = server.accept()

while True:
    # 发送指令
    cmd = input('输入指令:')
    conn.send(cmd.encode('utf-8'))

    # 接收执行后的结果
    stdout = conn.recv(1024)  # 接收正确的结果
    print(stdout.decode('gbk'))
    stderr = conn.recv(1204)
    print(stderr.decode('gbk'))

conn.close()
server.close()

server端

client端:

# -*- coding: utf-8 -*-
'''
@Time    : 2018/3/21 15:16
@Author  : Weiheng
@Email   : weicunheng@gmail.com
@Info    : 根据server端发送的命令，进行执行，返回执行结果
'''
import socket
import subprocess

client = socket.socket()
client.connect(('127.0.0.1',8080))

while True:
    # 接收指令
    cmd = client.recv(1024)

    # 执行指令
    ret = subprocess.Popen(cmd.decode('utf-8'), shell=True,
                           stdout=subprocess.PIPE,
                           stderr=subprocess.PIPE)

    stdout = ret.stdout.read()  # 正确的信息
    stderr = ret.stderr.read()  # 错误信息

    client.send(stdout)
    client.send(stderr)

client.close()

client端

注意只有TCP有黏包问题，UDP没有

四、黏包成因

4.1 TCP协议中的数据传递

tcp协议的拆包机制

当发送端缓冲区的长度大于网卡的MTU时，tcp会将这次发送的数据拆成几个数据包发送出去。
MTU是Maximum Transmission Unit的缩写。意思是网络上传送的最大数据包。MTU的单位是字节。 
大部分网络设备的MTU都是1500。如果本机的MTU比网关的MTU大，大的数据包就会被拆开来传送，这样会产生很多数据包碎片，增加丢包率，降低网络速度。

面向流的通信特点和Nagle算法

TCP（transport control protocol，传输控制协议）是面向连接的，面向流的，提供高可靠性服务。
收发两端（客户端和服务器端）都要有一一成对的socket，因此，发送端为了将多个发往接收端的包，更有效的发到对方，
使用了优化方法（Nagle算法），将多次间隔较小且数据量小的数据，合并成一个大的数据块，然后进行封包。
这样，接收端，就难于分辨出来了，必须提供科学的拆包机制。 即面向流的通信是无消息保护边界的。
对于空消息：tcp是基于数据流的，于是收发的消息不能为空，这就需要在客户端和服务端都添加空消息的处理机制，防止程序卡住，
而udp是基于数据报的，即便是你输入的是空内容（直接回车），也可以被发送，udp协议会帮你封装上消息头发送过去。
可靠黏包的tcp协议：tcp的协议数据不会丢，没有收完包，下次接收，会继续上次继续接收，己端总是在收到ack时才会清除缓冲区内容。数据是可靠的，但是会粘包。

基于tcp协议特点的黏包现象成因 

发送端可以是一K一K地发送数据，而接收端的应用程序可以两K两K地提走数据，当然也有可能一次提走3K或6K数据，或者一次只提走几个字节的数据。
也就是说，应用程序所看到的数据是一个整体，或说是一个流（stream），一条消息有多少字节对应用程序是不可见的，因此TCP协议是面向流的协议，这也是容易出现粘包问题的原因。
而UDP是面向消息的协议，每个UDP段都是一条消息，应用程序必须以消息为单位提取数据，不能一次提取任意字节的数据，这一点和TCP是很不同的。
怎样定义消息呢？可以认为对方一次性write/send的数据为一个消息，需要明白的是当对方send一条信息的时候，无论底层怎样分段分片，TCP协议层会把构成整条消息的数据段排序完成后才呈现在内核缓冲区。

基于TCP用户状态说明

例如基于tcp的套接字客户端往服务端上传文件，发送时文件内容是按照一段一段的字节流发送的，在接收方看了，根本不知道该文件的字节流从何处开始，在何处结束。

此外，发送方引起的粘包是由TCP协议本身造成的，TCP为提高传输效率，发送方往往要收集到足够多的数据后才发送一个TCP段。若连续几次需要send的数据都很少，通常TCP会根据优化算法把这些数据合成一个TCP段后一次发送出去，这样接收方就收到了粘包数据。

4.2 UDP不会发生黏包

UDP（user datagram protocol，用户数据报协议）是无连接的，面向消息的，提供高效率服务。
不会使用块的合并优化算法，, 由于UDP支持的是一对多的模式，所以接收端的skbuff(套接字缓冲区）采用了链式结构来记录每一个到达的UDP包，
在每个UDP包中就有了消息头（消息来源地址，端口等信息），这样，对于接收端来说，就容易进行区分处理了。 即面向消息的通信是有消息保护边界的。
对于空消息：tcp是基于数据流的，于是收发的消息不能为空，这就需要在客户端和服务端都添加空消息的处理机制，防止程序卡住，
而udp是基于数据报的，即便是你输入的是空内容（直接回车），也可以被发送，udp协议会帮你封装上消息头发送过去。
不可靠不黏包的udp协议：udp的recvfrom是阻塞的，一个recvfrom(x)必须对唯一一个sendinto(y),收完了x个字节的数据就算完成,若是y;x数据就丢失，这意味着udp根本不会粘包，但是会丢数据，不可靠。

udp最大能发送数据的长度

用UDP协议发送时，用sendto函数最大能发送数据的长度为：65535- IP头(20) – UDP头(8)＝65507字节。
用sendto函数发送数据时，如果发送数据长度大于该值，则函数会返回错误。（丢弃这个包，不进行发送） 

用TCP协议发送时，由于TCP是数据流协议，因此不存在包大小的限制（暂不考虑缓冲区的大小），这是指在用send函数时，数据长度参数不受限制。
而实际上，所指定的这段数据并不一定会一次性发送出去，如果这段数据比较长，会被分段发送，如果比较短，可能会等待和下一次数据一起发送。

4.3 会发生黏包的两种情况

1. 发送方：发送端需要等缓冲区满才发送出去，造成粘包（发送数据时间间隔很短，数据了很小，会合到一起，产生粘包）

2. 接收方不及时接收缓冲区的包，造成多个包接收（客户端发送了一段数据，服务端只收了一小部分，服务端下次再收的时候还是从缓冲区拿上次遗留的数据，产生粘包）

黏包现象只发生在tcp协议中：

1.从表面上看，黏包问题主要是因为发送方和接收方的缓存机制、tcp协议面向流通信的特点。

2.实际上，主要还是因为接收方不知道消息之间的界限，不知道一次性提取多少字节的数据所造成的

五、黏包的解决方案

5.1 解决方案一：使用time.sleep

解决前：

import socket

server = socket.socket()
server.bind(('127.0.0.1',8080))
server.listen()
conn,addr = server.accept()

msg1 = conn.recv(1024)
msg2 = conn.recv(1024)

print('msg1:',msg1.decode('utf-8'))
print('nsg2:',msg2.decode('utf-8'))

输出结果：
msg1: hellohi
nsg2: 

server端

# -*- coding: utf-8 -*-
'''
@Time    : 2018/3/21 17:33
@Author  : Weiheng
@Email   : weicunheng@gmail.com
@Info    :
'''
import socket

client = socket.socket()

client.connect(('127.0.0.1',8080))

client.send(b'hello')
client.send(b'hi')

client端

解决后：

# -*- coding: utf-8 -*-
'''
@Time    : 2018/3/21 17:33
@Author  : Weiheng
@Email   : weicunheng@gmail.com
@Info    :
'''
import socket

server = socket.socket()
server.bind(('127.0.0.1',8080))
server.listen()
conn,addr = server.accept()

msg1 = conn.recv(1024)
msg2 = conn.recv(1024)

print('msg1:',msg1.decode('utf-8'))
print('nsg2:',msg2.decode('utf-8'))

server端

# -*- coding: utf-8 -*-
'''
@Time    : 2018/3/21 17:33
@Author  : Weiheng
@Email   : weicunheng@gmail.com
@Info    :
'''
import socket
import time

client = socket.socket()

client.connect(('127.0.0.1',8080))

client.send(b'hello')
time.sleep(0.1)
client.send(b'hi')

client

5.2 解决方案二：recv

# -*- coding: utf-8 -*-
'''
@Time    : 2018/3/21 17:33
@Author  : Weiheng
@Email   : weicunheng@gmail.com
@Info    :
'''
import socket

server = socket.socket()
server.bind(('127.0.0.1',8080))
server.listen()
conn,addr = server.accept()

msg1 = conn.recv(1024)
conn.send(b'')
msg2 = conn.recv(1024)

print('msg1:',msg1.decode('utf-8'))
print('nsg2:',msg2.decode('utf-8'))

server端

# -*- coding: utf-8 -*-
'''
@Time    : 2018/3/21 17:33
@Author  : Weiheng
@Email   : weicunheng@gmail.com
@Info    :
'''
import socket
import time

client = socket.socket()

client.connect(('127.0.0.1',8080))

client.send(b'hello')
client.recv(1024)#只是用于防止黏包，没有其他作用
client.send(b'hi')

client端

5.3 解决方案三：使用struct模块

# -*- coding: utf-8 -*-
'''
@Time    : 2018/3/21 18:33
@Author  : Weiheng
@Email   : weicunheng@gmail.com
@Info    :
'''
import socket
import json
import struct

server = socket.socket()
server.bind(('127.0.0.1',8080))
server.listen()
conn,addr = server.accept()

msg1 = conn.recv(4) #固定大小的struc
msg1 = struct.unpack('i',msg1)
msg2 = conn.recv(msg1[0]) #字典
msg2 = json.loads(msg2.decode('utf-8'))
print(msg2)
msg3 = conn.recv(1024)
print(msg3)
conn.close()
server.close()

server

# -*- coding: utf-8 -*-
'''
@Time    : 2018/3/21 18:33
@Author  : Weiheng
@Email   : weicunheng@gmail.com
@Info    :
'''
import socket
import struct
import json

client = socket.socket()
client.connect(('127.0.0.1',8080))

msg = 'hello'
dic = {'msg_len':len(msg)}

byte_dic = json.dumps(dic).encode('utf-8')
ret = struct.pack('i',len(byte_dic))

# print(struct.unpack('i',ret))

client.send(ret + byte_dic)

client.send(b'hello')

client.close()

client

该模块可以把一个类型，如数字，转成固定长度的bytes

import json,struct
#假设通过客户端上传1T:1073741824000的文件a.txt

#为避免粘包,必须自定制报头
header={'file_size':1073741824000,'file_name':'/a/b/c/d/e/a.txt','md5':'8f6fbf8347faa4924a76856701edb0f3'} #1T数据,文件路径和md5值

#为了该报头能传送,需要序列化并且转为bytes
head_bytes=bytes(json.dumps(header),encoding='utf-8') #序列化并转成bytes,用于传输

#为了让客户端知道报头的长度,用struck将报头长度这个数字转成固定长度:4个字节
head_len_bytes=struct.pack('i',len(head_bytes)) #这4个字节里只包含了一个数字,该数字是报头的长度

#客户端开始发送
conn.send(head_len_bytes) #先发报头的长度,4个bytes
conn.send(head_bytes) #再发报头的字节格式
conn.sendall(文件内容) #然后发真实内容的字节格式

#服务端开始接收
head_len_bytes=s.recv(4) #先收报头4个bytes,得到报头长度的字节格式
x=struct.unpack('i',head_len_bytes)[0] #提取报头的长度

head_bytes=s.recv(x) #按照报头长度x,收取报头的bytes格式
header=json.loads(json.dumps(header)) #提取报头

#最后根据报头的内容提取真实的数据,比如
real_data_len=s.recv(header['file_size'])
s.recv(real_data_len)

struc用法

借助struct模块，我们知道长度数字可以被转换成一个标准大小的4字节数字。因此可以利用这个特点来预先发送数据长度。

发送时    接收时
先发送struct转换好的数据长度4字节    先接受4个字节使用struct转换成数字来获取要接收的数据长度
再发送数据    再按照长度接收数据

我们还可以把报头做成字典，字典里包含将要发送的真实数据的详细信息，然后json序列化，然后用struck将序列化后的数据长度打包成4个字节（4个自己足够用了）

发送时    接收时
先发报头长度

先收报头长度，用struct取出来
再编码报头内容然后发送    根据取出的长度收取报头内容，然后解码，反序列化
最后发真实内容    从反序列化的结果中取出待取数据的详细信息，然后去取真实的数据内容