python/socket编程之粘包

粘包

  只有TCP有粘包现象,UDP永远不会粘包。

  首先需要掌握一个socket收发消息的原理

发送端可以是1k,1k的发送数据而接受端的应用程序可以2k,2k的提取数据,当然也有可能是3k或者多k提取数据,也就是说,应用程序是不可见的,因此TCP协议是面来那个流的协议,这也是容易出现粘包的原因而UDP是面向笑死的协议,每个UDP段都是一条消息,应用程序必须以消息为单位提取数据,不能一次提取任一字节的数据,这一点和TCP是很同的。怎样定义消息呢?认为对方一次性write/send的数据为一个消息,需要命的是当对方send一条信息的时候,无论鼎城怎么样分段分片,TCP协议层会把构成整条消息的数据段排序完成后才呈现在内核缓冲区。

例如基于TCP的套接字客户端往服务器端上传文件,发送时文件内容是按照一段一段的字节流发送的,在接收方看来更笨不知道文件的字节流从何初开始,在何处结束。

所谓粘包问题主要还是因为接收方不知道消息之间的界限,不知道一次性提取多少字节的数据所造成的

发送方引起的粘包是由TCP协议本身造成的,TCP为提高传输效率,发送方往往要收集到足够多数据后才发上一个TCP段。如连续几次下需要send的数据都很少,通常TCP会根据优化算法把 这些数据合成一个TCP段后 一次发送出去,这样接收方就收到了粘包数据

TCP(transport control protocol,传输控制协议)是面向连接的,面向流的,提供高可靠性服务。收发两端(客户端和服务器端)都要有一一成对的socket,因此,发送端为了将多个发往接收端的包,更有效的发到对方,使用了优化方法(Nagle算法),将多次间隔较小且数据量小的数据,合并成一个大的数据块,然后进行封包。这样,接收端,就难于分辨出来了,必须提供科学的拆包机制。 即面向流的通信是无消息保护边界的。
UDP(user datagram protocol,用户数据报协议)是无连接的,面向消息的,提供高效率服务。不会使用块的合并优化算法,, 由于UDP支持的是一对多的模式,所以接收端的skbuff(套接字缓冲区)采用了链式结构来记录每一个到达的UDP包,在每个UDP包中就有了消息头(消息来源地址,端口等信息),这样,对于接收端来说,就容易进行区分处理了。 即面向消息的通信是有消息保护边界的。
tcp是基于数据流的,于是收发的消息不能为空,这就需要在客户端和服务端都添加空消息的处理机制,防止程序卡住,而udp是基于数据报的,即便是你输入的是空内容(直接回车),那也不是空消息,udp协议会帮你封装上消息头,实验略
udp的recvfrom是阻塞的,一个recvfrom(x)必须对一个一个sendinto(y),收完了x个字节的数据就算完成,若是y>x数据就丢失,这意味着udp根本不会粘包,但是会丢数据,不可靠 tcp的协议数据不会丢,没有收完包,下次接收,会继续上次继续接收,己端总是在收到ack时才会清除缓冲区内容。数据是可靠的,但是会粘包。

  

两种情况下会发生粘包:

1.发送端需要等本机的缓冲区满了以后才发送出去,造成粘包(发送数据时间间隔很端,数据很小,会合在一个起,产生粘包)

2.接收端不及时接收缓冲区的包,造成多个包接受(客户端发送一段数据,服务端只收了一小部分,服务端下次再收的时候还是从缓冲区拿上次遗留的数据 ,就产生粘包)

粘包实例:

服务端
import socket
import subprocess
din=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
ip_port=('127.0.0.1',8080)
din.bind(ip_port)
din.listen(5)
conn,deer=din.accept()
data1=conn.recv(1024)
data2=conn.recv(1024)
print(data1)
print(data2)
客户端
import socket
import subprocess
din=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
ip_port=('127.0.0.1',8080)
din.connect(ip_port)
din.send('helloworld'.encode('utf-8'))
din.send('sb'.encode('utf-8'))

low比的解决粘包的方法:

在客户端发送下边添加一个时间睡眠,就可以避免粘包现象。在服务端接收的时候也要进行时间睡眠,才能有效的避免粘包情况

#客户端
import socket
import time
import subprocess
din=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
ip_port=('127.0.0.1',8080)
din.connect(ip_port)
din.send('helloworld'.encode('utf-8'))
time.sleep(3)
din.send('sb'.encode('utf-8'))
#服务端
import socket
import time
import subprocess
din=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
ip_port=('127.0.0.1',8080)
din.bind(ip_port)
din.listen(5)
conn,deer=din.accept()
data1=conn.recv(1024)
time.sleep(4)
data2=conn.recv(1024)
print(data1)
print(data2)

大神解决粘包的方法:

  为字节流加上自定义固定长度报头,报头中包含字节流长度,然后依次send到对端,对端在接受时,先从缓存中取出定长的报头,然后再取真是数据。

  使用struct模块

  该模块可以把一个类型,如数字,转成固定长度的bytes字节

struct模块

  该模块可以把一个类型,如数字,转成固定长度的bytes

  >>> res=struct.pack('i',1111111111111)  #打包成固定长度的bytes

  >>> struct.unpack(“I”,res)             #解包

采用自定义报头的形式:

1 #服务端
2 import socket #导入模块
3 import struct #导入模块
4 import subprocess #导入模块
5 din=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #基于网路家族以数据流的形式传输
6 ip=('127.0.0.1',8080) #标识服务端唯一的地址
7 din.bind(ip) #绑定地址
8 din.listen(5) #设置链接缓冲池最大数量
9 while True:
10 conn,addr=din.accept() #等待链接进入
11 print('------>',addr)
12 while True:
13 try: #开始捕捉异常,在windows中使用
14 cmd=conn.recv(1024) #把接收的内容赋值给变量cmd
15 res=subprocess.Popen(cmd.decode('utf-8'),shell=True,stdout=subprocess.PIPE,stderr=subprocess.PIPE) #设置一个管道,以shell的方式写入,判断如果是正确的命令就放到标准输出的管道中,否则就放到错误输出的管道中
16 dui=res.stdout.read() #读取标准输出管道中的内容赋值给dui
17 cuo=res.stderr.read() #读取错误输出管道中的内容赋值给cuo
18 data_bat=len(dui)+len(cuo) #把dui和cuo的内容长度相加赋值给data_bat
19 conn.send(struct.pack('i',data_bat)) #通过模块模仿报头形式发送给客户端
20 conn.send(dui) #把dui的发送给客户端
21 conn.send(cuo) #把cuo的发送给客户端
22 except Exception: #结束捕捉异常
23 break #跳出
24 conn.close() #断开链接
25 din.close() #关闭基于网络家族传输的链接
 #客户端
import socket
import struct
din=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
ip_port=('127.0.0.1',8080)
din.connect(ip_port)
while True:
cmd=input('请输入命令:').strip()
if not cmd:continue
din.send(bytes(cmd,encoding='utf-8'))
baotou=din.recv(4)
data_size=struct.unpack('i',baotou)[0]
rec_size=0
rec_data=b''
while rec_size < data_size:
data=din.recv(1024)
rec_size+=len(data)
rec_data+=data print(rec_data.decode('gbk')) din.close()

牛逼报头的形式:

 #服务端
import struct #导入模块
import socket #导入模块
import json #导入模块
import subprocess #导入模块
din=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #基于网络家族以流的方式创建一个链接路
ip=('127.0.0.1',8080) #设定服务端唯一的地址
din.bind(ip) #绑定地址
din.listen(5) #激活启动,设置链接池最大缓数量
while True:
conn,addr=din.accept() #等待接受数据链接
print('------->>>')
while True:
try: #开始捕捉异常,在windows中使用
dr=conn.recv(1024) #接收内容并赋值给dr
res=subprocess.Popen(dr.decode('utf-8'),shell=True,stdout=subprocess.PIPE,stderr=subprocess.PIPE) #设置一个管道,把对的内容一个对的管道中,把错误的放进一个错误的管道中。
dui=res.stdout.read() #读取标准输出的内容并赋值给dui
cuo=res.stderr.read() #读取错误输出的内容并赋值给cuo
data_lik=len(dui)+len(cuo) #计算标准输出和错误输出的总长度并赋值给data_lik
head_dic={'data_lik':data_lik} #自己顶一个字典 并赋值给head_dic
head_json=json.dumps(head_dic) #把自己定义的字典进行一个序列化
head_bytes=head_json.encode('utf-8') #把序列化后的内容进行转码 ,因为网络传输都是通过字节进行传输
head_len=len(head_bytes) #把转换成字节码的长度拿到 并赋值给head_len
#发送报头长度
conn.send(struct.pack('i',head_len)) #发送自己定义的报头长度
# 发送报头
conn.send(head_bytes) #发送自己定义的报头
#发送真是数据
conn.send(dui) #发送真实的数据
conn.send(cuo) #发送真实的数据
except Exception: #结束捕捉异常
break #跳出
conn.close() #断开链接
din.close() #关闭连接
 #客户端
import struct #导入模块
import socket #导入模块
import json #导入模块
din=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #基于网络家族和流的方式传输 创建连接
ip=('127.0.0.1',8080) #设置唯一的地址
din.connect(ip) #绑定地址
while True:
run=input('请输入命令:') #用户交互界面
if not run:continue #判断如果run为空就跳出
din.send(bytes(run,encoding='utf-8')) #通过字节形式发送用户输入的的内容
data=din.recv(4) #接收内容长度为4,并赋值给data
head_len=struct.unpack('i',data)[0] #解报头并索引出值赋值给head_len
head_bytes=din.recv(head_len) #接收长度为head_len变量中的值,赋值给head_bytes
head_json=head_bytes.decode('utf-8') #把刚刚接收的内容进行转换,转换成utf-8
head_dic=json.loads(head_json) #在把转换成utf-8的内容 反序列化成字典的形式
data_lik=head_dic['data_lik'] #在把字典的查找的值赋值给data_lik
recv_size=0 #设定变量并赋值为0
recv_data=b'' #设定变量并创建一个空字节的
while recv_size < data_lik: #如果变量小于字典查找出来的值时,循环为真。
data=din.recv(1024) #接收内容赋值给data
recv_size+=len(data) #把得到的内容长度加到变量recv_size中,这样就能实现如果没有取完内容就一直取得效果
recv_data+=data #把拿到的值加到新创建的字节中
print(recv_data.decode('gbk')) #打印以GBK转码的内容
din.close() #关闭连接

python/socket编程之粘包的更多相关文章

  1. Python网络编程,粘包、分包问题的解决

    tcp编程中的粘包.分包问题的解决: 参考:https://blog.csdn.net/yannanxiu/article/details/52096465 服务端: #!/bin/env pytho ...

  2. socket编程解决粘包和丢包问题

    ##socket 丢包粘包解决方式 采用固定头部长度(一般为4个字节),包头保存的是包体的长度 header+body 包头+包体 下面的例子不是按照上图中规定的格式编写的,但是思路都是一样的,先读出 ...

  3. python socket编程和黏包问题

    一.基于TCP的socket tcp是基于链接的,必须先启动服务端,然后再启动客户端去链接服务端,有顺序,不重复,可靠.不会被加上数据边界. server端 import socket sk = so ...

  4. socket编程 TCP 粘包和半包 的问题及解决办法

    一般在socket处理大数据量传输的时候会产生粘包和半包问题,有的时候tcp为了提高效率会缓冲N个包后再一起发出去,这个与缓存和网络有关系. 粘包 为x.5个包 半包 为0.5个包 由于网络原因 一次 ...

  5. Socket编程--TCP粘包问题

    TCP是个流协议,它存在粘包问题 产生粘包的原因是: TCP所传输的报文段有MSS的限制,如果套接字缓冲区的大小大于MSS,也会导致消息的分割发送. 由于链路层最大发送单元MTU,在IP层会进行数据的 ...

  6. python网络编程之粘包

    一.什么是粘包 须知:只有TCP有粘包现象,UDP永远不会粘包 粘包不一定会发生 如果发生了:1.可能是在客户端已经粘了 2.客户端没有粘,可能是在服务端粘了 首先需要掌握一个socket收发消息的原 ...

  7. Python之路 - 网络编程之粘包

    Python之路 - 网络编程之粘包 粘包

  8. PYTHON SOCKET编程简介

    原文地址: PYTHON SOCKET编程详细介绍   Python 提供了两个基本的 socket 模块. 第一个是 Socket,它提供了标准的 BSD Sockets API. 第二个是 Soc ...

  9. python socket编程入门(编写server实例)+send 与sendall的区别与使用方法

    python 编写server的步骤: 1. 第一步是创建socket对象.调用socket构造函数.如: socket = socket.socket( family, type ) family参 ...

随机推荐

  1. unity A*寻路 (二)读取NavMesh数据

    上一章节我们已经看了怎么获得NavMesh数据保存为obj 这一章节我们来读取NavMesh数据 首先我们要定义两个结构体 点 和 三角形 为什么不用unity自带的Vector3呢? 相信你们应该已 ...

  2. 【Zabbix】大规模监控误报发生时的处理方案

    今天遇到了这样一件事..Zabbix一直在用的数据库突然间崩溃,无法连接了.在down掉的那一时刻开始,zabbix向管理员报了警.然后随之而来的是铺天盖地的所有主机zabbix agent无法连接的 ...

  3. java 定义泛型方法

    1 class Demo{ 2 public <T> T fun(T t){ 3 return t; 4 } 5 } 6 public class GenericsDemo { 7 pub ...

  4. java排序算法(二):直接选择排序

    java排序算法(二) 直接选择排序 直接选择排序排序的基本操作就是每一趟从待排序的数据元素中选出最小的(或最大的)一个元素,顺序放在已排好序的数列的最后,直到全部待排序的数据元素排完,它需要经过n- ...

  5. ES6 中 Promise 详解

    Promise,简单说就是一个容器,里面保存着某个未来才会结束的事件(通常是一个异步操作)的结果.从语法上说,Promise 是一个对象,从它可以获取异步操作的消息.Promise 提供统一的 API ...

  6. clumsy模拟客户端网络差的场景的使用

    1.为什么需要模拟客户端网络差的情况? a. 研发环境的网络配置一般较高,网络响应快,不容易出现网络故障,但是客户使用的网络环境千差万别,不排除使用过程中遇到网络故障的情况. b.程序有些时候是多线程 ...

  7. input输入框限制输入正整数、小数、字母、文字

    有的时候需要限制input的输入格式: 例如,输入大于0的正整数 <input onkeyup="if(this.value.length==1){this.value=this.va ...

  8. Linux进程间通信-消息队列(mqueue)

    前面两篇文章分解介绍了匿名管道和命名管道方式的进程间通信,本文将介绍Linux消息队列(posix)的通信机制和特点. 1.消息队列 消息队列的实现分为两种,一种为System V的消息队列,一种是P ...

  9. swift textview禁止用户使用复制粘贴

    //自定义一个TextView class Own_TextView: UITextView { override func caretRect(for position: UITextPositio ...

  10. 2017-2018-1 Java演绎法 第二周 作业

    团队任务:讨论Android上的游戏软件 参考现代软件工程 第一章 [概论]练习与讨论: 软件有很多种,也有各种分类办法,本次团队任务是讨论选取Android上的一个游戏软件,考虑到每位组员接触的游戏 ...