python中黏包现象
#黏包:发送端发送数据,接收端不知道应如何去接收造成的一种数据混乱现象. #关于分包和黏包:
#黏包:发送端发送两个字符串"hello"和"word",接收方却一次性接收到"helloword"
#分包:发送端发送字符串"helloword",接收方却受到了两个字符串"hello"和"word"
#虽然socket环境有这些问题,但是TCP传输数据能保证几点:
#顺序不变,发送端发送hello,接收方一点顺序接收hello,这个TCP协议的特点,成为了
#解决分包,黏包问题的关键.
#分割的包中间不会插入其它数据
#注意:
#如果用socket通讯,就一定要自己定义一份协议,目前的标准协议是:消息头部(包头)+消息长度+消息正文
#TCP协议的拆包机制:
#当发送缓冲区的长度大于网卡的MTU时,tcp会将这次发送的数据拆分成几个数据包发出去
#MTU是Maximum Transmission Unit的缩写.意思是网络上传送的最大数据包.MTU的单位是字节
#大部分网络设备的MTU都是1500.如果本机的MTU比网关的MTU大,大的数据包就会被拆分传送
#这样会产生很多数据包碎片,增加丢包率,降低网络数据. #面向字节流的通信特点和Nagle算法
#TCP是面向连接的,面向流的,提供高可靠性服务
#收发两端(客户端和服务端)都要有成对的socket,因此,发送端为了将多个发往接收端的包,更有效的
#发到对方,使用了优化方法(Nagle算法),将多次间隔较小的数据量小的数据合并成一个大的数据块,然后打包发送
#这样,接收端,接收端就很难分辨出来,必须提供科学的拆包机制.即面向流的通信是无边界保护的
#注意:
#对于空消息:tcp是基于数据流,于是收发的消息不能为空,需要在程序服务端和客户端添加空消息处理机制,防止程序
#卡住,而udp是基于数据报的,即使你输入的是空内容,也可以被发送,udp协议会帮助你封装上消息的头
#发送过去
#可靠黏包的tcp协议:tcp的协议数据不会丢失,没有收完包,下次接收,会继续上次继续接收,接收端
#总是在收到ack时才会清除缓冲区内容.数据是可靠的,但是黏包.
# tcp黏包的成因:
#socket客户端 <<<<<<<<用户态>>>>>>socket服务端
# ^| ^|
# ^| ^|
# ^| ^|
# 缓存<<<<<<<<<< 内核态 >>>>>>>>>>>缓存 #socket数据传输过程中的用户态与内核态说明:
#发送端可以是一K一K地发送数据,而接收端的应用程序可以两K两K地提走数据
# 当然也有可能一次提走3K或6K数据,或者一次只提走几个字节的数据。
# 也就是说,应用程序所看到的数据是一个整体,或说是一个流(stream),
# 一条消息有多少字节对应用程序是不可见的,因此TCP协议是面向流的协议,
# 这也是容易出现粘包问题的原因。 而UDP是面向消息的协议,每个UDP段都是一条消息,
# 应用程序必须以消息为单位提取数据,不能一次提取任意字节的数据, 这一点和TCP是很不同的。
# 怎样定义消息呢?可以认为对方一次性write/send的数据为一个消息,
# 需要明白的是当对方send一条信息的时候,无论底层怎样分段分片
# TCP协议层会把构成整条消息的数据段排序完成后才呈现在内核缓冲区。 #例如基于tcp的套接字客户端往服务端上传文件,发送时文件内容是按照一段一段的字节流发送的,
# 在接收方看了,根本不知道该文件的字节流从何处开始,在何处结束
# 此外,发送方引起的粘包是由TCP协议本身造成的,TCP为提高传输效率,
# 发送方往往要收集到足够多的数据后才发送一个TCP段。若连续几次需要send的数据都很少,
# 通常TCP会根据优化算法把这些数据合成一个TCP段后一次发送出去,这样接收方就收到了粘包数据。 #UDP不会发生黏包现象:
#UDP是无连接的,面向数据报,提供高效率服务
#不会使用块的合并优化算法,, 由于UDP支持的是一对多的模式,所以接收端的skbuff(套接字缓冲区)
# 采用了链式结构来记录每一个到达的UDP包,在每个UDP包中就有了消息头(消息来源地址,端口等信息),
# 这样,对于接收端来说,就容易进行区分处理了。 即面向消息的通信是有消息保护边界的。
# 对于空消息:tcp是基于数据流的,于是收发的消息不能为空,这就需要在客户端和服务端都添加空消息的处理机制
# ,防止程序卡住,而udp是基于数据报的,即便是你输入的是空内容(直接回车),也可以被发送,
# udp协议会帮你封装上消息头发送过去。 不可靠不黏包的udp协议:udp的recvfrom是阻塞的,
# 一个recvfrom(x)必须对唯一一个sendinto(y),收完了x个字节的数据就算完成,若是y;x数据就丢失,
# 这意味着udp根本不会粘包,但是会丢数据,不可靠。 #注意:
#udp和tcp一次发送数据长度的限制
#用UDP协议发送时,用sendto函数最大能发送数据的长度为:65535- IP头(20) – UDP头(8)=65507字节。
# 用sendto函数发送数据时,如果发送数据长度大于该值,则函数会返回错误。(丢弃这个包,不进行发送)
# 用TCP协议发送时,由于TCP是数据流协议,因此不存在包大小的限制(暂不考虑缓冲区的大小),
# 这是指在用send函数时,数据长度参数不受限制。而实际上,所指定的这段数据并不一定会一次性发送出去,
# 如果这段数据比较长,会被分段发送,如果比较短,可能会等待和下一次数据一起发送。
#
#数据链路层:
#因为网卡的MTU一般被限制在1500
#数据链路层大小限制 1500-ip包头(20)-udp包头(8) = 1472
# if sendto(num)
# num > 65507 报错
# 1472< num < 65507 会在数据链路层拆分
#udp本身是不可靠协议,一旦解包,会造成数据丢失
# num < 1472 是比较理想的状态
python中黏包现象的更多相关文章
- python 黏包现象及其解决方案
一.数据缓冲区 缓冲区(buffer),它是内存空间的一部分.也就是说,在内存空间中预留了一定的存储空间,这些存储空间用来缓冲输入或输出的数据,这部分预留的空间就叫做缓冲区,显然缓冲区是具有一定大小的 ...
- Python 之网络编程之socket(2)黏包现象和socketserver并发
一:黏包 ###tcp协议在发送数据时,会出现黏包现象. (1)数据粘包是因为在客户端/服务器端都会有一个数据缓冲区, 缓冲区用来临时保存数据,为了保证能够完整的接收到数据,因此缓冲区 ...
- python黏包现象
#黏包:发送端发送数据,接收端不知道应如何去接收造成的一种数据混乱现象. #关于分包和黏包: #黏包:发送端发送两个字符串"hello"和"word",接收方却 ...
- Python网络编程基础 ❷ 基于upd的socket服务 TCP黏包现象
TCP的长连接 基于upd的socket服务 TCP黏包现象
- python 黏包现象
一.黏包 1.tcp有黏包现象 表现两种情况 发送的数据过小且下面还有一个发送数据,这两个数据会一起发送 发送的数据过大,超过最大缓存空间,超出的部分在下一次发送的时候发送 原因: tcp是面向流的, ...
- 铁乐学Python_Day34_Socket模块2和黏包现象
铁乐学Python_Day34_Socket模块2和黏包现象 套接字 套接字是计算机网络数据结构,它体现了C/S结构中"通信端点"的概念. 在任何类型的通信开始之前,网络应用程序必 ...
- 黏包现象之TCP
老师的博客:http://www.cnblogs.com/Eva-J/articles/8244551.html#_label5 server #_*_coding:gbk*_ from socket ...
- Python之黏包
黏包现象 让我们基于tcp先制作一个远程执行命令的程序(命令ls -l ; lllllll ; pwd) res=subprocess.Popen(cmd.decode('utf-8'), shell ...
- python tcp黏包和struct模块解决方法,大文件传输方法及MD5校验
一.TCP协议 粘包现象 和解决方案 黏包现象让我们基于tcp先制作一个远程执行命令的程序(命令ls -l ; lllllll ; pwd)执行远程命令的模块 需要用到模块subprocess sub ...
随机推荐
- Django学习笔记----settings and database_based App demo
原文参考docs.djangoproject.com, what can manage.py utility do? find here. 1.Database Setup 编辑settings.py ...
- 【Oracle】glogin.sql脚本模板
[root@localhost ~]# su - oracle [oracle@localhost ~]$ vi $ORACLE_HOME/sqlplus/admin/glogin.sql defin ...
- associatedtype关联类型
associatedtype关联类型 定义一个协议时,有的时候声明一个或多个关联类型作为协议定义的一部分将会非常有用.关联类型为协议中的某个类型提供了一个占位名(或者说别名),其代表的实际类型在协 ...
- WIN 10 增删输入法
第一步: 任务栏右击 “语言——设置” 第二步: 第三步: 删除或者增加就好.
- Windows Server菜鸟宝典之一:Windows Server 2008 R2 AD服务器搭建
1.对于将要安装成为DC的服务器来讲,其系统配置以及基本的磁盘规划在此就不在累述了,但是关键的网络连接属性是必须要注意的.可以通过打开本地连接的属性来进行配置其IP属性.作为服务器DC的IP地 ...
- js中时间戳与日期时间之间的相互转换
1.时间戳转换为标准日期时间格式: function timeFormat(dateStr) { var date = new Date(dateStr); Y = date.getFullYear( ...
- struts2,hibernate等模板配置文件在jar包中的路径,以及所需要的包
一.struts2 1.struts的配置模板文件struts-default.xml的位置: struts-2.3.16.1 --> src --core --> src --> ...
- Django之瀑布流
一. 小功能瀑布流的实现 1.完成效果图 2.代码部分 <1>models.py from django.db import models # Create your models her ...
- asyncio 自动跳出长时间堵塞的 task
https://www.cnblogs.com/ywhyme/p/10660411.html 的升级版 可以知道当前是卡在哪一个 task 甚至是多少行 import asyncio import o ...
- 【原创】Vue.js 中 axios 跨域访问错误
1.假如访问的接口地址为 http://www.test.com/apis/index.php (php api 接口) 2.而开发地址为http://127.0.0.1:8080,当axios发起 ...