贪心算法——Huffman 压缩编码的实现
1. 如何理解 “贪心算法”
假设我们有一个可以容纳 100 Kg 物品的背包,可以装各种物品。我们有以下 5 种豆子,每种豆子的总量和总价值都各不相同。怎样装才能让背包里豆子的总价值最大呢?
这个问题其实很简单,我们只需要计算出每种豆子的单价,然后按照单价从高到低依次来装就好了。单价从高到低排列为:黑豆、绿豆、红豆、青豆和黄豆,因此我们往背包里装 20 Kg 黑豆、30 Kg 绿豆和 50 Kg 红豆。
实质上,这就是贪心算法的思想,用贪心算法解决问题的步骤一般是这样的。
第一步,当我们看到这类问题的时候,首先要联想到贪心算法。针对一组数据,我们定义了限制值和期望值,希望选出几个数据,在满足限制值的情况下,期望值最大。在刚才的问题中,限制值就是重量不超过 100 Kg,期望值就是豆子总价值。
第二步,我们尝试看下这个问题是否可以用贪心算法解决。每次选择当前情况下,在对限制值同等贡献的情况下,对期望值贡献最大的数据。上例中,就是选取单价最高的豆子,也就是重量相等情况下对总价值贡献最大的豆子。
第三步,我们举几个例子看下贪心算法产生的结果是否是最优的。大部分情况下,举几个例子验证一下就可以了,严格证明贪心算法的正确性,需要涉及比较多的数学推理,非常复杂。从时间角度来看,大部分能用贪心算法解决的问题,其正确性都是显而易见的,也不需要严格的证明。
实际上,贪心算法解决问题的思路,并不总是能给出最优解。
在下面的有权图中,我们需要找到一条从顶点 S 出发到顶点 T 的最短路径,使得路径中边的权重和最小。贪心算法的思路是每次选择一条和当前顶点连接的权重最小的边,最终答案是 S->A->E->T,权重和为 9。
但是,最优解实际上是 S->B->D->T,权重和为 6。在这个问题上,贪心算法不工作的原因主要是,前面的选择会影响后面的选择。一旦第一步选择了顶点 S 到顶点 A,第二步我们就和顶点 B、C 无关了。即使第一步最优,但是若因为这个选择后面的选择都很糟糕,那总体上也就不会取得最优解了。
2. 贪心算法实战分析
2.1. 分糖果
假设我们有 m 个糖果要分给 n 个孩子,因为糖果少孩子多(m<n),所以糖果只能分给一部分孩子。每个糖果的大小不等,每个孩子对糖果的需求也不同,只有糖果的大小大于等于孩子对糖果的需求时,孩子才能得到满足。如何分配糖果,才能尽可能地满足最多数量的孩子呢?
对于一个孩子来说,如果小的糖果可以满足,我们就没必要用更大的糖果,这样更大的糖果就可以用来满足需求更大的孩子。另一方面,对糖果需求小的孩子更容易满足,因此我们可以从需求小的孩子开始分配糖果,因为满足一个需求小的孩子和满足一个需求大的孩子,对我们结果的贡献是一样的。
所以,我们就可以从剩下的孩子中,找出一个需求最小的,然后发给他剩余糖果中能满足他需求的最小的糖果。这样的分配方案,最后就能满足最多数量的孩子。
2.2. 钱币找零
假设我们有面值分别为 1 元、2 元、5 元、10 元、20 元、50 元、100 元的钞票若干,现在要用这些钱来支付 K 元,最少要用多少张纸币呢?
在生活中,我们肯定首先用面值最大的来支付,如果不够,我们继续用更小一点面值的,以此类推,直到最后满足为止。在贡献相同期望值(纸币数量)的情况下,我们肯定希望多贡献点金额,这样就可以让纸币数更少,这就是一种贪心的思想。
2.3. 区间覆盖
假设我们有 n 个区间,区间的起始端点分别为 [l1, r1],[l2, r2],[l3, r3],……,[ln, rn]。我们从这 n 个区间中选出一部分区间,这部分区间满足两两不相交(端点相交不算),最多能选出多少个区间呢。
这个问题的解决思路是这样的,假设这 n 个区间的最左端点是 lmin,最右端点是 rmax。那么这个问题就相当于,我们选择几个不相交的区间,从左到右将 [lmin, rmax] 覆盖上。我们按照起始端点从小到大的顺序对这 n 个区间进行排序,每次选择的时候,左端点和前面已经覆盖的区间不重合而右端点又尽量小的区间,就能让剩下的未覆盖区间尽量大,从而就可以放置更多的区间。
这实际上就是一种贪心的选择方法,而且这种处理思想在任务调度、教师排课等问题中都有用到。
3. Huffman 压缩编码
假设有一个包含 1000 个字符的文件,每个字符占 1 个字节 8 位,那么存储这个文件就需要 8000 bits。如果通过统计分析我们发现这 1000 个字符只包含 6 个不同的字符,假定它们为 a, b, c, d, e, f。那我们只用 3 个二进制位就可以表示 8 个不同的字符,所以存储 1000 个字符就只需要 3000 bits 了,比原来省了很多空间。那还有没有更加节省空间的存储方式呢?
霍夫曼编码就要登场了。霍夫曼编码是一种非常有效的编码方式,广泛用于数据压缩中,其压缩率通常在 20% - 90% 之间。霍夫曼编码不仅会考察文本中有多少个不同字符,还会考察每个字符出现的频率,根据频率的不同,选择不同长度的编码。根据贪心的思想,我们可以把出现频率比较多的字符,用稍微短一点的编码,而对出现频率比较少的字符用稍微长一些的编码。
对于等长的编码来说,我们解压缩起来很简单,每次从文本中读取固定长度的二进制码,然后翻译成对应字符即可。但是,霍夫曼编码是不等长的,我们每次应该读取多少位的二进制来进行解码呢?为了避免解码过程出现歧义,霍夫曼编码要求各个字符的编码之间,不会出现某个编码是另一个编码前缀的情况。
假设这 6 个字符出现的频率从高到低依次是:a、b、c、d、e、f,我们就把它编码成下面这个样子,任何一个字符的编码都不是另一个的前缀。在解压缩的时候,我们每次会读取尽可能长的可解码的二进制串,所以也不会出现歧义。这种编码方式,存储 1000 个字符就只需要 2100 bits 了.
那霍夫曼编码是如何根据字符出现频率的不同,给不同的字符进行不同长度的编码的呢?
我们把每个字符看作一个节点,并且附带着把频率放到优先级队列中。然后,从队列中取出频率最小的两个子节点 A、B,新建一个节点 C,使其频率为 A、B 两个节点的频率之和,并把这个新节点 C 作为 A、B 节点的父节点。最后,再把 C 节点放入到优先级队列中,重复这个过程,直到队列中没有数据为止。
现在,我们给每一条边画一个权值,指向左子节点的边统统标记为 0,指向右子节点的边统统标记为 1,那么从根节点到叶节点的路径就是叶节点对应字符的霍夫曼编码。
获取更多精彩,请关注「seniusen」!
贪心算法——Huffman 压缩编码的实现的更多相关文章
- 贪心算法-Huffman编码
伪代码: 例子:
- [C++]哈夫曼树(最优满二叉树) / 哈夫曼编码(贪心算法)
一 哈夫曼树 1.1 基本概念 算法思想 贪心算法(以局部最优,谋求全局最优) 适用范围 1 [(约束)可行]:它必须满足问题的约束 2 [局部最优]它是当前步骤中所有可行选择中最佳的局部选择 3 [ ...
- [算法]Huffman树(哈夫曼树)
目录 一.关于Huffman树 二.具体实现 例1:P1090 合并果子 例2:P2168 [NOI2015]荷马史诗 一.关于Huffman树 Huffman树(哈夫曼树)可以解决下述问题: 一颗\ ...
- 关于贪心算法的经典问题(算法效率 or 动态规划)
如题,贪心算法隶属于提高算法效率的方法,也常与动态规划的思路相挂钩或一同出现.下面介绍几个经典贪心问题.(参考自刘汝佳著<算法竞赛入门经典>).P.S.下文皆是我一个字一个字敲出来的,绝对 ...
- 贪心算法(Greedy Algorithm)
参考: 五大常用算法之三:贪心算法 算法系列:贪心算法 贪心算法详解 从零开始学贪心算法 一.基本概念: 所谓贪心算法是指,在对问题求解时,总是做出在当前看来是最好的选择.也就是说,不从整体最优上加以 ...
- 算法导论----贪心算法,删除k个数,使剩下的数字最小
先贴问题: 1个n位正整数a,删去其中的k位,得到一个新的正整数b,设计一个贪心算法,对给定的a和k得到最小的b: 一.我的想法:先看例子:a=5476579228:去掉4位,则位数n=10,k=4, ...
- LEETCODE —— Best Time to Buy and Sell Stock II [贪心算法]
Best Time to Buy and Sell Stock II Say you have an array for which the ith element is the price of a ...
- ACM_ICPC hdu-2111(简单贪心算法)
一道非常简单的贪心算法,但是要注意输入的价值是单位体积的价值,并不是这个物品的总价值!#include <iostream> #include <stdio.h> #inclu ...
- 基于贪心算法的几类区间覆盖问题 nyoj 12喷水装置(二) nyoj 14会场安排问题
1)区间完全覆盖问题 问题描述:给定一个长度为m的区间,再给出n条线段的起点和终点(注意这里是闭区间),求最少使用多少条线段可以将整个区间完全覆盖 样例: 区间长度8,可选的覆盖线段[2,6],[1, ...
随机推荐
- 再探motan
前言:上周使用motan是通过group远程调用超级土豆的服务,但是因为我需要写一些服务,不得不在本地启动服务,于是就详细的自己配置了一次motan. 上一篇博客也说到了,motan主要有3部分组成: ...
- Oracle数据库随机取某条记录的一个字段值
思路: 先将取出的值随机排序,然后在随机排序的每次取第一条的结果 举例如下: select * from(select t.code fromTBIZOPS_PROVINCE t ORDER BY ...
- Xcode 之 Debug 和 Release 模式切换方式 - iOS
一.选择项目工程,其次选择 Edit Scheme 二.在弹框中选择 Run => Info => Build Configuration 选择中进行 Debug 和 Release 的切 ...
- python 变量定义
变量定义 什么是变量? 在程序运行过程中,其值可以改变的量. 标识符(命令规范) 只能由数字.字母.下划线组成 不能以数字开头 不能是系统关键字 import keyword # 打印关键字列表 ...
- Windows10:Opencv4.0+Opencv4.0.1_contrib编译
操作系统:windows10 64bit 已安装工具:VS2017 64bit,cmake3.12bit. 安装Cmake:到cmake下载3.12及以上版本,64bit, 选择windows下的安装 ...
- 模板——最小生成树kruskal算法+并查集数据结构
并查集:找祖先并更新,注意路径压缩,不然会时间复杂度巨大导致出错/超时 合并:(我的祖先是的你的祖先的父亲) 找父亲:(初始化祖先是自己的,自己就是祖先) 查询:(我们是不是同一祖先) 路径压缩:(每 ...
- hdu_5698_瞬间移动
有一个无限大的矩形,初始时你在左上角(即第一行第一列),每次你都可以选择一个右下方格子,并瞬移过去(如从下图中的红色格子能直接瞬移到蓝色格子),求到第nn行第mm列的格子有几种方案,答案对100000 ...
- MySQL 5.7基于GTID的主从复制
since i've broken down the replication enviornment by "reset master;" yesterday.th ...
- node 版本升级,版本管理,版本切换
查看node版本 node -v 升级步骤 1,清除node缓存 sudo npm cache clean -f 2,安装n模块 sudo npm install -g n 3,升级到稳定版本 sud ...
- Jupyter Notebook的魔法
在腾讯云上搭建了一个Jupyter Notebook 还是很好用的, 这里总结了一些看到的小技巧及快捷键使得我们更加快捷的完成工作. Notebook 与 Vim 有些类似,有两种键盘输入模式,即命令 ...