【初学shell，今天遇到由wget下载到本地的网页源代码的乱码问题，无聊的写了一个转码的脚本】的更多相关文章

初学shell，今天遇到由wget下载到本地的网页源代码的乱码问题，无聊的写了一个转码的脚本

今天用wget想下载文件,结果下载了一堆本地的index.html文件,一查看全是乱码,然后百度了一下,网页的编码格式大概有三种: 1.utf-8 2.gb2312 3.gbk 要在网页源码中的<head>下的<meta >属性的设置中查看 charset  对应的属性值. 而我的centos的操作系统只识别utf-8格式的,由环境变量LANG保存的配置,我们可以查看一下 echo $LANG  ,系统返回的是:zh_CN.UTF-8 .所以我们需要一个转换编码格式的命令:icon…

git使用之如何将github库下载到本地与如何将代码上传github

git使用之如何将github库下载到本地与如何将代码上传github ------------------------------------------------------------------------- 原作者不详,如有侵权,我将以最快的速度删除该文,敬请谅解. 发布该文,仅仅是为了分享和传播技术. ------------------------------------------------------------------------- 一.如何将github库下载到本地…

多线程爬虫Java调用wget下载文件，独立线程读取输出缓冲区

写了个抓取appstore的,要抓取大量的app,本来是用httpclient,但是效果不理想,于是直接调用wget下载,但是由于标准输出.错误输出的原因会导致卡住,另外wget也会莫名的卡住. 所以我采用: 一.独立线程读取输出信息: 二.自己实现doWaitFor方法来代替api提供的waitFor()方法,避免子进程卡死. 三.设置超时,杀死wget子进程,没有正确返回的话,重试一次,并把超时时间加倍: 有了以上操作,wget不会卡死,就算卡住了也会因为超时被干掉再重试一次,所以绝大部分的…

Shell 命令行实现将一个站点页面全部下载到本地并替换其中链接的脚本

Shell 命令行实现将一个站点页面全部下载到本地并替换其中链接的脚本 不知道为什么,我总想用 Shell 脚本来实现把一个站点内容给下载下来.但是下载什么站点我确不知道.今天尝试了一下利用 curl 实现了下载一个站点列表的 demo 算是小试牛刀. 当脚本成功之后,我知道,要把这个站点完全下载下来也是没有问题的.不过是需要更加复杂的循环和匹配而已. 接下来有工作要做,所以 shell 的学习暂时先告一段落. 实现代码 #!/bin/bash echo '--开始下载首页--' curl -s…

wget下载工具

转自于:http://www.jb51.net/LINUXjishu/86326.html 1.使用wget下载单个文件  e.g. wget http://cn.wordpress.org/wordpress-3.1-zh_CN.zip #下载文件,并保存在当前目录下 #下载过程显示进度条,当前下载速度,剩余下载时间等 2.使用wget -O 下载并以不同的文件名保存  e.g. wget http://www.centos.bz/download?id=1080 #默认保存在当前目录下的文件…

Wget下载终极用法和15个详细的例子

Wget下载终极用法和15个详细的例子 备注:wget  不支持https 下载,也没有相关https参数,当下载https的时候或以改用 axelWget是一种很好用的因特网下载工具,他具有的很多特性是其他工具所不能比拟的,再者他是一个轻量级可配置的下载工具. 本文结合例子介绍Windows下wget的多种下载方法和用途. 1.用Wget下载单个文件 下载的时候会显示: ~文件的大小.连接状态.连接地址以及文件的大小 ~保存的名称 ~下载进度条 ~下载速度.时间,还有多少未下载 例如我下载ed…

15个Linux Wget下载实例终极指南

15个Linux Wget下载实例终极指南 Linux wget是一个下载文件的工具,它用在命令行下.对于Linux用户是必不可少的工具,尤其对于网络管理员,经常要下载一些软件或从远程服务器恢复备份到本地服务器.如果我们使用虚拟主机,处理这样的事务我们只能先从远程服务器下载到我们电脑磁盘,然后再用ftp工具上传到服务器.这样既浪费时间又浪费精力,那不没办法的事.而到了Linux VPS,它则可以直接下载到服务器而不用经过上传这一步.wget工具体积小但功能完善,它支持断点下载功能,同时支持FTP…

用wget下载文件

wget使用文档:https://www.gnu.org/software/wget/manual/wget.html 最开始常用的比如: wget -O  /e/movie.mp4 http://www.com/m.mp4输出到e盘的movie.mp4文件:可是 - O 默认会覆盖文件!所以在最后面加个 -c  表示继续下载.wget -O  /e/movie.mp4 -c wget -P /e/ http://www.com/m.mp4下载到e盘,文件名保持和url上的一样(m.mp4):-…

使用wget下载JDK8

每次去官网下载JDK有点烦 但是直接使用wget 又得同意协议所以 使用如下的wget就好了(注意是64位的哦) 先去官网看一下地址变化 没有如下 :修改后面的下载地址即可 注意哦~ 2.然后使用下面的wget下载就好了~(不可以直接解压需要重命名后缀名有问题哦) wget --no-check-certificate --no-cookies --header "Cookie: oraclelicense=accept-securebackup-cookie" http://down…

wget下载整个网站

wget下载整个网站wget下载整个网站可以使用下面的命令 wget -r -p -k -np http://hi.baidu.com/phps , -r 表示递归下载,会下载所有的链接,不过要注意的是,不要单独使用这个参数,因为如果你要下载的网站也有别的网站的链接,wget也会把别的网站的东西下载 下来,由于互联网的特性,很有可能你会把整个互联网给下载下来 --,所以要加上 -np这个参数,表示不下载别的站点的链接. -k表示将下载的网页里的链接修改为本地链接.-p获得所以显示网页所需的元素,…