使用wget工具抓取网页和图片 及 相关工具几个

想保存一些网页，最后找到这 wget 的 shell脚本,虽然不是太理想，亲测可用呢。



使用wget工具抓取网页和图片   来源 https://my.oschina.net/freestyletime/blog/356985



#!/bin/sh

URL="$2"

PATH="$1"

echo "download url: $URL"

echo "download dir: $PATH"

/usr/bin/wget -e robots=off -w 1 -xq -np -nH -pk -m  -t 1 -P "$PATH" "$URL"

echo "success to download"



脚本的使用方法 ./wget_cc ./download http://www.baidu.com



需要注意的是，我的wget是在/usr/bin目录下（这里必须写全路径），你可以使用which wget这个命令确定你的wget路径所在，然后替换到脚本中就行了。



这里多加了几个参数，解释一下：

-e 用法是‘-e command’

    用来执行额外的.wgetrc命令。就像vim的配置存在.vimrc文件中一样，wget也用.wgetrc文件来存放它的配置。也就是说在wget执行之前，会先执行.wgetrc文件中的配置命令。一个典型的.wgetrc文件可以参考：

    http://www.gnu.org/software/wget/manual/html_node/Sample-Wgetrc.html

    http://www.gnu.org/software/wget/manual/html_node/Wgetrc-Commands.html

    用户可以在不改写.wgetrc文件的情况下，用-e选项指定额外的配置命令。如果想要制定多个配置命令，-e command1 -e command2 ... -e commandN即可。这些制定的配置命令，会在.wgetrc中所有命令之后执行，因此会覆盖.wgetrc中相同的配置项。



    这里robots=off是因为wget默认会根据网站的robots.txt进行操作，如果robots.txt里是User-agent: * Disallow: /的话，wget是做不了镜像或者下载目录的。

    这就是前面为什么下载不了图片和其他资源的原因所在了，因为你要爬的HOST禁止蜘蛛去爬它，而wget使用 -e robots=off 这个选项可以通过这个命令绕过这个限制。

-x 创建镜像网站对应的目录结构

-q 静默下载，即不显示下载信息，你如果想知道wget当前在下载什么资源的话，可以去掉这个选项

-m 它会打开镜像相关的选项，比如无限深度的子目录递归下载。

-t times 某个资源下载失败后的重试下载次数

-w seconds 资源请求下载之间的等待时间（减轻服务器的压力）

剩下有不懂的你就去挖文档吧。

写好后保存退出，执行：

chmod 744 wget_cc

OK，这样脚本就能直接执行，而不用在每条命令前带 /bin/sh 让sh去解释它了。

下面就让脚本执行起来吧！

./wget_cc ./download http://www.baidu.com

下载完成后的目录结构

OK，然后再查看<img>标签中的src属性，

src="img/bd_logo1.png"

果然换成了相对路径啊，大功告成，觉得对您有帮助的请点个赞吧！



========================= 华丽的分割线之后 =================================

信息收集之网站镜像克隆   资料来源 http://www.sqlsec.com/2016/web.html



使用HTTrack复制克隆网站

介绍

HTTrack是一款免费的离线浏览器工具，和wget克隆复制镜像差不多，从服务器抓取HTML文件、图片、以及其他css文件并存储到你的计算机上。Kali 2.0起默认预装了 HTTrack。

使用方法



终端下输入:



httrack



如果没有安装这个工具的话，那就现场安装一下吧，只需要2个命令:



apt-get update

apt-get install httrack



这里提示要输入项目名称、存放网站的路径（默认为 /root/website） 和要克隆的目标站 我们这里以 搜狗浏览器官网为例

我们自定义输入test 然后 按下 回车



sougou



然后默认路径 回车



```

输入想要克隆的网站



http://ie.sougou.com

`` 下面HTTrack提供了一些选项，我们一般选择第二本选项Mirror Web Site(s) with Wizard（具有向导递归层级的镜像网站） 输入:2`

回车 回车 回车 后面的一些基本设置 一般一直回车下去 直到网站开始克隆为止，HTTrack 就开始进行网站克隆了。



========================= 华丽的分割线之后 =================================

ruby 爬虫 Spidr 用法 资料来源 https://my.oschina.net/u/572987/blog/89734



从一个网址开始爬: Spidr.start_at('http://tenderlovemaking.com/')



还有很多，