Hawk 1.1 快速入门(链家二手房)

链家的同学请原谅我，但你们的网站做的真是不错。

1. 设计网页采集器

我们以爬取链家二手房为例，介绍网页采集器的使用。首先双击图标，加载采集器：

在最上方的地址栏中，输入要采集的目标网址，本次是http://bj.lianjia.com/ershoufang/。并点击刷新网页。此时，下方展示的是获取的html文本。原始网站页面如下：

由于软件不知道到底要获取哪些内容，因此需要手工给定几个关键字，让Hawk搜索关键字，并获取位置。

以上述页面为例，通过检索820万和51789（单价,每次采集时都会有所不同），我们就能通过DOM树的路径，找出整个房源列表的根节点。

下面是实际步骤

由于要抓取列表，所以读取模式选择List。填入搜索字符700，发现能够成功获取XPath, 编写属性为“总价” ，点击添加字段，即可添加一个属性。类似地，再填入30535，设置属性名称为“单价”，即可添加另外一个属性。

如果发现有错误，可点击编辑集合，对属性进行删除，修改和排序。

你可以类似的将所有要抓取的特征字段添加进去，或是直接点击手气不错，系统会根据目前的属性，推测其他属性:

属性的名称是自动推断的，如果不满意，可以修改列表第一列的属性名，在对应的列中敲键盘回车提交修改。之后系统就会自动将这些属性添加到属性列表中。

工作过程中，可点击提取测试 ，随时查看采集器目前的能够抓取的数据内容。这样，一个链家二手房的网页采集器即可完成。可属性管理器的上方，可以修改采集器的模块名称，这样就方便数据清洗 模块调用该采集器。

2. 设计数据清洗流程

1. 构造url列表

在上一节介绍了如何实现一个页面的采集，但如何采集所有二手房数据呢？这涉及到翻页。

还是以链家为例，翻页时，我们会看到页面是这样变换的：

http://bj.lianjia.com/ershoufang/pg2/
http://bj.lianjia.com/ershoufang/pg3/
…

因此，需要构造一串上面的url. 聪明的你肯定会想到，应当先生成一组序列，从1到100（假设我们只抓取前100页）。

双击数据清洗ETL左侧的搜索栏中搜索生成区间数，将该模块拖到右侧上方的栏目中：

在右侧栏目中双击生成区间数，可弹出设置窗口，为该列起名字(id), 最大值填写为100,生成模式默认为Append:
为什么只显示了前20个？这是程序的虚拟化机制，并没有加载全部的数据，可在ETL属性的调试栏目中，修改采样量（默认为20）。
将数字转换为url, 熟悉C#的读者，可以想到string.format, 或者python的%符号：搜索合并多列，并将其拖拽到刚才生成的id列，编写format为下图的格式，即可将原先的数值列变换为一组url

(如果需要多个列合并为一个列，则在“其他项” 栏目中填写其他列的列名，用空格分割，并在format中用{1},{2}..等表示)

(由于设计的问题，数据查看器的宽度不超过150像素，因此对长文本显示不全，可以在右侧属性对话框点击查看样例，弹出的编辑器可支持拷贝数据和修改列宽。

3. 调用网页采集器

生成这串URL之后，我们即可将刚才已经完成的网页采集器与这串url进行合并。

拖拽从爬虫转换到当前的url，双击该模块：将刚才的网页采集器的名称，填入爬虫选择 栏目中。
（不少朋友在此处出现问题，需要在从爬虫选择模块中，填写你配置的网页采集器名称，如果没有修改，则默认就是网页采集器）

之后，系统就会转换出爬取的前20条数据：

可以看到，数据中“属性3” 列包含html转义符，

拖拽html字符转义，到属性3列，即可自动转换所有转义符。

如果要修改列名，在最上方的列名上直接修改，点击回车即可修改名字。

where（面积）列中包含数字，想把数字提取出来，可以将提取数字模块拖拽到该列上，所有数字即可提取出来。

类似地，可以拖拽字符分割或正则分割 到某一列，从而分割文本和替换文本。此处不再赘述。

有一些列为空，可以拖拽空对象过滤器 到该列，那么该列为空的话会自动过滤这一行数据。

4. 保存和导出数据

需要保存数据时，可以选择写入文件，或者是临时存储（本软件的数据管理器），或是数据库。因此可以将“执行” 模块，拖入清洗链的后端：
拖写入数据表到任意一列，并填入新建表名(如链家二手房)

下图是这次操作的所有子模块列表：

之后，即可对整个过程进行操作：

选择串行模式或并行模式，并行模式使用线程池，可设定最多同时执行的线程数（最好不要超过100）。推荐使用并行模式，

点击执行按钮，即可在任务管理视图中采集数据。

之后，在数据管理的数据表链家二手房上点击右键，选择另存为，导出到Excel,Json等，即可将原始数据导出到外部文件中。

类似的，你可以在清洗流程中拖入执行器，则保存的是中间过程，也可以在结尾拖入多个执行器，这样就能同时写入数据库或文件，从而获得了极大的灵活性。

5. 保存任务

在右下角的算法视图中的任意模块上点击右键，保存任务，即可在任务视图中保存新任务（任务名称与当前模块名字一致），下次可直接加载即可。如果存在同名任务，则会对原有任务进行覆盖。
在算法视图的空白处，点击保存所有模块,会批量保存所有的任务。

你可以将一批任务，保存为一个工程文件(xml)，并在之后将其加载和分发。