采集场景

采集采集游天下不同城市的租房信息。

 

采集字段

城市、标题、出租人、地址、价格、标题链接、坐标等。

 

 

点击图片可查看高清大图,下文其他图片同理 

 

采集结果

采集结果可导出为Excel,CSV,HTML,数据库等多种格式。导出为Excel示例:

 

 

教程说明

本篇制作时间:2021/1/13    八爪鱼版本:V8.2.6

如果因网页改版造成网址或步骤无效,无法采集到目标数据,请联系官方客服,我们将及时修正。

 

采集步骤

 

步骤一、打开网页

步骤二、提取数据

步骤三、创建【循环列表】

步骤四、提取数据

步骤五、启动采集

 

以下为具体步骤:

 

步骤一、打开网页

 

首页左上角点击【新建】—【自定义任务】。网址输入界面默认的是【手动输入】。

将复制好的一批同类网址,粘贴进网址输入框中,并点击【保存网址】。

八爪鱼中内置的浏览器会自动打开网页。同时,可以看到,流程中已自动创建【循环-打开网页】步骤。

 

 

特别说明:

a. 打开网页后,如果开始开始【自动识别】,请等待自动识别完成。八爪鱼支持自动识别网页上的列表,滚动和翻页,识别成功后直接启动采集并获取数据。如果【自动识别】的结果不是我们需要的,可点击【取消】关闭智能识别,自行配置采集流程。详情点击查看【自动识别】

b. 手动输入的url数量不得大于1万个,如有超过1万url,请选择【从文件导入】,具体请查看教程 网址输入升级

 

步骤二、提取数据

 

提取字段【城市】:在网页中选中区域的位置,再在操作提示框中点击【采集该文本框的值】。
如果不需要此字段,可跳过此步骤。

 

 

步骤三、创建【循环列表】

 

通过以下连续3步,采集所有房源列表中的标题和链接:

1、选中页面上一个房源列表

2、再选中页面上另一个房源列表,这样页面中全部的房源列表都被识别到了

3、选中【采集以下元素文本】,八爪鱼将列表中的全部字段作为一个字段提取下来。

如需单独提取每个字段,请看以下操作。

 

 

特别说明:

a. 为什么经过以上步骤能建立起循环列表步骤?详情请看 采集列表数据教程

 

步骤四、采集字段

 

1、采集列表中的字段

文本类字段的采集方式为:在网页中选中字段所在位置,然后在操作提示框中选择【采集该元素的文本】。

经过以上方式,房源标题、房源链接、价格等字段就被单独采集下来了。

 

 

2、编辑字段

列表中的字段采集下来后,我们可以进行修改字段名称、删除多余字段、调整字段顺序等操作。

 

 

3、进入房源详情页,采集【坐标】字段

【坐标】字段在房源详情页的网页源码中,并不直接显示在网页上。我们可以通过采集源码并格式化的方式提取。

具体操作如下:

① 先选中房源链接,在操作提示框中选择【点击该链接】,进入房源详情页

② 然后再选中坐标位置,在操作提示框中选择【采集该元素的Outer Html 】,将坐标所在的网页源码采集下来

③ 为了精准定位到每一个房源详情页的坐标源码位置,我们还需要修改一下xpath:点击字段后的【...】,选择【修改元素定位】,修改xpath为://script [@type="text/javascript" and not(@src )][last()] ,然后【应用】保存。

 

 

④  坐标的源码被采集下来后,接下来用数据格式化将坐标从源码中提取出来:点击字段后的【...】,选择【字段格式化】-【添加步骤】-【正则匹配】,填入正则表达式  latmap(.+?)(?=;) ,【应用】保存,最后再修改字段名称为【坐标】。

 

 

特别说明:

a.  默认的定位不准确,需要修改Xpath,要用有一定的Xpath知识,【Xpath系统学习】

b.  要将目标字段从源码中提取出来,需要学习格式化数据,详情点击查看 【正则表达式】教程

 

步骤五、启动采集

 

1、保存好任务之后,点击【采集】并选择【启动本地采集】。启动后八爪鱼开始自动采集数据。

 

 

特别说明:

a. 【本地采集】是使用自己的电脑进行采集,【云采集】是使用八爪鱼提供的云服务器采集,点击查看 本地采集与云采集详解

b.  如果采集的时候弹出验证,需要手动点击验证后才能采集数据。

 

2、采集完成后,选择合适的导出方式导出数据。支持导出为Excel、CSV、HTML、数据库等。这里导出为Excel。

 

 

 

作者:Fan

编辑:Aisling