经过前几课的学习,我们已经掌握了列表数据表格数据点击多个链接后的详情页数据实现翻页 的任务配置方法。

 

在此基础上,本课将详解八爪鱼的采集原理和流程执行逻辑,让大家对八爪鱼采集数据的方法有一个更深入的理解。

 

一、八爪鱼采集原理

 

1、模拟人的行为,通过内置Chrome浏览器浏览网页数据。

 

所以采集数据的第一步永远是找到目标网址并输入。这跟通过普通浏览器访问网页完全一样。

在普通浏览器中需要点击链接进入详情、点击翻页按钮查看更多数据,在八爪鱼中也需如此操作。

 

2、根据网页特性和采集需求,设计采集流程,八爪鱼根据流程全自动采集数据。

 

平常我们浏览网页的动作不会被记录下来。例如:这次在京东上输入关键词【手机】查询相关商品数据,下次还需要输。

 

在用八爪鱼采集数据的时候,我们就需要根据网页特性和采集需求,设计采集流程,将我们的采集需求记录下来。之后八爪鱼就能根据设计好的采集流程,全自动的采集数据。

 

例如:在前几课中学到的,需采集页面上的所有商品列表,我们就做一个【循环-提取数据】的步骤。采集时有很多页,需要翻页,我们就做一个【循环翻页】的步骤。

 

 

二、采集流程执行逻辑

 

八爪鱼通过【采集流程】全自动采集数据。【采集流程】执行逻辑遵循2个原则:先从上至下、再由内而外。

 

【采集流程】由【蓝色步骤】和【灰色框】两大部分组成。【蓝色步骤】是会执行的步骤,八爪鱼与网页发生互动。【灰色框】起记录网页的作用。

 

 

鼠标放到图片上,右键,选择【在新标签页中打开图片】可查看高清大图

下文其他图片同理

 

来看几个实例,更深入理解【采集流程】执行逻辑。

 

实例1:

 

 

实例2:

 

 

实例3:

 

 

特别说明:

a. 【采集流程】无固定标准,符合网页本身的跳转逻辑即可。

b. 【采集流程】中可设置多个点击步骤、多个嵌套循环,以实现网页多层级的数据采集。

c. 【采集流程】中的步骤,可以拖动调整位置。鼠标选中步骤并拖住移动至想要的  位置。

 

 

 

看到这里的小伙伴,恭喜您已经完成了【自定义配置采集数据】全部的入门课程。现在,您已经掌握基础的数据采集技能啦!

 

如果您有任何的问题与建议,请通过官网右侧QQ、电话、客服系统等多种渠道联系我们!

 

作者:Aisling
编辑:Aisling