免费下载

八爪鱼采集器 - 最好用的网页数据采集器,超过40万用户首选网页采集软件

  1. 软件版本:V6.4.3
  2. 支持系统:32/64位 XP / Vista / Win7 / Win8 / Win8.1 / Win10
  3. 更新日期:03月22日 (新版功能)
免费下载
微信订阅号:八爪鱼采集器Live
扫一扫,关注我们
教程 | 功能点 | 实战案例
官方论坛解答
点击提问
免费版QQ群
1群:470619317 点击加入
2群:148686415 点击加入
专业版QQ群
3群:135071723 限专业版用户
2群:385161018 限专业版用户
1群:475423041 限专业版用户
旗舰版QQ群
3群:196097783 限旗舰版用户
2群:286777906 限旗舰版用户
1群:130849246 限旗舰版用户
站长采集交流群QQ群
2群:304456535 点击加入
1群:492396817点击加入
down

新手入门7:采集分页列表+ajax延时设置【4.3.5版本录制】

标签: 新手入门,新手,ajax 2015/7/10 17:23:46

本文给大家演示如何采集分页列表页面上的信息,并附带给大家讲一下ajax延时设置。目的是让大家了解怎么创建循环翻页并能正常采集网页数据信息。。

文章入口地址为:http://www.skieer.com/guide/demo/ajaxmovies.html#

首先打开八爪鱼采集器→点击快速开始→新建任务,进入到任务配置页面:

图片1

选择任务组,自定义任务名称和备注;

图片2

 

上图配置完毕之后,选择下一步,进入到流程配置页面,往流程设计器中拖入一个打开网页的步骤;

图片3

 

选中浏览器中的打开网页步骤,在右边的页面URL中输入网页URL并点击保存,系统会在软件下方的浏览器中自动打开对应网页:

图片4

 

下面创建循环翻页。点击上图浏览器页面中的Next按钮,在弹出的对话框中选择循环点击下一页;

图片5

 

翻页循环创建完毕之后,点击下图中的保存;

图片6

这里的翻页其实涉及到了ajax延时加载,ajax异步更新其实就是一种脚本技术,通过在后台与服务器进行少量数据交换,意味着可以在不重新加载整个网页的情况下,对网页的某部分进行更新。

Ajax延时加载最明显的两个特征就是点击网页中某个选项的时候网址是不会有任何变化的,然后网页不是完全加载,只是局部有变化。如果符合这两个特征就是一个ajax网页。或者后面进行采集测试的时候,流程直接停止或者没跑完就提示采集已成功完成,基本都是这个问题导致的。原因就是八爪鱼的内置浏览器打开这个网页进行翻页的时候,由于网址没有变化只是局部内容有更新,所以收不到网页变化的信号,导致采集停止或者采集不到数据。

所以按照下图所示,需要在点击翻页的高级设置里面设置ajax加载,这个点击翻页的时间自己估算一下,大概是两秒完成点击步骤。

图片7

 

上图的浏览器中大家可以看到网页都是由同样的区域行组成的,我们需要抓取每一个区域行中的数据信息,而且每个区域块中的格式都是一样的。这时候我们需要创建一个循环列表,循环抓取每一个区域行中的元素。

 

点击上图中第一个区域行,在弹出的对话框中选择创建一个元素列表以处理一组元素;

图片8

接下来在弹出的对话框中选择添加到列表

图片9

第一个区域行添加好之后选择继续编辑列表。图片10

接下来以同样的方式添加第二个区域行。

图片11

我们添加第二个区域行的时候可以看上图,这时候页面中其他元素都被添加进来了。这是因为我们添加的是具有两个相似特征的元素,系统会智能的将页面中其他具有相似特征的元素都添加进来。然后选择创建列表完成→点击下图中的循环

图片12

如上操作之后,循环采集列表就完成了。系统会在页面右上方显示本页面添加进来的所有循环项。

图片13

由于每一页都需要循环采集数据,所以我们需要将这个循环列表拖入到翻页循环里。

注意流程是从上网页执行的,所以这个循环列表需要放到点击翻页的前面,否则会漏掉第一页的数据。最终流程图如下图所示:

图片14

下面进行数据字段的提取,点击上图流程设计器中的提取数据,再选择浏览器中需要提取的字段,然后在弹出的选择对话框中选择抓取这个元素的文本;

图片15

 

上述操作之后,系统会在页面的右上方显示我们将要抓取的字段;

图片16

 

接下来配置页面中其他需要抓取的字段,配置完成之后修改字段名称;

图片17

 

修改完成之后点击上图中的保存按钮,再点开图中的数据字段可以看到,系统将会显示最终的采集列表;

图片18

 

点击上图中的下一步→下一步→启动单机采集(调试模式),进入到任务检查页面,以确保任务的正确性;

图片19

 

点击开始单机采集,系统将会在本地执行采集流程并显示最终采集的结果;

图片20



分享到: 更多
人工服务

立即下载,体验更高效简单的数据收集吧! 免费下载

粤公网安备 44030502000701号