请输入
菜单

登录验证采集

有很多网站,是需要登录账号密码以后,才能采集到目标数据的。有的网站登录时还会需输入验证码。

针对这类网站,八爪鱼提供多种解决方法。本课将详细讲解。

 

方法一、浏览器模式+记住Cookie

 

针对需要登录的网站,我们可以先将八爪鱼切换成浏览器模式,在浏览器模式下完成登录。然后通过获取Cookie记住登录状态。这样,八爪鱼就能在执行采集任务时,直接以登录状态打开网页,然后再采集数据。

 

场景:手动登录

 

以豆瓣网为例,

登录网址为:https://www.douban.com

实际要采集数据的网址为:https://book.douban.com/tag/%E5%B0%8F%E8%AF%B4

 

步骤1、使用浏览器模式,输入账号密码或扫码,完成登录

在客户端首页,输入登录网址,打开网页后,点击  按钮,进入浏览器模式。下图状态即为浏览器模式。在浏览器模式下,和用普通浏览器访问网页完全一样:只可浏览网页数据,不可配置规则。如需编辑规则,再次点击 按钮,关闭浏览器模式。

 

 

 

在浏览器模式中,扫码登录。可以看到,现在我们已经以登录状态访问网页。

 

 

步骤2、记住Cookie

 

现在,我们已经处于登录状态,八爪鱼可以获取登录后的Cookie,记住登录状态。

在【高级设置】勾选【使用指定的Cookie】,再点击【获取当前页面Cookie】。获取Cookie后会变成 ,点击  ,可查看具体的Cookie内容,最后点击【应用】保存。

八爪鱼会记住这个Cookie状态,启动采集后,直接以登录状态打开网页。

 

然后将鼠标移动到【打开网页】步骤后的 位置,会出现  按钮。点击 按钮,再添加一个【打开网页】步骤。双击新建的【打开网页】步骤,输入要采集数据的目标网址:https://book.douban.com/tag/%E5%B0%8F%E8%AF%B4。

 

特别说明

a. Cookie是什么?通俗的说,Cookie是一些存储在用户电脑上的小文件,用来保存一些站点的用户数据,作用是让浏览器为用户定制内容。例如:用户第一次访问某网站,输入了账号密码登录。浏览器会问你是否需要“记住账号密码”。选择是以后,浏览器就会将这些账号密码信息存储在用户电脑上。下次再访问此网站,就无需再次输入账号密码。

b. Cookie是有生命周期的,这个周期多长时间取决于采集的网站。如果Cookie到期了,就需要再重新获取一次登陆之后的Cookie。

c. 如果需要切换账号,可以打开【高级选项】,勾选【打开网页前先清理缓存】。这样,每次打开网页时都会清理掉缓存信息,以未登录状态打开网页,此时再登录新账号即可。

 

 

步骤3、按照需求,配置采集任务

接下来,请根据采集需求,自行配置采集任务。在这里以提取第1页的列表数据为例。如若不会,请看 快速创建一个自定义采集任务

可以看到,在启动本地采集以后,八爪鱼就以登录状态打开网页,采集数据。

 

 

特别说明

a. 用浏览器模式登录时,支持多种类型的验证码,包括输入型、滑块、手势等,因为是我们自己手动操作,跟在浏览器中相同。

 

记住cookie十分方便,每次直接以登录状态打开网页采集数据。但是,这个方法有一定局限性,部分网站是不支持Cookie登录的。此时,我们就可以用下面的方法。

 

 

方法二、配置流程、模拟人工登录

 

针对需要登录的网站,我们也可以在采集流程中配置【输入账号-输入密码-点击登录】步骤,模拟登录。这样,八爪鱼在执行采集任务时,就会走一遍输入账号密码的流程。

 

场景:输入账号、密码登录

 

以163邮箱网站为例,

登录网址为 https://mail.163.com

 

配置输入账号、输入密码的流程

网页打开以后,选中网页的用户名输入框,在弹出的操作提示框中,输入账号。再选中网页的密码输入框,在弹出的操作提示框中,输入密码。点击登录按钮登录

 

步骤2、按照需求,配置采集任务

 

登录完成以后,按照需求配置采集规则即可。在这里仅提取1个简单的字段。

 

步骤3、启动采集,采集数据

启动本地采集后,可以看到,八爪鱼按照我们配置好的流程,自动地输入账号、密码、识别验证码,完成登录并采集数据。

 

 

注意:

在新版的八爪鱼采集器中,新增【登录网站】按钮,点击【登录网站】后,弹出登录窗口界面,输入账号密码,完成登录,后续采集步骤与上述相同。

 

作者:Y

最近修改: 2024-02-02