在使用八爪鱼采集器的过程中,由于网页风控,会出现以下情况:
1.采集一半弹出验证码,手动输入后任务继续,下次又弹出。
2.明明采集频率很低,但还是被封IP。
3.采集时被识别为机器人-限制访问或直接空屏。
这些问题,很可能是因为你选错了采集方式。八爪鱼采集器提供两种本地采集方式:独立浏览器 和 内置浏览器。选对方式,采集成功率提升90%。
PS:该模式由采集器10.0版本以上支持。
一、内置浏览器
1、基本概念
内置浏览器是八爪鱼采集器的默认采集模式,它的特点在于:
(1)客户端内置:由客户端启动采集,模拟访问常规浏览器。
(2)后台静默运行:任务可以在后台持续执行。
(3)资源占用低:不需要启动完整浏览器、可以同时运行多个采集任务、对电脑性能要求更低。
(4)故障排查方便:内置浏览器窗口可显示网页内容、同时查看日志,快速定位问题。
2、适用场景
大批量公开数据采集。
反爬较弱的常规页面。
资源有限,需同时运行多任务。
3、 使用介绍
步骤一:确认采集规则任务
请先自定义配置完任务或者配置完模板任务。
特别说明:a. 配置模板任务b.内置浏览器模式是默认采集方式。
步骤二:启动采集
特别说明:a. 模板点击启动:
步骤三:查看采集状态
1.客户端会开两个窗口:一个源窗口,一个采集窗口。

2.采集窗口中有4个标签页,介绍如下:

任务概况:可查看采集开始/结束时间,去重后数量以及资源使用情况(验证码、代理IP)。
数据列表:可以预览采集到的数据。

任务日志:任务流程运行实况记录。

任务历史:该任务的执行记录。

3.点击右上角的显示网页可以查看内置浏览器运行采集情况。
特别说明:a. 打开显示网页结合日志是排查问题的关键步骤。具体请参考:本地排错
4.采集运行控制
暂停:可以停止流程采集,用于控制/操作流程间突发验证与排错。 停止:直接终止采集。

步骤四:数据导出
点击停止或者正常采集结束,选择导出方式即可。

二、独立浏览器
1、基本概念
独立浏览器是八爪鱼采集器针对高难度反爬场景推出的解决方案。它的核心优势在于:
(1)真实浏览器环境:网站难以区分是真人还是爬虫。
(2)全程可见可控:打开独立浏览器窗口,采集过程一览无余、发现异常可以随时手动干预、新弹出的窗口会单独显示。
2、适用场景
目标网站需要账号登录。
反爬检测严格(频次、行为分析)。
需要人工确认或干预的流程。
采集过程需要实时监控。
无需配置复杂的登录规则。
适合需要会话保持的采集任务。
可以随时暂停任务手动输入验证码,处理完继续执行,无缝衔接。
3、 使用介绍
步骤一:确认采集规则任务
请先自定义配置完任务或者配置完模板任务。(请参考一、内置浏览器的该步骤)
步骤二:启动采集
特别说明:a. 由于本地采集默认采集方式内置浏览器,所以要在下拉框选择独立浏览器采集。
步骤三:查看采集状态
1.客户端会开两个窗口:一个源窗口,一个采集窗口。同时独立浏览器会开一个新窗口用于采集。

2.采集窗口中有依旧有4个标签页,介绍如下:

任务概况:可查看采集开始/结束时间,去重后数量以及资源使用情况(验证码、代理IP)。
数据列表:可以预览采集到的数据。

任务日志:任务流程运行实况记录。

任务历史:该任务的执行记录。

3.由于开启新窗口,则直接在窗口实时显示网页。

特别说明:a. 如果需要排错,建议用客户端日志窗口与新浏览器采集窗口对比排查。
4.采集运行控制
暂停:可以停止流程采集,用于控制/操作流程间突发验证与排错。 停止:直接终止采集。

步骤四:数据导出
点击停止或者正常采集结束,选择导出方式即可。

三、模式对比与选择
1、模式对比
|
对比维度
|
内置浏览器
|
独立浏览器
|
|---|---|---|
|
技术原理
|
基于客户端内置浏览器执行
|
调用本地Chrome/Edge浏览器实时交互
|
|
反爬能力
|
较弱(易被识别为自动化工具)
|
强(本地浏览器特征,真实用户行为)
|
|
适用场景
|
公开数据、低反爬页面
|
需登录、有验证码、反爬强的网站
|
|
稳定性
|
高,任务可持续后台运行
|
关闭页面即终止任务
|
|
日志查看
|
网页与日志同步查看
|
任务窗口+独立浏览器窗口搭配使用
|
|
新开标签页
|
在内置窗口内打开
|
按独立窗口标准存在
|
2、场景推荐
|
场景
|
推荐方式
|
理由
|
|---|---|---|
|
电商商品详情(需登录)
|
独立浏览器
|
保持登录态,处理验证码
|
|
社交媒体数据采集
|
独立浏览器
|
反爬强,需验证
|
|
新闻资讯批量采集
|
内置浏览器
|
低反爬,高效稳定
|
|
公开名录数据采集
|
内置浏览器
|
大批量,后台运行
|
|
企业信息工商数据
|
内置浏览器
|
反爬较弱,适合定时任务
|
|
行业网站内容监控
|
独立浏览器
|
反爬较强,需人工处理
|
作者:YfY