1、图片采集

在八爪鱼中,采集图片有以下几大步

1)先采集网页图片的地址链接URL

2)通过八爪鱼提供的图片批量下载工具将URL转化为图片

八爪鱼图片批量下载工具

 

2、常见应用情景

1)非瀑布流网站纯图片采集

采集示例:豆瓣网图片采集教程 

2)瀑布流网站纯图片采集

这类瀑布流网站的采集需要按下面的步骤对采集规则进行设置:

① 点击采集规则打开网页步骤的高级选项;

② 勾选页面加载完成后下滚动;

③ 填写滚动的次数及每次滚动的间隔;

④ 滚动方式设置为:直接滚动到底部;

完成上面的规则设置后,再对页面中图片的URL进行采集

采集示例:百度网图片采集教程 

 

注意:滚动次数,滚动间隔应根据网页加载情况来设置。如果往下滚动,页面信息加载比较慢,建议将滚动间隔设大些。滚动次数应看滚动多少次可以将我们需要的数据加载全,建议多一两次,有备无患。滚动方式则看网页是一滚到底就全部数据都能顺利加载,还是得一屏一屏滚动才行。一般而言一屏一屏滚动,效果好但更费时。滚一屏的大小取决于你屏幕的大小,云采集则默认全屏。

 

3)文章图文采集

需要将文章里的文字和图片都采集下来,一般有两种方法

方法1:判断条件,设置判断条件分别采集文字和图片

采集示例:腾讯新闻图文采集

方法2:先整体采集文字,再循环采集图片

采集示例:UC头条图文采集

 

3、教程目的

采集图片URL这个步骤,以上图片采集教程中都有详细说明,不再赘述。本文将重点讲解图片采集的采集技巧和注意事项。

 

4、采集图片URL操作步骤

以下演示一个采集图片URL的具体操作步骤,以百度图片URL采集为例。不同的网站图片URL会遇到不同的情况,请大家灵活处理。

 

① 选中一张图片 → 选中全部 → 采集以下图片地址

 

② 启动采集看一下采集结果,图片URL被采集下来

具体流程步骤请参考:瀑布流图片采集,以百度图片为例 中的步骤1-4。

 

5、图片批量导出操作步骤

经过如上操作,我们已经得到了要采集的图片的URL。接下来,再通过八爪鱼专用的图片批量下载工具,将采集到的图片URL中的图片,下载并保存到本地电脑中。

1)下载八爪鱼图片批量下载工具,双击文件中的MyDownloader.app.exe,打开软件 

2)打开File菜单,选择从EXCEL导入(目前只支持EXCEL格式文件)

3)进行相关设置

选择EXCEL文件:导入你需要下载图片地址的EXCEL文件

EXCEL表名:对应数据表的名称

文件URL列名:表内对应URL的列名称  

保存文件夹名:EXCEL中需要单独一个列,列出图片想要保存到文件夹的路径。以上示例中,我们在EXCEL中,加一个列,列名为“图片保存文件夹”,列中的数据为“D:\百度图片采集\”,则“D:\百度图片采集\”成为图片保存路径(可自定义选择其他磁盘进行存储、可自定义修改文件夹名;“D:\\”需在英文状态下输入)

 

以下是具体操作演示:

① 按照上面所述,配置EXCEL表名、文件URL列名和保存文件夹名

 

② 配置完成以后,点击“开始下载”

 

③ 打开D盘,找到“百度图片采集”文件夹,查看采集到的图片

 

6、图片采集及批量导出技巧

1)将不同图片,保存到不同文件夹中:在八爪鱼配置抓取模板时,预先添加一个字段,作为图片文件夹名,可设置多层文件夹。例,“D:\第一层文件夹名\第二层文件夹名\”,其中“D:\第一层文件夹名\”是固定的,“第二层文件夹名”,根据图片采集时的标题/关键词变化

 

① 采集关键词的文本,作为“第二层文件夹名”。修改字段名称为“图片保存文件夹”。对采集到的关键词进行格式化处理,添加前缀和后缀,演示中添加的前缀为“D:\百度图片采集\”,后缀为“\”

 

② 启动采集看一下采集结果,可以看到采到的数据中,已存在一个“图片保存文件夹”字段,无需手动设置

 

③ 经过图片导出操作后,打开D盘,找到“百度图片采集”文件夹,可以看到子文件夹以关键词命名

 

2)对图片进行编号:如果下载后需要将图片按照指定的文件名保存,则需要包含具体的文件名,例如“D:\第一层文件夹名\第二层文件夹名\1.jpg”,可利用excel自动编号

① 利用excel自动编号

 

② 经过图片导出操作后,打开D盘,找到“百度图片采集”文件夹中的子文件夹,可以看到图片以1、2、3、4......自动命名

 

7、注意事项

1)支持下载的格式

① 采集下来的图片URL,以.jpg、.gif、.png等图片格式结尾时,一般情况下能批量转换为图片

② 如果采集下来的URL不是以图片格式结尾,则有可能不进行转换,可能是网站对此图片链接进行加密仅支持在线查看

2)如果图片URL采集下来是乱码或都一样的,可能是图片需要一定的加载时间,我们需要在提取数据步骤前,设置执行前等待,让图片完全加载出来;对于需在当前屏幕展示一段时间,图片才能完全加载出来的情况,还需相应的设置ajax滚动,具体请参考 ajax滚动教程