请输入
菜单

本地采集一段时间,采集到一定数据量后程序闪退?

原因:网页内容较多,页面信息量大,采集到一定数据量时,缓存过多导致内存分区爆掉。

解决方法:可以尝试将任务进行拆分,分为多个任务进行采集。比如先采集详情页的网址(URL),再通过循环打开这些链接(URL)去采集详情页面的数据,可参考以下教程。

1. URL循环:批量采集同类网页(图文)

2. URL循环:批量采集同类网页(视频)

上一个
为什么云采集数据与本地采集数据不同?
下一个
同一个规则之前可以采到数据,后来采不到数据或者采集的数据不全?
最近修改: 2023-11-03