分布式爬虫需要用多台主机吗? (图片来源网络,侵删) 定义及目的 1. 分布式爬虫的定义 分布式爬虫是指采用多台计算机或者服务器协同工作,共同完成网页的爬取、处理和存储任务的一种网络爬虫技术,它通过将任……