爬虫:异步(并行)数据爬取

原文地址 分类目录——爬虫 在进行网页爬取时,网页的响应速度慢于计算机的处理速度,在串行模式下访问多个网页,在通过网络获取一个网页的过程中,在这个过程之前,计算机只能闲置等待。而异步的方式就是让计算机可以在这个闲置时间先去做后面的工作,等这个网页响应完成再对它进行处理。 这里说的这种异步的方式是一种分时获得时间片的机制,有些像多线程,不同于多进程,私以为比较适合爬虫这种IO密集型操作。 异步编程包——asyncio 这里直接通过代码来说明它的语法 async def job(t): # async 形式的功能 print('Start job ',