multiprocessing - python多进程爬虫报错

 一夜知秋50050 发布于 2022-10-29 15:30

周末在家撸代码了,写了一个小脚本爬取alexa网上的top500的域名,使用了多进程,但是报错了,

Traceback (most recent call last):
  File "alexa.py", line 116, in 
    site.multiprocess()
  File "alexa.py", line 83, in multiprocess
    self.domain = multiprocessing.Manager().list()
  File "/home/rocky/python/lib/python2.7/multiprocessing/managers.py", line 667, in temp
    token, exp = self._create(typeid, *args, **kwds)
  File "/home/rocky/python/lib/python2.7/multiprocessing/managers.py", line 565, in _create
    conn = self._Client(self._address, authkey=self._authkey)
  File "/home/rocky/python/lib/python2.7/multiprocessing/connection.py", line 175, in Client
    answer_challenge(c, authkey)
  File "/home/rocky/python/lib/python2.7/multiprocessing/connection.py", line 432, in answer_challenge
    message = connection.recv_bytes(256)         # reject large message
IOError: [Errno 11] Resource temporarily unavailable

脚本地址alexaTop500

1 个回答
  • 应该是进程太多引起的

    2022-10-30 17:09 回答
撰写答案
今天,你开发时遇到什么问题呢?
立即提问
热门标签
PHP1.CN | 中国最专业的PHP中文社区 | PNG素材下载 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有