51Testing软件测试论坛

 找回密码
 (注-册)加入51Testing

QQ登录

只需一步,快速开始

微信登录,快人一步

手机号码,快捷登录

查看: 989|回复: 5
打印 上一主题 下一主题

为什么使用scrapyd部署后,启动包含selenium插件的爬虫全部失败?

[复制链接]
  • TA的每日心情
    无聊
    4 天前
  • 签到天数: 530 天

    连续签到: 2 天

    [LV.9]测试副司令

    跳转到指定楼层
    1#
    发表于 2022-5-16 11:24:22 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
    1测试积点

    在scrapy终端中手动启动爬虫全部正常,通过scrapyd部署启动包含selenium插件的爬虫,运行爬虫文件,但不运行selenium插件,没有出现爬虫结果,但是查看scrapyd的job正常启动,运行时间只有1s。

    通过scrapy的settings设置selenium插件,

    1. SELENIUM_DRIVER_NAME = 'chrome'
    2. SELENIUM_DRIVER_EXECUTABLE_PATH = which(r'./chromedriver')
    3. SELENIUM_DRIVER_ARGUMENTS = []
    复制代码

    在spider中通过yield SeleniumRequest使用selenium。

    scrapyd报错:

    1. venv/lib/python3.8/site-packages/scrapy/utils/project.py:81: ScrapyDeprecationWarning: Use of environment variables prefixed with SCRAPY_ to override settings is deprecated. The following environment variables are currently defined: JOB, LOG_FILE, SLOT, SPIDER
    2. warnings.warn(
    复制代码

    (该警告已经解决)

    但是目前使用scrapyd调度spider仍然无法启动selenium插件,是否因为scrapy-selenium插件不支持scrapyd?

    求解决!如何才能让scrapyd正常使用selenium插件?


    分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
    收藏收藏
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    2024-10-22 14:23
  • 签到天数: 1007 天

    连续签到: 1 天

    [LV.10]测试总司令

    2#
    发表于 2022-5-17 09:25:20 | 只看该作者
    这块不是很清楚了...  看看有没有其他老师给你解答下。
    回复

    使用道具 举报

  • TA的每日心情
    慵懒
    3 天前
  • 签到天数: 1521 天

    连续签到: 5 天

    [LV.Master]测试大本营

    3#
    发表于 2022-5-17 11:11:27 | 只看该作者
    检查下环境
    回复

    使用道具 举报

  • TA的每日心情
    慵懒
    前天 08:51
  • 签到天数: 668 天

    连续签到: 6 天

    [LV.9]测试副司令

    4#
    发表于 2022-5-17 11:40:15 | 只看该作者
    不清楚
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    前天 07:50
  • 签到天数: 2818 天

    连续签到: 6 天

    [LV.Master]测试大本营

    5#
    发表于 2022-5-17 13:19:56 | 只看该作者
    没启动起来?
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    3 天前
  • 签到天数: 1806 天

    连续签到: 5 天

    [LV.Master]测试大本营

    6#
    发表于 2022-5-17 14:23:54 | 只看该作者
    有报错吗,是不是环境配置的不对
    回复

    使用道具 举报

    本版积分规则

    关闭

    站长推荐上一条 /1 下一条

    小黑屋|手机版|Archiver|51Testing软件测试网 ( 沪ICP备05003035号 关于我们

    GMT+8, 2024-11-25 05:41 , Processed in 0.060570 second(s), 21 queries .

    Powered by Discuz! X3.2

    © 2001-2024 Comsenz Inc.

    快速回复 返回顶部 返回列表