51Testing软件测试论坛

 找回密码
 (注-册)加入51Testing

QQ登录

只需一步,快速开始

微信登录,快人一步

手机号码,快捷登录

查看: 6122|回复: 6
打印 上一主题 下一主题

requests 和 scrapy 在不同的爬虫应用中,各自有什么优势?

[复制链接]
  • TA的每日心情
    无聊
    昨天 09:47
  • 签到天数: 528 天

    连续签到: 1 天

    [LV.9]测试副司令

    跳转到指定楼层
    #
    发表于 2021-5-21 13:34:31 | 只看该作者 回帖奖励 |正序浏览 |阅读模式
    1测试积点
    requests 是一个http框架,可以用来做爬虫
    scrapy 是一个专业的爬虫框架

    我是个python新手,研究怎么爬人家网站,朋友推荐我学requests,果然看了下文档,几分钟就能开始爬了

    但是我看scrapy 这个爬虫框架,被很多人喜欢,我想这个东西一定有他的独特之处,


    我目前使用requests爬的时候,先用其他方法得到cookies,然后把cookies共享给requests,然后爬网站的时候,用起来算很得心应手,但是爬过来的数据,我要自己写逻辑代码,进行解析,进行编码处理,进行入库
    或许就是因为它只是一个http库吧!

    然后我在思考,scrapy是一个框架,是不是在爬虫应用中,会比requests更好用呢

    我要爬的网站有40多个, 如果我改用scrapy框架,
    能给我带来多大的好处呢
    分别会从哪些方面给我带来好处呢

    请知友帮忙解答疑惑

    分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
    收藏收藏
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    2019-12-31 08:59
  • 签到天数: 975 天

    连续签到: 1 天

    [LV.10]测试总司令

    6#
    发表于 2021-5-31 15:57:05 | 只看该作者
    看看
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    昨天 09:30
  • 签到天数: 992 天

    连续签到: 1 天

    [LV.10]测试总司令

    5#
    发表于 2021-5-24 16:25:13 | 只看该作者
    对哪个比较熟悉就用哪个
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    昨天 08:00
  • 签到天数: 2813 天

    连续签到: 1 天

    [LV.Master]测试大本营

    4#
    发表于 2021-5-24 15:34:11 | 只看该作者
    scrapy内部做了框架封装
    回复

    使用道具 举报

  • TA的每日心情
    擦汗
    昨天 14:30
  • 签到天数: 752 天

    连续签到: 1 天

    [LV.10]测试总司令

    3#
    发表于 2021-5-24 13:37:08 | 只看该作者
    来学习
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    2024-10-22 14:23
  • 签到天数: 1007 天

    连续签到: 1 天

    [LV.10]测试总司令

    2#
    发表于 2021-5-24 11:30:30 | 只看该作者
    scrapy是封装起来的框架,他包含了下载器,解析器,日志及异常处理,基于多线程, twisted的方式处理,对于固定单个网站的爬取开发,有优势,但是对于多网站爬取 100个网站,并发及分布式处理方面,不够灵活,不便调整与括展。
    requests是一个HTTP库, 它只是用来,进行请求,对于HTTP请求,他是一个强大的库,下载,解析全部自己处理,灵活性更高,高并发与分布式部署也非常灵活,对于功能可以更好实现。
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    昨天 10:24
  • 签到天数: 1517 天

    连续签到: 1 天

    [LV.Master]测试大本营

    1#
    发表于 2021-5-24 10:32:25 | 只看该作者
    这个比较看个人的习惯了
    回复

    使用道具 举报

    本版积分规则

    关闭

    站长推荐上一条 /1 下一条

    小黑屋|手机版|Archiver|51Testing软件测试网 ( 沪ICP备05003035号 关于我们

    GMT+8, 2024-11-19 01:56 , Processed in 0.068086 second(s), 22 queries .

    Powered by Discuz! X3.2

    © 2001-2024 Comsenz Inc.

    快速回复 返回顶部 返回列表