51Testing软件测试论坛

 找回密码
 (注-册)加入51Testing

QQ登录

只需一步,快速开始

微信登录,快人一步

手机号码,快捷登录

查看: 1485|回复: 3
打印 上一主题 下一主题

Python selenium爬取某文库的文本内容有残缺

[复制链接]
  • TA的每日心情
    无聊
    昨天 09:47
  • 签到天数: 528 天

    连续签到: 1 天

    [LV.9]测试副司令

    跳转到指定楼层
    1#
    发表于 2021-10-21 10:21:37 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
    1测试积点
    背景如题,代码如下:
    1. from selenium import webdriver
    2. import time
    3. driver = webdriver.Chrome()
    4. driver.get('https://wenku.baidu.com/view/83a62ad5316c1eb91a37f111f18583d048640f3c')
    5. time.sleep(5)
    6. elements=driver.find_elements_by_class_name('read-all')#继续阅读
    7. element=elements[0]
    8. element.click()
    9. time.sleep(5)
    10. yhm=driver.find_elements_by_css_selector('#TANGRAM__PSP_11__footerULoginBtn')#用户名登录
    11. yhmd=yhm[0]
    12. yhmd.click()
    13. yh=driver.find_elements_by_css_selector('#TANGRAM__PSP_11__userName')#用户名
    14. yh=yh[0]
    15. yh.send_keys('账号')
    16. mm=driver.find_elements_by_css_selector('#TANGRAM__PSP_11__password')#密码
    17. mm=mm[0]
    18. mm.send_keys('密码')
    19. dl=driver.find_elements_by_css_selector('#TANGRAM__PSP_11__submit')#点击登录按钮
    20. dl=dl[0]
    21. dl.click()
    22. time.sleep(10)
    23. gk=driver.find_elements_by_class_name('close-btn.default-bg')#关闭广告
    24. gkc=gk[0]
    25. gkc.click()
    26. time.sleep(5)
    27. driver.execute_script('window.scrollBy(0,200)')#特殊
    28. zc=driver.find_elements_by_class_name('read-all')#再次点击继续阅读
    29. zcc=zc[0]
    30. driver.execute_script("arguments[0].click();",zcc)#特殊,以及这个点击形式能不能变得传统
    31. xt=driver.find_elements_by_class_name('reader-word-layer')#爬取文章内容
    32. xt2=[str(i.text) for i in xt]
    33. print(''.join(xt2))
    34. 这个代码遇到图片旋转验证的时候需要手动操作
    复制代码
    到参训单位都没问题,之后的内容就不行了

    附件: 您需要 登录 才可以下载或查看,没有帐号?(注-册)加入51Testing
    分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
    收藏收藏
    回复

    使用道具 举报

    该用户从未签到

    2#
    发表于 2021-10-22 09:30:50 | 只看该作者
    可以手动操作一遍,查看sj加载后有没有全部的文本数据,没有的只能每点击一次存储一次,或抓取动态请求的文本url,生成URL,再次请求(用requests也行快一点)一般有sj加密。
    回复

    使用道具 举报

  • TA的每日心情
    慵懒
    8 小时前
  • 签到天数: 1518 天

    连续签到: 2 天

    [LV.Master]测试大本营

    3#
    发表于 2021-10-22 10:44:19 | 只看该作者
    网页上操作试试
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    9 小时前
  • 签到天数: 1803 天

    连续签到: 2 天

    [LV.Master]测试大本营

    4#
    发表于 2021-10-22 11:23:43 | 只看该作者
    是之后的内容都没有爬下来吗,对比一下两部分内容的区别
    回复

    使用道具 举报

    本版积分规则

    关闭

    站长推荐上一条 /1 下一条

    小黑屋|手机版|Archiver|51Testing软件测试网 ( 沪ICP备05003035号 关于我们

    GMT+8, 2024-11-19 18:43 , Processed in 0.064979 second(s), 23 queries .

    Powered by Discuz! X3.2

    © 2001-2024 Comsenz Inc.

    快速回复 返回顶部 返回列表