测试积点老人 发表于 2022-9-9 15:28:32

selenium无法退出进程

使用python的selenium抓取大量数据的时候总是遇到内存泄漏的问题,排查优化了很久得不到解决,使用kill和kill -9的方式也没办法杀掉,
for p_pid in ps -ef | grep chromedriver | grep -v grep | awk '{print $2}'
do
/usr/bin/kill -9 $p_pid
echo "kill driver ==> $p_pid"
done
脚本1

for p_pid in ps -ef | grep chrome | grep -v grep | awk '{print $2}'
do
/usr/bin/kill -9 $p_pid
echo "kill ==> $p_pid"
脚本2单独运行1完全杀不掉,运行2能杀掉一部分,但还是存在,内存能得到一小部分的释放

我的解答思路和尝试过的方法自己写了一个脚本,先杀chromedriver,再清理chrome的,没有效果我想要达到的结果目前使用selenium截图网页快照,12个爬虫并行运行,希望能解决这个顽固问题

qqq911 发表于 2022-9-13 11:33:20

杀掉父节点进程

kallinr 发表于 2022-9-13 14:59:45

没遇到过

jingzizx 发表于 2022-9-13 17:41:23

内容太多?
页: [1]
查看完整版本: selenium无法退出进程