文章详情页
python爬虫防封IP的方法应该放到代码的哪个位置
浏览:147日期:2022-09-21 13:56:12
问题描述
想要爬豆瓣电影,但是很容易403,就想代理IP或者修改请求头,但是看了很多资料,不知道他们那些代码应该放到整个程序的哪个位置,我用的是美丽汤和request,应该增添什么代码,增添到什么位置
问题解答
回答1:BeautifulSoup的中文名原来叫美丽汤。。。
吐槽完毕,服务端一般是通过IP报文来检测请求的IP的地址的,所以单纯的修改HTTP请求的内容一般来说是不起作用的,最好的方式是使用 Requests 的代理功能来进行访问,可以解除 IP 限制的问题。
回答2:请看看Python爬虫联想词视频和代码https://zhuanlan.zhihu.com/p/...
跟黄哥学Python爬虫抓取代理IP和验证。https://zhuanlan.zhihu.com/p/...跟黄哥学Python爬虫抓取代理IPhttps://zhuanlan.zhihu.com/p/...
相关文章:
1. 修改mysql配置文件的默认字符集重启后依然不生效2. mongodb - windows7下mongod无法正常启动3. angular.js - 关于指令link 中的创建变量问题4. mysql - 请教一个Java做数据库缓存的问题5. php - 类似Apple官网顶部3级导航该如何设计数据库?6. Java局部变量为什么要初始化7. 作为新手,未定义索引username,求解,谢谢8. python - 如何让dataframe A 的一列与dataframe B的一列相减 相加结果记到A的c列?9. javascript - 豆瓣的这个自适应是怎么做的?10. java - 腾讯云mysql数据库可以插入数据,但是不能查询数据,求解答
排行榜

网公网安备