文章详情页
python - scrapy 再次请求的问题
浏览:224日期:2022-08-17 18:54:48
问题描述
如:item[’url’]=response.xpath(’a/@href’)分析出一个链接,然后想从这个链接里的网页再获取一些元素,放入item[’other’]。应该怎么写,谢谢。
问题解答
回答1:def parse_page1(self, response): for url in urls:item = MyItem()item[’url’] = urlrequest = scrapy.Request(url,callback=self.parse_page2)# request = scrapy.Request('http://www.example.com/some_page.html',dont_filter=True,callback=self.parse_page2)request.meta[’item’] = itemyield requestdef parse_page2(self, response): item = response.meta[’item’] item[’other’] = response.xpath(’/other’) yield item
最后附上官方文档https://doc.scrapy.org/en/lat...中文翻译版http://scrapy-chs.readthedocs...
相关文章:
1. python - 《flask web 开发》一书,数据库中多对多关系的实现问题?2. node.js - 微信的自动回复问题3. python - pyspider 运行 和 age 参数问题?4. php - 注册验证邮箱失效后操作问题5. 13寸笔记本win10 界面字体有点小6. java如何高效读写10G以上大文件7. node.js - 如何在webstorm中启动并连接mongodb数据库呢?8. html - css气泡,实现“倒三角(不知道算不算三角了)”可透明的。9. 关于phpstudy设置主从数据库10. mysql - 这种分级一对多,且分级不平衡的模型该怎么设计表?
排行榜

网公网安备