文章详情页
python - scrapy 再次请求的问题
浏览:239日期:2022-08-17 18:54:48
问题描述
如:item[’url’]=response.xpath(’a/@href’)分析出一个链接,然后想从这个链接里的网页再获取一些元素,放入item[’other’]。应该怎么写,谢谢。
问题解答
回答1:def parse_page1(self, response): for url in urls:item = MyItem()item[’url’] = urlrequest = scrapy.Request(url,callback=self.parse_page2)# request = scrapy.Request('http://www.example.com/some_page.html',dont_filter=True,callback=self.parse_page2)request.meta[’item’] = itemyield requestdef parse_page2(self, response): item = response.meta[’item’] item[’other’] = response.xpath(’/other’) yield item
最后附上官方文档https://doc.scrapy.org/en/lat...中文翻译版http://scrapy-chs.readthedocs...
相关文章:
1. 模板渲染时报错,怎么处理2. node.js - 使用mongoose的cursor的问题3. javascript - nodemailer连接超时,怎么解决?4. Java。比较字符串时忽略重音5. mysql - Access denied for user ’ODBC’@’localhost’ (using password: NO)6. 请问一下,图片上传成功,但是后台对应文件夹里面却没有图片,这是什么原因?(已部署到服务器)7. 在别的电脑使用JDBC连接其他电脑上安装的mysql数据库8. PHP中的$this代表当前的类还是方法?9. mysql - 订单表,我把它分成好几个,我要查询订单,怎么用一条sql语句高效查询10. php - MySQL数据库设计,获取点赞的人数
排行榜

网公网安备