商务服务
python爬虫必备-xpath使用详解
2025-01-03 12:52

xpath语法及使用

XPath是一门在XML文档中查找信息的语言,在网络爬虫应用中十分常用,我们经常用Xpath表达式在网页脚本中过滤提取需要的关键信息,而且Xpath是一门通用的标准语言,除了在python中使用,在其他语言中也有相应的类库可以使用,例如C#中的HtmlAgilityPack库,所以比较通用,我一般写爬虫提取数据都喜欢用XPath,通用好改,毕竟有时候原始数据的格式会经常变化。

一、xpath常用语法汇总

我们先拿官方的实例来说明一下Xpath语法,官方是一个XML的实例,其实HTML也是XML的一种扩展,他们的用法都是一样的,语法都是通用的,将xml示例和语法表格中的描述一一对照就能理解语法,十分简单,所见即所得。

1.1 事例xml文档
 
1.2 Xpath语法
表达式描述nodename选取此节点的所有子节点/从根节点选取//从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置.选取当前节点…选取当前节点的父节点@选取属性
1.3 语法实例
表达式描述bookstore选取 bookstore 元素的所有子节点。/bookstore选取根元素 bookstore。注释:假如路径起始于正斜杠( / ),则此路径始终代表到某元素的绝对路径!bookstore/book选取属于 bookstore 的子元素的所有 book 元素。//book选取所有 book 子元素,而不管它们在文档中的位置。bookstore//book选择属于 bookstore 元素的后代的所有 book 元素,而不管它们位于 bookstore 之下的什么位置。//@lang选取名为 lang 的所有属性。
1.4 谓语
路径表达式结果/bookstore/book[1]选取属于 bookstore 子元素的第一个 book 元素。/bookstore/book[last()]选取属于 bookstore 子元素的最后一个 book 元素。/bookstore/book[last()-1]选取属于 bookstore 子元素的倒数第二个 book 元素。/bookstore/book[position()❤️]选取最前面的两个属于//title[@lang]选取所有拥有名为 lang 的属性的 title 元素。//title[@lang=‘eng’]选取所有 title 元素,且这些元素拥有值为 eng 的lang 属性。/bookstore/book[price>35.00]选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。/bookstore/book[price>35.00]/title选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。
1.5 选取未知节点
通配符描述*匹配任何元素节点。@*匹配任何属性节点。node()匹配任何类型的节点。
1.6 实例
路径表达式描述/bookstore/*选取 bookstore 元素的所有子元素。//*选取文档中的所有元素。//title[@*]选取所有带有属性的 title 元素。
1.7 选取若干路径

通过在路径表达式中使用“|”运算符,您可以选取若干个路径。

路径表达式描述//book/title | //book/price选取 book 元素的所有 title 和 price 元素。//title | //price选取文档中的所有 title 和 price 元素。/bookstore/book/title | //price选取属于 bookstore 元素的 book 元素的所有 title 元素,以及文档中所有的 price 元素。
二、python中使用

在python中使用lxml来调用xpath,lxml不在标准库之内,需要使用pip来安装。使用起来很简单,经常用到的方法就那么几个。我们用一个常被举例的html实例文档来列出使用方法和场景。

 
2.1 获取标签的值

两种方法,一种直接卸载xpath表达式里,另一种用lxml对象的text方法来获取。

 
2.2 获取标签属性的值

本实例中获取a标签的href值

 
2.3 使用相对路径
 
2.4 查找标签,获取值

按照xpath的选择器语法,可以进行各种匹配查找所需要的标签及其值和标签内的属性。例如多属性匹配,按需选择,节点轴选择等等,只要符合xpath语法即可。

    以上就是本篇文章【python爬虫必备-xpath使用详解】的全部内容了,欢迎阅览 ! 文章地址:https://sicmodule.kub2b.com/news/15244.html
     栏目首页      相关文章      动态      同类文章      热门文章      网站地图      返回首页 企库往资讯移动站 https://sicmodule.kub2b.com/mobile/ , 查看更多   
最新文章
手机贴膜硬核科普,一分钟搞懂8种手机膜的区别手机钢化膜「手机贴膜硬核科普,一分钟搞懂8种手机膜的区别」
创作立场声明:文中列举商品仅为示范作用,与品牌无关。说起手机贴膜,想必大家并不陌生,很多人拿到手机后的第一件事,就是贴膜
你以为它死了,其实它复活了,诺基亚手机回归带来十个疑问高颜值手机「你以为它死了,其实它复活了,诺基亚手机回归带来十个疑问」
  2008年1月16日,德国波鸿,在一次员工示威期间,一位诺基亚公司的女员工落泪。你以为它死了,其实它复活了,是的,说的就是
华为折叠手机2023新款价格 华为最新款手机折叠华为新款手机「华为折叠手机2023新款价格 华为最新款手机折叠」
折叠手机是智能手机的一种造型,柔性AMOLED屏幕是折叠手机的突破关键。寰宇舷窗,探索未来独创寰宇舷窗设计,以探索之姿洞见未⁠
139手机邮箱注册(139手机号邮箱注册)
  关于《139手机邮箱注册》的文章  在当今信息化社会,电子邮件已成为人们日常生活和工作中不可或缺的一部分。而手机邮箱因
信息门户手机信息「信息门户」
我校信息门户于2019年1月上线,与南京大学APP互为移动端服务补充,为师生提供在线服务、消息提醒、推文宣传等服务功能。 微信搜
手机能一直开着录音吗 手机一直开着录音行吗【详解】手机录音「手机能一直开着录音吗 手机一直开着录音行吗【详解】」
  能一直开着录音,但是要保证电量和储存空间的充足。一旦录音的储存空间被占满,录音就会停止,保证电量充足,可以边充边录音
张蔷属于昨天,更属于“明天”(音乐节)v i v o 手机「张蔷属于昨天,更属于“明天”(音乐节)」
张蔷,中国内地流行音乐代表人物,传奇天才女歌手,80年代中国流行文化偶像符号,21世纪迪斯科回潮的新女皇。 从小深受从事音乐
2k14手机(2k14手机版中文版下载)
  《2K14手机》:超越视觉的极致体验  在当今科技飞速发展的时代,手机已经成为了我们生活中不可或缺的一部分。而《2K14手机
适合情侣玩的手机游戏前五名 有适合两个人玩的游戏吗情侣手机「适合情侣玩的手机游戏前五名 有适合两个人玩的游戏吗」
游戏还是两个人一起玩有意思,特别是情侣之间,不但能娱乐,还能增进俩人之间的亲密感情。还有异地恋的情侣们,每天只能依靠煲电
创新之城,非凡园区!星海红领巾访园区展示中心v i v o 手机「创新之城,非凡园区!星海红领巾访园区展示中心」
创新之城 非凡园区红领巾寻访苏州工业园区展示中心 这里的街道宽敞整洁,很少见到密如蛛网的电线和凌乱的街边小店; 这里的马路