xpath语法及使用
XPath是一门在XML文档中查找信息的语言，在网络爬虫应用中十分常用，我们经常用Xpath表达式在网页脚本中过滤提取需要的关键信息，而且Xpath是一门通用的标准语言，除了在python中使用，在其他语言中也有相应的类库可以使用，例如C#中的HtmlAgilityPack库，所以比较通用，我一般写爬虫提取数据都喜欢用XPath，通用好改，毕竟有时候原始数据的格式会经常变化。
一、xpath常用语法汇总
我们先拿官方的实例来说明一下Xpath语法，官方是一个XML的实例，其实HTML也是XML的一种扩展，他们的用法都是一样的，语法都是通用的，将xml示例和语法表格中的描述一一对照就能理解语法，十分简单，所见即所得。
1.1 事例xml文档
1.2 Xpath语法
| 表达式 | 描述 |
|---|
| nodename | 选取此节点的所有子节点 |
| / | 从根节点选取 |
| // | 从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置 |
| . | 选取当前节点 |
| … | 选取当前节点的父节点 |
| @ | 选取属性 |
1.3 语法实例
| 表达式 | 描述 |
|---|
| bookstore | 选取 bookstore 元素的所有子节点。 |
| /bookstore | 选取根元素 bookstore。注释：假如路径起始于正斜杠( / )，则此路径始终代表到某元素的绝对路径！ |
| bookstore/book | 选取属于 bookstore 的子元素的所有 book 元素。 |
| //book | 选取所有 book 子元素，而不管它们在文档中的位置。 |
| bookstore//book | 选择属于 bookstore 元素的后代的所有 book 元素，而不管它们位于 bookstore 之下的什么位置。 |
| //@lang | 选取名为 lang 的所有属性。 |
1.4 谓语
| 路径表达式 | 结果 |
|---|
| /bookstore/book[1] | 选取属于 bookstore 子元素的第一个 book 元素。 |
| /bookstore/book[last()] | 选取属于 bookstore 子元素的最后一个 book 元素。 |
| /bookstore/book[last()-1] | 选取属于 bookstore 子元素的倒数第二个 book 元素。 |
| /bookstore/book[position()❤️] | 选取最前面的两个属于 |
| //title[@lang] | 选取所有拥有名为 lang 的属性的 title 元素。 |
| //title[@lang=‘eng’] | 选取所有 title 元素，且这些元素拥有值为 eng 的lang 属性。 |
| /bookstore/book[price>35.00] | 选取 bookstore 元素的所有 book 元素，且其中的 price 元素的值须大于 35.00。 |
| /bookstore/book[price>35.00]/title | 选取 bookstore 元素中的 book 元素的所有 title 元素，且其中的 price 元素的值须大于 35.00。 |
1.5 选取未知节点
| 通配符 | 描述 |
|---|
| * | 匹配任何元素节点。 |
| @* | 匹配任何属性节点。 |
| node() | 匹配任何类型的节点。 |
1.6 实例
| 路径表达式 | 描述 |
|---|
| /bookstore/* | 选取 bookstore 元素的所有子元素。 |
| //* | 选取文档中的所有元素。 |
| //title[@*] | 选取所有带有属性的 title 元素。 |
1.7 选取若干路径
通过在路径表达式中使用“|”运算符，您可以选取若干个路径。
| 路径表达式 | 描述 |
|---|
| //book/title | //book/price | 选取 book 元素的所有 title 和 price 元素。 |
| //title | //price | 选取文档中的所有 title 和 price 元素。 |
| /bookstore/book/title | //price | 选取属于 bookstore 元素的 book 元素的所有 title 元素，以及文档中所有的 price 元素。 |
二、python中使用
在python中使用lxml来调用xpath，lxml不在标准库之内，需要使用pip来安装。使用起来很简单，经常用到的方法就那么几个。我们用一个常被举例的html实例文档来列出使用方法和场景。
2.1 获取标签的值
两种方法，一种直接卸载xpath表达式里，另一种用lxml对象的text方法来获取。
2.2 获取标签属性的值
本实例中获取a标签的href值
2.3 使用相对路径
2.4 查找标签，获取值
按照xpath的选择器语法，可以进行各种匹配查找所需要的标签及其值和标签内的属性。例如多属性匹配，按需选择，节点轴选择等等，只要符合xpath语法即可。
