尧图网站建设 尧图网络
  • 首页
  • 关于我们
  • 服务项目
  • 案例展示
  • 建站流程
  • 资讯中心
  • 联系我们
首页/资讯中心/详情

python使用xpath Python用Xpath抓数据?三步搞定,比BeautifulSoup还爽

python使用xpath Python用Xpath抓数据?三步搞定,比BeautifulSoup还爽
📅 发布时间:2026/7/9 8:48:32

使用时先安装 lxml 包

开始使用#

和类似,首先我们需要得到一个文档树

把文本转换成一个文档树对象

from lxml == '':doc='''

把文件转换成一个文档树对象

索引阅读外部当中的文件, 等于使用etree.parse('./index.html')等于进行etree相关操作,括号内是html且等于True, 等于True的情况是会进行格式化之后输出, 最后进行打印。

均会打印出文档内容

节点、元素、属性、内容#

xpath的理念是借由路径加以表述, 借此来寻觅节点, 节点内含元素, 属性以及内容。

元素举例

html --->...div --->

a --->...

这里, 我们能够看到, 这里面的元素, 跟html里的标签, 是同一个意思。单独存在的元素, 没办法表达出一个路径, 所以, 单独的元素, 不能够独立去使用。

路径表达式#

根节点, 分隔节点的符号, 任意一处的位置. 当前所在的节点, 父级别的节点, 属性@。

通配符#

对于任意一个元素, 存在任意一种属性, 该属性为节点类型, 且具有任意的子节点, 这些子节点能够是元素, 或者是属性, 亦或者是内容。

谓语#

使用中括号来限定元素,称为谓语

以下代表子元素, 其排在第n个位置, n是大于零的整数, book price值大于2的元素。

多个路径#

用| 连接两个表达式,可以进行 或匹配

//book/title | //book/price

函数#

xpath内置很多函数。更多函数查看

(,)

-with(,)

ends-with(,) #不支持

upper-case() #不支持

text()

last()

()

node()

Last()这个函数能被看到, 它是存在的, 在之前讲述谓语的时候, 我们就已经提及过它了。

案例#

定位元素#

匹配多个元素,返回列表

=='':doc='''

首先, 将doc通过etree.HTML转化为html , 接着, 打印输出html通过xpath("//li")所获取到的内容 , 然后, 再打印输出html通过xpath("//p")所获取到的内容。

【结果为】

#没找到p元素

@class='item-'

")))print(html.xpath("//li

@class='item-'

@class='item-'

@class='item-'

你的内容似乎不完整且不符合正常句子要求, 请提供完整且有意义的句子以便我进行改写。

@class='item-'

/.."))print(html.xpath("//li

@class='item-'

/../li

@class='item-0'

"))

【结果为】

第三个项目, 其下方没有直接文本内容, 该项目当前显示为“无” , 因为第三个列表项下面没有直接文本。

'third item'

使用函数#

#

有时候, 当把class用作选择条件之际不太合适, @class='....'这属于完全匹配, 一旦王爷样式有所改变, class可能会增添或者减少类似的class, 如此使用就会极为便利便利。

from lxml == '':doc='''

你提供的内容不完整, 请补充完整后以便我进行改写。 仅有“html = etree.HTML(doc)print(html.xpath("//*”这些内容无法完成准确改写。

(@class,'item')

"))

【结果为】

-with#

from lxml == '':doc='''

first item# 注意,此处缺少一个闭合标签

'''html = etree.HTML(doc)print(html.xpath("//*

(@class,'item')

"))print(html.xpath("//*

-with(@class,'ul')

"))

【结果为】

ends-with#

print(html.xpath("//*

ends-with(@class,'ul')

"))

【结果为】

这似乎并不是一个完整且合理的句子呀, 你提供的内容有些混乱, 不太能按照要求完整准确地进行改写。请补充完整清晰的内容以便能更好地处理。

ends-with(@class,'ul')

看来的lxml并不支持有的xpath函数列表

upper-case#

如同ends - with函数那般,它也是不予以支持的。同样会出现报错lxml.etree。

print(html.xpath("//a

(upper-case(@class),'ITEM-')

"))

text、last#

#最后面的那个li遭受到了限定, 输入print(html.xpath("//li/a/text()"))的话, #就会获取到每一单个个的``元素的内容, 毕竟每一个标签均是各自父元素的最后那般子一个元素。#原本来说每单一一个li仅仅只有一个子元素, 因而全部都是最后那一个, print(html.xpath("//li/a/text()")), print(html.xpath("//li/a。

(text(),'third')

"))

【结果为】

'fifth item'

“物品”, “第三个物品”, “物品”, “第五个物品”。

#

print(html.xpath("//li

()=2

/a/text()"))#结果为

'third item'

上面这个例子我们之前以及讲解过了

*这里有个疑问,就是()函数能不能像text()那样用呢

print(html.xpath("//li/a/()")), #对应的结果是, lxml.etree。

这里, 我们获取到了一个结论, 函数可不是随随便便放置于任何地方, 均可获取到自身期望的结果的。

node#

不论子节点属于何种类型(熟悉, 元素, 内容), 都要返回所有子节点。

print(html.xpath("//ul/li

@class='item-'

【结果为】

获取内容#

就在刚才, 已经对其进行过提及, 能够采用.text以及text()这样的形式, 去获取元素所包含的内容。

from lxml == '':doc='''

first item# 注意,此处缺少一个闭合标签

通过etree.XML将文档转变为html, 打印html通过xpath查找“//a/text()”的结果, 打印html通过xpath查找“//a”节点的text属性值, 打印html通过xpath查找“//ul”节点的text属性值, 打印html通过xpath查找“//ul”节点的text属性值的长度, 打印html通过xpath查找“//ul/text()”的结果。

【结果为】

排成这样: '第一项', '项', '第三项', '项', '第五项'。

first

存在着这样一些内容, 这些内容是空白, 这些空白呈现出多个换行的形式, 这些换行的空白有着多个连续的状态, 这些连续状态的空白之后出现了闭合标签, 闭合标签之前同样存在着多个换行的空白。

在此看出, 发现了text()与.text二者之间那相异的差别之处。自行去归纳总结吧。由于不太好进行表述, 所以就选择不再去表达了。

获取属性#

打印, 通过html的xpath方法获取的双斜杠a标签下的href属性值, 打印, 通过html的xpath方法获取的双斜杠li标签下的class属性值。

【结果为】

'link1.html ','link2.html ', 'link3.html ', 'link4.html ', 'link5.html ', 分别是这样的五个不同链接页面的标识。

'item-', 'item-1', 'item-', 'item-1', '且是', 'item-0的形式', '。'。

自定义函数#

我们于使用函数的进程里得出结论, 即存在部分函数不予以支持, 存在部分函数予以支持, 那么问题便产生了, 究竟哪些方法予以支持呢。我们于lxml官网寻觅到了答案。lxml对XPath 1.0予以支持, 若想运用其他扩展, 请运用与标准相兼容的方式。XPath 1.0官方文档以及其他版本的XPath文档。

除此之外, lxml提供了一种方式, 这种方式是用来扩展xpath支持度的, 它是自定义函数的方式。

你提供的内容似乎不太完整且不符合正常的语句逻辑, 不太能完成恰当的改写。请重新整理清晰准确的内容以便进行改写。

first item# 注意,此处缺少一个闭合标签

你提供的内容存在错误, 正确的应该不是这样表述。请你检查并提供准确的内容, 以便我能对你进行准确改写。

相关新闻

  • Kubernetes 生产集群的资源治理:从 requests 到 HPA 的可执行清单
  • 如何用Pearcleaner彻底清理macOS:免费工具终极指南
  • 国内自主研发中空直驱电机源头工厂推荐与选型指南

最新新闻

  • 从零掌握Codex:AI代码生成工具接入、应用与本地化实践
  • 创建和启动新线程的所有细微差别。守护进程。
  • Pandas 2.2 实战:3种缺失值填充策略对比与泰坦尼克号数据集应用
  • 解决ComfyUI-Impact-Pack中FaceDetailer节点种子参数缺失问题的完整技术指南
  • AMD EPYC 9004 系列服务器CPU选型指南:5nm Zen 4 架构下 96 核与 128 核的抉择
  • RAG在技术文档检索中的实战部署:ChromaDB与Embedding流水线

日新闻

  • SQL 查询语句的标准逻辑执行顺序(即语义处理顺序),它与实际书写顺序不同,但决定了数据库如何解析和执行查询
  • ORB-SLAM2 重定位模块深度解析:从 BoW 候选帧到 PnP 优化的 6 步流程
  • 罗技鼠标宏压枪脚本终极指南:从原理到实战的完整解析

周新闻

  • 基于YOLOv12的番茄成熟度智能检测系统开发
  • 终极RimWorld模组管理指南:用RimSort告别模组冲突烦恼
  • AI Agent框架开发:从理论到实践的完整指南

月新闻

  • 2026年6月公司网站搭建最新热门渠道测评:四大低成本/零代码平台对比+避坑
  • 【Linux】Linux arm 编译QT程序,出现expected “}“报错
  • 【MATLAB例程】四基站二维AOA定位与距离辅助增强对比仿真。基于角度观测和测距修正的固定目标平面定位精度分析

关于尧图

  • 公司简介
  • 团队介绍
  • 企业文化
  • 荣誉资质

服务项目

  • 定制开发
  • 电商建站
  • UI 设计
  • 运维服务

快速链接

  • 案例展示
  • 建站流程
  • 常见问题
  • 资讯中心

联系方式

  • 📍北京市朝阳区互联网产业园 A 座 10 层
  • 📞400-888-8888
  • ✉️contact@rkmt.cn
  • 🕐周一至周日 9:00-21:00

© 2024 北京尧图网络科技有限公司 版权所有 | 京 ICP 备 XXXXXXXX 号