Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺
话不多说，直接上代码
以链家网为例，解析网页打印出来的东西居然不是想象中的html文件，而是“<Element html at 0x52e5c10>”这么个东西。这个东西其实是一个元素，后面会介绍到。现在还是说说怎么把这个东西变成我们能看懂的html内容吧。
from lxml import etree
import requests
from lxml.html import fromstring, tostring
url = 'http://sh.lianjia.com/ershoufang/pudong'
headers={'User-Agent':'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.63 Safari/537.36'}
res = requests.get(url,headers=headers)
tree = etree.HTML(res.text)
print(tree)
要将element转成能看懂的html内容，需要进行先tostring，然后decode编码，代码如下：
from lxml import html
from html.parser import HTMLParser
#转为string
tree1 = html.tostring(tree[0])
#编码'utf-8'
tree2 = HTMLParser().unescape(tree1.decode('utf-8'))
print(tree2)上面的代码等价于：
tree3 = html.tostring(tree[0],encoding='utf-8').decode('utf-8')
print(tree3)结果如下图，看起来舒服多了（至少有汉字能看懂了，不至于一脸懵A+）
什么是element？
element上面说到，这个东西其实是一个元素，它的类型是’lxml.etree._Element’。
如下面的例子，element的tag值取到的是标签名，attrib获取到的是节点标签的属性，text获取到的是标签文本（例子里的标签文本为空，所以取None）
from lxml import etree
import requests
from lxml.html import fromstring, tostring
url = 'http://sh.lianjia.com/ershoufang/pudong'
headers={'User-Agent':'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.63 Safari/537.36'}
res = requests.get(url,headers=headers)
dom_tree = etree.HTML(res.text)
res = dom_tree.xpath('//li')[5]
res1 = html.tostring(res)
res2 = HTMLParser().unescape(res1.decode('utf-8'))
print(res)
print(res2)
print(res.tag)
print(res.attrib)
print(res.text)
一个例子
在实际应用中，我们会在xpath后面加上方法取出文本值或者属性值，如下面的例子，加上“/text()”可以取出文本值，加上“/@href’”可以取出href值（节点属性其实还是用@符号就可以获取，在例子中，如果要取“data-housecode=”107101428480″”中的号码，加上“/@data-housecode”即可）
from lxml import etree
import requests
from lxml.html import fromstring, tostring
url = 'http://sh.lianjia.com/ershoufang/pudong'
headers={'User-Agent':'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.63 Safari/537.36'}
resl = requests.get(url,headers=headers)
tree = etree.HTML(resl.text)
res = tree.xpath('//ul[@class="sellListContent"]//div[@class="info clear"]//div[@class="title"]//a')[0]
res1 = html.tostring(res)
res2 = HTMLParser().unescape(res1.decode('utf-8'))
#用“/text()”取出文本值
text = tree.xpath('//ul[@class="sellListContent"]//div[@class="info clear"]//div[@class="title"]//a/text()')[0]
#用“/@href'”取出href值
href = tree.xpath('//ul[@class="sellListContent"]//div[@class="info clear"]//div[@class="title"]//a/@href')[0]
print(res)
print('===============================')
print(res2)
print('===============================')
print(text)
print('===============================')
print(href)
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 举报，一经查实，本站将立刻删除。
发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/196462.html原文链接：https://javaforall.net
