python 中BeautifulSoup入门

本文内容纲要：

在前面的例子用，我用了BeautifulSoup来从58同城抓取了手机维修的店铺信息，这个库使用起来的确是很方便的。本文是BeautifulSoup的一个详细的介绍，算是入门把。文档地址：http://www.crummy.com/software/BeautifulSoup/bs4/doc/

什么是BeautifulSoup？

BeautifulSoup是用Python写的一个HTML/XML的解析器，它可以很好的处理不规范标记并生成剖析树(parsetree)。它提供简单又常用的导航（navigating），搜索以及修改剖析树的操作。它可以大大节省你的编程时间。

直接看例子：

#!/usr/bin/python

#-*-coding:utf-8-*-

frombs4importBeautifulSoup

html_doc="""

TheDormousesstory TheDormousesstory Onceuponatimetherewerethreelittlesisters;andtheirnameswere Elsie, Lacieand Tillie; andtheylivedatthebottomofawell. ...

"""

soup=BeautifulSoup(html_doc)

printsoup.title

printsoup.title.name

printsoup.title.string

printsoup.p

printsoup.a

printsoup.find_all(a)

printsoup.find(id=link3)

printsoup.get_text()

结果为：

TheDormousesstory title TheDormousesstory TheDormousesstory Elsie \[Elsie,Lacie,Tillie\] Tillie

TheDormousesstory

TheDormousesstory

Onceuponatimetherewerethreelittlesisters;andtheirnameswere

Elsie,

Lacieand

Tillie;

andtheylivedatthebottomofawell.

...

可以看出：soup就是BeautifulSoup处理格式化后的字符串，soup.title得到的是title标签，soup.p得到的是文档中的第一个p标签，要想得到所有标签，得用find_all

函数。find_all函数返回的是一个序列，可以对它进行循环，依次得到想到的东西.

get_text()是返回文本,这个对每一个BeautifulSoup处理后的对象得到的标签都是生效的。你可以试试printsoup.p.get_text()

其实是可以获得标签的其他属性的，比如我要获得a标签的href属性的值，可以使用printsoup.a[href],类似的其他属性，比如class也是可以这么得到的（soup.a[class]）。

特别的，一些特殊的标签，比如head标签，是可以通过soup.head得到，其实前面也已经说了。

如何获得标签的内容数组？使用contents属性就可以比如使用printsoup.head.contents，就获得了head下的所有子孩子，以列表的形式返回结果，

可以使用[num]的形式获得,获得标签，使用.name就可以。

获取标签的孩子，也可以使用children，但是不能printsoup.head.children没有返回列表，返回的是<listiteratorobjectat0x108e6d150>,

不过使用list可以将其转化为列表。当然可以使用for语句遍历里面的孩子。

关于string属性，如果超过一个标签的话，那么就会返回None，否则就返回具体的字符串printsoup.title.string就返回了TheDormousesstory

超过一个标签的话，可以试用strings

向上查找可以用parent函数，如果查找所有的，那么可以使用parents函数

查找下一个兄弟使用next_sibling,查找上一个兄弟节点使用previous_sibling,如果是查找所有的，那么在对应的函数后面加s就可以

如何遍历树？

使用find_all函数

find_all(name,attrs,recursive,text,limit,**kwargs)

举例说明：

printsoup.find_all(title)

printsoup.find_all(p,title)

printsoup.find_all(a)

printsoup.find_all(id="link2")

printsoup.find_all(id=True)

返回值为：

[TheDormousesstory]

[TheDormousesstory

]

[Elsie,Lacie,Tillie]

[Lacie]

[Elsie,Lacie,Tillie]

通过css查找,直接上例子把：

printsoup.find_all("a",class_="sister")

printsoup.select("p.title")

通过属性进行查找

printsoup.find_all("a",attrs={"class":"sister"})

通过文本进行查找

printsoup.find_all(text="Elsie")

printsoup.find_all(text=["Tillie","Elsie","Lacie"])

限制结果个数

printsoup.find_all("a",limit=2)

结果为：

[Elsie,Lacie,Tillie]

[TheDormousesstory

]

[Elsie,Lacie,Tillie]

[uElsie]

[uElsie,uLacie,uTillie]

[Elsie,Lacie]

总之，通过这些函数可以查找到想要的东西。

---end---

本文内容总结：

原文链接：https://www.cnblogs.com/yupeng/p/3362031.html