Python常用爬虫代码总结方便查询-创新互联
beautifulsoup解析页面
from bs4 import BeautifulSoup
soup = BeautifulSoup(htmltxt, "lxml")
# 三种装载器
soup = BeautifulSoup("", "html.parser")
### 只有起始标签的会自动补全，只有结束标签的会自动忽略
### 结果为：
soup = BeautifulSoup("", "lxml")
### 结果为：
soup = BeautifulSoup("", "html5lib")
### html5lib则出现一般的标签都会自动补全
### 结果为：
# 根据标签名、id、class、属性等查找标签
### 根据class、id、以及属性alog-action的值和标签类别查询
soup.find("a",class_="title",id="t1",attrs={"alog-action": "qb-ask-uname"}))
### 查询标签内某属性的值
pubtime = soup.find("meta",attrs={"itemprop":"datePublished"}).attrs['content']
### 获取所有class为title的标签
for i in soup.find_all(class_="title"):
print(i.get_text())
### 获取特定数量的class为title的标签
for i in soup.find_all(class_="title",limit = 2):
print(i.get_text())
### 获取文本内容时可以指定不同标签之间的分隔符，也可以选择是否去掉前后的空白。
soup = BeautifulSoup(' The Dormouses story
The Dormouses story
', "html5lib")
soup.find(class_="title").get_text("|", strip=True)
#结果为：The Dormouses story|The Dormouses story
### 获取class为title的p标签的id
soup.find(class_="title").get("id")
### 对class名称正则：
soup.find_all(class_=re.compile("tit"))
### recursive参数，recursive=False时，只find当前标签的第一级子标签的数据
soup = BeautifulSoup('abc','lxml')
soup.html.find_all("title", recursive=False)</pre> <br>
当前文章：Python常用爬虫代码总结方便查询-创新互联 <br>
文章位置：<a href="http://scyanting.com/article/hoihh.html">http://scyanting.com/article/hoihh.html</a>
</div>
</div>
<div class="contentr fr">
<h3>其他资讯</h3>
<ul>
<li>
<a href="/article/choddi.html">浅析适合于优化排名的网站标题定位</a>
</li><li>
<a href="/article/chodoi.html">内部人士告诉你百度排名的套路</a>
</li><li>
<a href="/article/choope.html">tomcat集群机制剖析及其生产部署选型</a>
</li><li>
<a href="/article/choojh.html">数据上云良品率及安全性双提升</a>
</li><li>
<a href="/article/choops.html">美图“秀”不起来</a>
</li> </ul>
</div>
</div>
</div>
<!--底部-->
<footer>
<div class="foot">
<div class="container">
<h1>盐亭大橙子建站您身边的网站制作服务商</h1>
<div class="foot1">
<ul>
<li>
<dl><i class="iconfont"></i><b>地址ADDRESS</b></dl>
<p>四川-成都青羊区太升南路288号<br>
锦天国际A座10楼
</p>
</li>
<li>
<dl><i class="iconfont"></i><b>电话/TEL</b></dl>
<p><a href="tel:02886922220" target="_blank">028 86922220</a> (工作日)<br>
<a href="tel:18980820575" target="_blank">1898082 0575</a> ( 7x24 )
</p>
</li>
<li>
<dl><i class="iconfont"></i><b>QQ咨询</b></dl>
<p> 244261566 (售前)<br>
631063699 (售后)
</p>
</li>
<li>
<dl><i class="iconfont"></i><b>邮箱/E: mail</b></dl>
<p> service@cdcxhl.com (业务)<br>
hr@cdcxhl.com (求职)
</p>
</li>
</ul>
</div>
<div class="link">
友情链接：
<a href="https://www.cdxwcx.com/tuiguang/ruanwen.html" title="软文营销" target="_blank">软文营销</a> <a href="http://www.cdxwcx.cn/tuoguan/" title="服务器托管" target="_blank">服务器托管</a> <a href="http://www.cdhuace.com/fuwu.html" title="名片设计" target="_blank">名片设计</a> <a href="http://www.zjjierui.cn/" title="zjjierui.cn" target="_blank">zjjierui.cn</a> <a href="http://www.cdxwcx.cn/weihu/" title="成都网站改版" target="_blank">成都网站改版</a> <a href="http://www.bzwzjz.com/serve/" title="高端网站设计" target="_blank">高端网站设计</a> <a href="http://m.cdxwcx.com/wenjiang.html" title="温江电信机房" target="_blank">温江电信机房</a> <a href="http://www.scluxian.com/" title="泸县网站建设" target="_blank">泸县网站建设</a> <a href="http://www.cdxwcx.cn/tuoguan/zigong.html" title="自贡服务器托管" target="_blank">自贡服务器托管</a> <a href="http://www.idckuai.cn/" title="虚拟主机" target="_blank">虚拟主机</a> </div>
</div>
</div>
<div class="copy container">
Copyright © 2017-2023 All Rights Reserved. 青羊区大橙子信息咨询工作室 版权所有 <a href="http://www.beian.miit.gov.cn/" target="_blank" rel="nofollow">蜀ICP备2022028542号-18</a>
[原创设计,独立版权。未经许可.不得拷贝或镜像]<br>
<a href="http://www.kswsj.cn/" target="_blank">网站营销推广</a> | <a href="https://www.cdcxhl.com/pinpai.html" target="_blank">品牌网站设计</a> | <a href="http://www.cdweb.net/" target="_blank">自适应网站制作</a> | <a href="http://cdkjz.cn/wangzhan/pinpai/" target="_blank">品牌网站制作</a> | <a href="http://chengdu.cdxwcx.cn/" target="_blank">成都网站制作</a> | <a href="https://www.cdcxhl.com/cloud/" target="_blank">云服务器</a> | <a href="https://www.cdcxhl.com/weihu/abazhou.html" target="_blank">盐亭网站维护</a> | (盐亭网站制作QQ : 631063699 )</div>
</footer>
<!--在线咨询-->
<div class="fot">
<ul>
<li>
<a href="mqqwpa://im/chat?chat_type=wpa&uin=532337155&version=1&src_type=web&web_src=oicqzone.com" target="_blank">
<img src="/Public/Home/img/fot1.png" alt="建站咨询">
<p>在线咨询</p>
</a>
</li>
<li>
<a href="tel:18980820575" target="_blank">
<img src="/Public/Home/img/fot2.png" alt="建站电话">
<p>拨打电话</p>
</a>
</li>
</ul>
</div>
</body>
</html>
<script>
$(".con img").each(function(){
var src = $(this).attr("src"); //获取图片地址
var str=new RegExp("http");
var result=str.test(src);
if(result==false){
var url = "https://www.cdcxhl.com"+src; //绝对路径
$(this).attr("src",url);
}
});
window.onload=function(){
document.oncontextmenu=function(){
return false;
}
}
</script>